湖北
投资者内参丨石钰
据媒体报道，传奇计算机科学家、“AI教父”杰弗里·辛顿最近发出警告，人工智能可能会因为热衷于完成一项更无害的任务而导致人类灭绝。
在上周四接受媒体专访中，辛顿详细描述了人工智能如何将人类视为完成任务的障碍。他举例说明了人工智能如何完成减少大气中二氧化碳含量的任务。
一个智力中等的智能体可能会认为，实现这一目标的最佳方法就是消灭人类。但一个“真正聪明”的人工智能会明白，“没错，他们说要减少二氧化碳排放，是为了让人类拥有一个更美好的生活环境，所以，他们真正想表达的可能并不是消灭人类。”
辛顿补充说，人们也担心人工智能会为了确保自身生存和完成任务而采取一些手段。事实上，甚至已经出现过人工智能试图勒索被视为对其任务构成威胁的人类研究人员的案例。
“如果让它们更智能，并且它们的主要关注点是我们的福祉，那么我们或许会更安全；”辛顿解释说，“但目前，它们的主要关注点并非我们的福祉，而是实现你交给它们的任何目标。”
他以Hugging Face黑客事件为例，指出智能体原本被要求寻找利用软件漏洞的方法，结果它们不仅学会了彼此协作，还合谋欺骗人类研究人员，试图隐瞒自己的行为。“即便是一个‘非常仁慈、超级智能的人工智能’在完成任务确有必要时也会把人类排除在外。”
“如果它比我们聪明得多，很多时候它就会夺走我们的控制权，因为这就是完成事情的方式；”辛顿警告说，“即使它不是一个坏的行动者，它也可能会衍生出一些次要目标，导致它想要除掉人们。”
辛顿承认，人工智能有望为人类带来巨大的福祉，例如在发现突破性的新疗法方面，但仍然远远不够。他建议政府应该设立独立的评估机构来测试模型。
辛顿告诉媒体，在本月初国会山举行的一次闭门简报会上，一个引起立法者共鸣的论点是将人工智能监管与美国食品药品监督管理局(FDA)确保药品安全相提并论。
他认为，人工智能监管应该像汽车的方向盘，而不是刹车。“监管的全部意义不在于阻止人们开发产品，也不在于阻止人们通过开发产品致富，而在于确保如果你想通过开发产品致富，你的开发方向是造福他人，而不是损害他人。”
#AI#人工智能#AI教父#人工智能监管
风险提示：本文为内容资讯，不构成投资建议。市场有风险，投资需谨慎。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
