OpenAI 联合创始人认为超级智能 AI 将“不可预测”

来源:互联网 更新时间2024-12-16 09:57:53 点击数:

在最近的 NeurIPS 年会上,OpenAI 的联合创始人伊利亚・苏茨科夫(Ilya Sutskever)分享了他对超智能人工智能(AI)未来发展的看法。他指出,超智能 AI 的能力将超越人类,未来将会展现出一种与当前 AI 截然不同的特质。

2024060309311804730.jpg

图源备注:图片由AI生成,图片授权服务商Midjourney

苏茨科夫表示,超智能 AI 将具备 “真实的主动性”,这与现在的 AI 相比有着显著差异。目前的人工智能被认为是 “非常轻微主动” 的,它们在处理任务时更多依赖于预设的算法和数据。然而,苏茨科夫预测,未来的超智能 AI 将具备真正的推理能力,能够从有限的数据中理解复杂的概念。这种推理能力将使得超智能 AI 的行为更加不可预测。

他进一步提到,超智能 AI 可能会拥有自我意识,并且可能会开始思考自身的权利问题。苏茨科夫认为,如果未来的 AI 只想与人类共存,并希望获得权利,这并不是一个坏的结局。这样的设想引发了与会者对于人机关系的深入思考。

在离开 OpenAI 后,苏茨科夫创立了 “安全超智能”(Safe Superintelligence)实验室,专注于人工智能的安全研究。该实验室在今年九月成功筹集了10亿美元的资金,显示了投资者对 AI 安全领域的高度关注和重视。

苏茨科夫的发言引发了对未来超智能 AI 的广泛讨论,不仅关乎技术的进步,更涉及到人类与人工智能之间的伦理和共存问题。


首页 AI对话 资讯 我的