财新传媒
财新传媒
1111111
财新通行证
T中

人工智能启蒙先驱:AI设计遵循两原则或可避免失控

文|财新 周芊岍(实习),徐路易
2023年06月15日 08:00
罗素提出,AI的设计目标应当是以人类最大利益为行事目标,以及知道自己没有最大利益,这两点或可避免AI甚至往后AGI可能的失控
news 原图 美国加州大学伯克利分校计算机科学教授斯图尔特·罗素在2023北京智源大会上发表主旨演讲。

  【财新网】ChatGPT-4出现后,人类即将迎来AGI(通用型人工智能)时代了吗?美国加州大学伯克利分校计算机科学教授斯图尔特·罗素(Stuart Russell)在近期于北京召开的智源大会-安全与对齐论坛上给出了否定的回答。他认为,如果把AGI比作拼图,那么ChatGPT等语言大模型仅仅是拼图的一部分,人类对它缺乏了解,还不知道如何将它与拼图的其他部分连接在一起,甚至还有缺失的一部分拼图没有找到。他提出,AI的设计目标应当是以人类最大利益为行事目标,以及知道自己没有最大利益,这两点或可避免AI甚至往后AGI可能的失控。

责任编辑:冯禹丁 | 版面编辑:肖子何

财新网所刊载内容之知识产权为财新传媒及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。

如有意愿转载,请发邮件至hello@caixin.com,获得书面确认及授权后,方可转载。

推荐阅读
财新移动
说说你的看法...
分享
取消
发送
注册
 分享成功

订阅财新网主编精选版电邮>>