财新传媒
环科 > 要闻 > 正文

GPT革命|暂停AI训练公开信发起人:我并不反对AI

文|财新 周芊岍(实习),徐路易
2023年06月14日 16:17
在泰格马克看来,人类要控制AI,使其成为人类的助手而非对手,需要解决的主要问题有两个:第一,如何使AI能真正地完成人类想让它完成的任务,被称为对齐问题;第二,如何将世界各地的所有组织、公司、个人等联合起来,确保他们的动机是将人工智AI用于善事而不是恶事
资料图:马克斯·泰格马克(Max Tegmark)。

  【财新网】“谁先获得不受控制的超级智能并不重要,因为每个人都会在那一刻死去。”未来生命研究所创始人、美国麻省理工学院(MIT)教授马克斯·泰格马克(Max Tegmark)在近期于北京举办的智源人工智能大会上作了题为《如何掌控AI》的演讲。作为引起全球各界关注的“暂停AI训练”千人联名签署公开信的发起人,泰格马克在会上解释道,要求暂停AI研究并不是因为他反对AI,相反,正是因为看到了其潜力和可能带来的改变,才想要大家更谨慎、更负责任地进行研究,以确保人工智能(AI)在人类的控制之下。泰格马克特别强调,即使系统比人类更聪明,只要能证明它是安全的,就无需担心。

  推荐进入财新数据库,可随时查阅宏观经济、股票债券、公司人物,财经数据尽在掌握。

责任编辑:冯禹丁 | 版面编辑:肖子何
推广

财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅