人工智能启蒙先驱：AI设计遵循两原则或可避免失控

　　【财新网】ChatGPT-4出现后，人类即将迎来AGI（通用型人工智能）时代了吗？美国加州大学伯克利分校计算机科学教授斯图尔特·罗素（Stuart Russell）在近期于北京召开的智源大会-安全与对齐论坛上给出了否定的回答。他认为，如果把AGI比作拼图，那么ChatGPT等语言大模型仅仅是拼图的一部分，人类对它缺乏了解，还不知道如何将它与拼图的其他部分连接在一起，甚至还有缺失的一部分拼图没有找到。他提出，AI的设计目标应当是以人类最大利益为行事目标，以及知道自己没有最大利益，这两点或可避免AI甚至往后AGI可能的失控。