【财新网】“尽管超级人工智能看似很遥远,但我们相信它会在10年内到来。”大型语言模型ChatGPT的出品方OpenAI公司近日在官网发布文章称,10年之内就会出现超级人工智能,但是人类目前还没有办法控制和引导潜在的超级人工智能(Super AI),也无法防止其失控。因此,OpenAI期望组建新的团队,并承诺投入20%的算力资源,目标是在未来4年内解决超级人工智能对齐的核心技术挑战。
文章称,OpenAI更加关注超级人工智能而不是通用人工智能(AGI),因为他们希望强调更高的能力水平。通用人工智能是指一种能够像人类一样在各种领域中执行各种任务的智能系统。而超级人工智能是一种超越人类智能的AI,可以胜任人类无法执行的任务。OpenAI认为,超级人工智能将是人类发明的最具影响力的技术,它可以帮助人类解决世界上许多重要的问题。但超级人工智能具有的巨大力量也会使它变得非常危险,它有可能会使人类丧失权力,甚至导致人类灭绝。