清华大学崔鹏：应充分关注人工智能的系统性风险

　　【财新网】（记者 黄晏浩）“未来10到20年，人工智能的应用将进入深水区，会向和人密切相关的领域渗透，比如医疗、司法以及金融科技等领域。我们认为这是风险敏感型的领域。如果人工智能犯了错，会造成比较大的系统风险。”清华大学计算机系长聘副教授崔鹏12月29日在2020未来科学大奖周上，从技术角度分析了人工智能的风险来源，并表示其系统性风险应该得到研究和技术应用两方面的充分关注。

　　人工智能为什么会犯错？崔鹏认为和人工智能技术的“黑匣子”有关。“人工智能的现状，或者技术性风险的主要来源可以归结为一句话——只知其然，不知其所以然。”他表示，正因如此，人工智能技术在各方面都存在一些缺陷，可以将之概括为“不可解释、不稳定、不公平、不可回溯”这四大问题。