财新传媒
环科 > 要闻 > 正文

特稿|AI全面接入时代如何应对AI“幻觉”?

文|财新 徐路易
2025年02月21日 18:23
只要AI模型是基于概率生成文本,就会有幻觉,这是目前市面上大语言模型的“基因特点”。人类社会若要更好地利用这项工具,也需要与它的幻觉共存
图:AI辅助制作

  【财新网】“所有内容均由AI(人工智能)生成,仅供参考。”——与大语言模型交互的页面底部,常有这样一句带有免责意味的话。

  但“仅供参考”四个字举足轻重。2023年6月,一名美国法官对两名律师和一家律师事务所处以了5000美元罚款,原因是他们在一份法庭文件中提交了由ChatGPT生成的虚假引文。这两名律师代理的一起航空伤害索赔案中,律师使用了ChatGPT生成了部分法律摘要内容,其中包括6个由AI虚构的判例。

  推荐进入财新数据库,可随时查阅宏观经济、股票债券、公司人物,财经数据尽在掌握。

责任编辑:冯禹丁 | 版面编辑:吴秋晗
推广

财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅