AI幻觉是什么？为什么ChatGPT和Claude会编故事

2026年9月30日

AI幻觉（hallucination）指的是AI给出的回答听起来非常自信，但内容其实是编造的。它并非故意撒谎，更像一个人不确定答案时随口一猜，只不过AI猜的语气非常笃定，让人很容易信以为真。如果你曾见过ChatGPT或Claude引用一篇根本不存在的研究，或者给出一个听起来很精确但莫名其妙的数字，那就是幻觉。

AI幻觉到底是什么

幻觉是指AI给出的答案本身是错的，却表现得像真的一样。常见有三种类型：

编造来源： AI引用一篇研究、一个判例或一本书，而它们根本不存在。
编造数字： AI给出一个听起来很精确的数字（比如"增长了37%"），但这个数字并没有任何真实数据支持。
编造细节： AI在一个真实事件里加入虚构的人名、日期或情节，悄悄改变了事情原本的样子。

这三种情况有一个共同点：AI从不会说"我不确定"。它用和正确答案完全相同的自信语气来回答,这也是读者很难分辨真假的原因。

AI为什么会编故事

要理解这一点，需要先了解AI是怎么工作的。像ChatGPT或Claude这样的模型并不是从一本内置词典里"查找"事实。它是通过阅读训练数据中数十亿段文字，学会预测下一个词该是什么。当你提出一个问题时，它不是在调取一段精确的记忆，而是在计算接下来哪些词最可能组成一个听起来合理的答案。

这种方式让AI可以流畅地写作，灵活地回答几乎任何问题。但它也有一个弱点：当模型其实并不真正"知道"答案时，它仍然会继续猜一个听起来合理的答案，而不是停下来说"我不知道"。造成幻觉的具体原因包括：

相关训练数据不足： 对于比较冷门、非常新、或者非常小众的话题（比如一家小公司的名字、一次地方性事件），AI掌握的真实信息很少，于是就靠猜测来填补空白。
刁钻的提问： 如果你问的是根本不存在的东西（比如"介绍一下作者Y写的X这本书"，而这本书从未被写过），很多模型仍然会试图"编造"一个答案，而不是直接拒绝回答。
模型被训练成要回答，而不是保持沉默： 在训练过程中，模型通常会因为给出完整、自信的答案而获得更高评价，所以它更倾向于猜测，而不是留白。

真实案例：盲目相信AI会带来什么后果

这不是一个纯理论的风险。在美国，法庭文件中出现AI编造判例的案例数量增长很快：一年前大约200起，到今年1月增加到719起，到2026年年中已经超过1227起。在第六巡回上诉法院审理的一起案件（Whiting诉雅典市）中，两名律师提交的诉状里含有二十多个虚构引用，被法院罚款3万美元。在密西西比州的另一起案件中，双方都提交了虚假引用，导致法官不得不取消庭审，并暂停两名主办律师在该地区两年的执业资格。

这些事件的发生，并不是因为AI"故意欺骗"，而是因为使用者把AI给出的答案原封不动地抄进了法律文件，却没有核实那个判例是否真实存在。这个教训适用于所有人，不只是律师：你越是盲目相信AI，一旦它产生幻觉，你陷入麻烦的可能性就越大。

如何识别可能存在幻觉的回答

你不需要是技术专家也能及时产生怀疑。几个值得留意的信号：

数字异常整齐或异常精确，而你从未在别处见过，尤其是增长百分比、营收数字、非常具体的日期。
来源、书名或研究名称听起来很陌生，在Google上搜索却找不到任何结果。
AI回答得太快、太完整，而这类问题本应需要真实的调研才能准确回答。
话题非常冷门或非常新，比如最近几天的新闻、公司内部信息，或者鲜为人知的地方数据。

只要发现上述任何一种情况，安全的做法是：在用其他来源核实之前，不要把这个答案用于重要事情（写报告、发给客户、提交法律文件）。

日常使用中如何减少幻觉

你无法完全消除幻觉，因为这是AI工作方式本身带来的自然局限，但养成几个习惯可以大大降低风险：

始终要求AI给出来源： 在提示词末尾加一句"请告诉我这个信息的来源"。如果AI说不出具体来源，就把这条信息当作未经证实。
优先使用能真正联网搜索的工具，而不是只依赖模型训练时记住的内容。很多现代AI助手，包括能够执行多步骤任务的AI智能体，都可以在回答前先查阅真实资料，这样答案会更贴近真实数据，而不是凭空猜测。
对重要内容做交叉核实： 对于要用在报告、合同或公开文章里的数字，多花一分钟在Google上搜索一下来源或数字本身，确认它是真实的。
把大问题拆成小问题： 问题越具体，就越容易被核实，AI能编造额外细节的空间也就越小。
把AI当作一个记性不太好的聪明助手，而不是一本百科全书： 这种心态会让你自然而然地养成核实的习惯，而不是全盘相信。