AI 幻觉：是什么、为什么发生、如何应对

什么是 AI 幻觉？

AI 幻觉是指生成式 AI 工具以笃定的方式给出错误、捏造或缺乏输入信息支持的内容。NIST 的生成式 AI 专项指南使用“虚构”一词指代同一现象，并将其描述为生成式系统生成并笃定地呈现错误或虚假内容。NIST 的定义还包括偏离提示词或其他输入信息，或与同一段对话中先前陈述相矛盾的输出。

“幻觉”是一种比喻，而且略有误导。工具并不是看到了不存在的东西，而是在生成从统计上看符合上下文的文本；有时，看似合理的文本却是错的。因此，幻觉很少看起来像错误，而更像一个正常、文笔流畅的回答。

为什么 ChatGPT 会产生幻觉？

ChatGPT 及类似工具会产生幻觉，因为它们的设计目的是生成可能接续的文本，而不是检索经过核实的事实。NIST 指出，编造内容是生成式模型设计方式带来的自然结果：模型近似模拟训练数据的统计分布，这既可能生成准确的内容，也可能生成事实错误或前后不一致的内容。NIST 指出，这一问题在开放式长篇回答以及需要专业知识的问题中尤为突出。

Kalai、Nachum、Vempala和Zhang在2025年发表的一篇研究论文提供了另一部分解释。作者认为，训练和评估流程往往更鼓励猜测，而不是承认不确定，因为在许多基准测试中，猜测的模型比回答“不知道”的模型得分更高。按照他们的解释，模型被优化成了善于应试的工具。无论具体机制如何，员工应从中得到的实际启示都一样：工具表现得多么自信，并不能说明它说的是否属实。

当你询问冷门、近期、非常具体或超出所提供材料范围的内容时，AI 更容易产生幻觉，例如某个确切数字、某人的职务、一段引文、一起诉讼案件，或某款产品的当前价格。如果要求工具仅依据你粘贴的文档作答，产生幻觉的可能性会降低，但仍然存在。

AI 幻觉在工作中有哪些表现？

在工作中，AI 幻觉通常表现为听起来合理的细小具体信息。此列表涵盖了员工最常遇到的形式。学会识别这些形式，就更容易发现问题。

AI 幻觉未被发现会有什么后果？

最知名的公开案例是美国纽约南区联邦地区法院于 2023 年 6 月 22 日裁决的 Mata 诉 Avianca 案。律师提交的法庭文件包含不存在的司法判决，其中的虚假引文和虚假引用均由 ChatGPT 生成。法院认定存在恶意行为，对相关律师及其律所处以 5,000 美元罚款，由其承担连带责任，并要求他们致信客户，以及姓名被冒用于虚构判决的法官。法院在考量处罚时指出，律所已为律师和员工安排了关于技术能力和 AI 工具的强制性法律继续教育。换言之，培训是在事后才进行的。

这里的教训不是律师粗心，而是虚构的引文看起来与真实引文毫无区别，而依赖它的人恰好跳过了本可发现问题的那一步：打开原始来源。工作中的大多数幻觉问题规模较小，比如客户邮件中的错误交付日期，或推介演示文稿中编造的统计数据，但失误的本质相同。

AI 幻觉仍然是个问题吗？

是的。供应商已增加一些有帮助的功能，例如带引用来源的网络搜索，以及根据上传文件作答的能力，但没有一家声称已消除幻觉。Anthropic 自己的 Claude 文档指出，其推荐技巧可以减少幻觉，但不能完全消除，并建议核实关键信息，尤其是在作出重大决策时。Google 关于 Gmail 和电子表格中 Gemini 功能的帮助页面也提醒，这些功能可能提供不准确或不恰当的信息。

对于任何声称某款工具不再产生幻觉的说法，都应保持怀疑。更值得问的是：就你的用途而言，某款工具在哪些检查措施下，能够足够可靠地处理哪些任务。

如何减少 AI 幻觉？

减少幻觉的方法，是缩小工具需要自行编造的空间：提供来源，要求它仅使用该来源，允许它回答不知道，并要求它为每项论断提供证据。下述技巧来自工具提供商的指导，包括 Anthropic 关于减少幻觉的文档，并针对非技术工作作了调整。无论使用哪种技巧，都仍需核查。

结合多种技巧的提示词示例：仅根据下方的政策文本，列出适用于出发前48小时内预订的员工差旅的三条规则。针对每条规则，逐字引用其依据的原句。如果政策未涵盖某项内容，写明“未说明”。不要使用通用知识。

在实际工作中，如何识别 AI 幻觉？

以一家虚构的牙科用品分销商北门供应公司为例，该公司有 25 名员工。一名销售协调员粘贴了公司两页的退货政策，并向 AI 助手提问：已拆封产品的退货期限是多久？是否收取退货入库费？提供的政策写明，未拆封商品可在 30 天内退货，已拆封商品只有存在质量问题时才能退货，但没有提及退货入库费。

第一个回答：已拆封的产品可在14天内退货，但需支付15 percent的重新入库费。这两个细节都是编造的。政策中既没有提到14天，也没有提到费用。它们看似合理，是因为许多退货政策都有这些规定，而这恰恰说明，统计上很可能出现的答案是如何出错的。

协调员使用上述方法重新提问：只依据政策，引用原句，没有说明的就写“未说明”。第二次回答：已拆封商品：仅在存在质量问题时可退货（引文：已拆封商品仅在产品存在质量问题时可退货）。重新入库费：未说明。对照文件，几秒内就能核查这个回答；费用方面的缺漏则交由政策负责人确认，而不是写进客户邮件。

员工发现 AI 幻觉后应该怎么做？

删除或纠正错误陈述，然后判断是否已经有人据此采取了行动。如果输出还只是草稿，修正后即可继续，同时在审核记录中注明工具编造了这一细节。如果内容已经发送、分享或用于决策，应告知负责人，以便其纠正。不要悄悄修改别人已经读过的文档。

告诉同事哪些类型的问题导致了错误，也会有帮助。一个会分享出错实例的团队，比每个人各自发现同样问题的团队学得更快。核查草稿的具体步骤见 AI 输出事实核查指南。

AI 的回答不好，在什么情况下并不属于幻觉？

并非所有不好的回答都是幻觉，解决方法也不相同。如果工具因训练后信息发生变化而给出了过时答案，就需要提供最新来源。如果回答带有偏见或片面性，问题在于问题设定和公平性，而不是凭空编造。如果工具按照模糊的提示词给出了合理但不符合预期的结果，就需要把任务说明写得更清楚。如果有人故意用 AI 误导他人，那是行为问题，而不是培训问题。

本指南也无法判断某款工具是否适合安全地用于某项高风险任务。对于涉及个人的法律、医疗、财务或雇佣决策，无论输出是如何生成的，都应请具备相应资质的人员审核。

来源与范围

NIST，AI 600-1：生成式 AI 风险概况，July 2024 ↗

Kalai、Nachum、Vempala 和 Zhang，《语言模型为何产生幻觉》，arXiv，4 September 2025 ↗

Anthropic，Claude 文档：减少幻觉，访问于 16 October 2026 ↗

Mata 诉 Avianca, Inc. 案，678 F.Supp.3d 443（纽约南区联邦地区法院，22 June 2023），副本由 CLLA 托管 ↗

Gmail 帮助，在 Gmail 中与 Gemini 协作，访问日期：16 October 2026 ↗

Google 文档编辑器帮助，在 Google 表格中与 Gemini 协作，访问日期：16 October 2026 ↗