你问大模型一个问题，它给出一段语气笃定、细节丰富的回答，可一查全是错的。这种「一本正经地胡说八道」有个专门的名字——幻觉（hallucination）。它不是程序 bug，而是当前这套技术路线的必然副产品。理解它从哪来，你才知道什么时候能信、什么时候必须查。
核心要点
- 幻觉的本质是模型在「补全看起来最合理的文本」，而不是在「陈述它知道的事实」。
- 训练数据的缺口、过时与偏差，会直接变成模型回答里的空白与错误。
- 模型没有内建的事实核查环节，除非外接检索或工具，否则它无法自我验证。
- 越是要求具体的数字、人名、日期、出处，幻觉风险越高；越是概念解释、思路梳理，可靠性越高。
根源一：它在补全文本，不是在查资料
大模型的训练目标极其朴素：给定前文，预测下一个最可能出现的词。整个训练过程都在优化「接得顺不顺」，而不是「说得对不对」。这两件事在大多数时候重合，因为训练语料里正确的表述本来就占多数；但当模型遇到它没见过的知识时，它不会停下来承认不知道，而是会沿着最像样的路径继续往下接。
可以把它想成一位读过海量书籍、但没有书架可查的考生。你问一个冷门问题，他不翻书，只能凭印象拼出一段话。印象模糊时，人往往会本能地用合理的细节去填补空白，让整段话听起来完整——大模型做的是同一件事，而且它补出来的细节往往比人更连贯、更自信。
根源二：训练数据本身就有缺口和噪声
模型的知识边界由训练数据划定。公开语料中存在三类问题：一是覆盖不全，小众领域、非英语内容、近期事件的数据量少；二是时间滞后，训练截止之后的事件它一无所知；三是内容噪声，互联网上本就充斥着错误、夸大和互相矛盾的说法，模型会一并学进去。
还有一个容易被忽视的现象：模型对「出现频率高」的内容记得更牢。热门事件、常见人名会被反复强化，冷门但真实的信息反而容易被张冠李戴。这就是为什么它讲起知名公司头头是道，说起某个小城市的地方政策就漏洞百出。
根源三：缺少自我校验的环节
人在不确定时会说「我记不清了」，这是一种元认知能力。原始形态的大模型没有这个开关：它输出的每个词，都只是概率计算的结果，系统里没有一个环节负责问「这句话是真的吗」。
业界的补法主要有两条路。一是检索增强（RAG）：先去外部知识库或搜索引擎找出相关资料，再让模型基于这些资料作答，相当于给它配了一个书架；二是工具调用：让模型在需要精确计算或实时信息时，去调计算器、数据库或接口，而不是靠猜。两种方案都能显著降低幻觉，但都不能完全消除——模型仍可能误解检索到的内容，或在拼接信息时出错。
普通人怎么降低风险
第一，分清任务类型。让模型解释概念、梳理思路、润色文字、生成大纲，这类任务的可靠性很高，因为它依赖的是语言与逻辑能力，而非具体事实。涉及数字、日期、人名、法条、论文出处、医疗建议这类可核查的事实时，默认它可能会错。
第二，要求它给出来源并自己去核。直接问「这个说法的依据是什么」，然后把得到的线索拿去查证。注意：它给的链接也可能是编的，务必自己打开看一眼。
第三，换一种问法做交叉验证。把同一个问题换个角度再问一次，或者让它先列出已知事实再作答。如果两次回答的关键细节对不上，基本可以判定至少有一次在编。
第四，涉及健康、法律、投资、学业等会产生实际后果的决策，把它当参考意见而非结论。这一条最老套，也最容易被跳过，但恰恰是代价最高的一类。
常见问题
开启联网搜索后是不是就不会幻觉了？
会大幅减少，但不是零。联网解决了「不知道最新信息」的问题，但模型仍可能误读搜索结果、把不同来源的信息错误拼接，或在总结时引入偏差。联网让答案的来源可追溯，这点很有价值——你可以顺着它给的线索去核实，而不是只能相信它。
模型回答得越详细，是不是说明它越确定？
不是。详细程度和准确性没有必然联系。恰恰相反，越是要求它展开细节，它越需要凭空补全，出错概率反而上升。回答简洁、愿意说「这个我不确定」的模型，通常经过了更好的对齐训练。
本文为 AI 科普内容，仅用于知识普及，不构成任何技术选型、投资或职业决策建议。