模型幻觉：为什么会一本正经地胡说八道

模型编造不存在的书名、案例和数据，这叫幻觉。本文解释它并非程序故障，而是训练目标与生成机制的必然产物，区分几种常见的幻觉类型，分析哪些提问方式最容易触发，并给出降低风险的实用做法。

它不是在撒谎，它是在补全

模型并不知道什么是真的，它只知道什么看起来合理。训练目标要求它预测下一个最可能的词，于是当它被问到一个自己没有可靠记忆的细节时，最安全的策略仍然是根据语言规律补出一个像样的答案。这不是道德问题，而是机制问题。

打个比方：让一位记性很好但没带资料的人回答某个冷门问题，他很可能凭印象说出一个听起来很合理的答案，并且自己都相信。模型的处境与之类似，而且它没有任何我不确定的内在警报，除非被专门训练过。

常见的几种幻觉

一是事实性编造，比如虚构不存在的论文、法条或人名。二是忠实性偏差，给出的摘要与原文意思不符。三是对自身能力的误述，比如声称执行了某个其实没做的操作。第四种最隐蔽：把用户提示里的错误前提当作事实继续发挥。

值得注意的是，幻觉与问题的类型密切相关。要求给出精确的日期、数字、出处时更容易触发；要求概括、改写、发散时则相对安全。了解这一点，就能在提问时主动规避高风险的表述，换句话说，提问方式本身就能放大或抑制幻觉。

能减少，但难以根除

最有效的办法是改变信息来源：把可靠的资料直接提供给模型，并要求它只依据这些材料回答、找不到就明说。这正是检索增强生成的思路。其次是把任务拆小，逐个核对，避免让模型一次性输出大量事实细节。

还有几个习惯很有用：对关键数字要求给出出处并自行验证；用不同措辞重问一遍看答案是否一致；对不确定的部分追问你有多确定。不过要记住，追问得到的肯定答复并不等于正确答案，最终仍需人工把关。

本文为 AI 科普内容，仅用于知识普及，不构成任何技术选型、投资或职业决策建议。