幻觉（Hallucination）

是什么

幻觉（hallucination）指模型把虚假或误导性的信息当作事实陈述出来^[2]。它的特征不在于模型会出错，而在于错误与正确输出长得一模一样：同样是流畅的句子、自信的语气。编造的文献、并不存在的引文、记错的数字，混在正常内容里毫无异样。读者如果没有独立的核查渠道，仅凭文本本身分辨不出来，所以这个问题通常被看成整个系统的性质，而不是某一条回答的瑕疵。

为什么会发生

一个常见原因是训练目标本身。预训练优化的是下一个词元的预测（next-token prediction），模型总是在生成最可能的后续内容；当它手上没有任何可供作答的信息时，仍然会给出一个猜测，而不是停下来说不知道^[2]。流畅恰恰是这一目标奖励的东西，所以没有依据的回答也可以是形式完美的一段话。

文献中提到的其他原因包括：训练数据不完整或不具代表性；模型倾向于附和用户；训练与评测机制奖励猜测，而不是奖励承认不确定性^[2]。Anthropic 曾报告，当本应抑制作答的内部回路被错误抑制时，幻觉也会出现^[2]——本该拦住模型开口的机制本身失灵了。

一次系统梳理

2022 年 2 月，Ji 等人发表了关于自然语言生成中幻觉的综述，指出基于深度学习的生成容易产生非预期文本，既拉低系统表现，也辜负用户预期^[1]。这篇综述立起了词汇和议程：如何度量幻觉、如何缓解、未来往哪里走^[1]；随后按任务逐一梳理，涵盖抽象式摘要（abstractive summarisation）、对话生成、生成式问答、数据到文本生成、机器翻译和视觉-语言生成^[1]。该综述后来的修订版专门增加了一节，讨论大语言模型（large language model）中的幻觉^[1]，可见研究重心转移之快。

现实中的样子

最清楚的公开证据来自参考文献。一项被广泛引用的测量发现，GPT-3 生成的 178 条参考文献中有 69 条的 DOI 是错误或根本不存在的，另有 28 条无法检索^[2]。另一项针对 115 条引用的分析发现，47% 完全是编造的，46% 真实存在但描述有误，只有 7% 准确^[2]。

常被提到的公开案例有两个。Meta 的 Galactica 演示引用了并不存在的论文，上线两天后即被撤下^[2]。在 Mata v. Avianca 案中，一名律师提交了 6 份伪造判决，被罚款 5000 美元^[2]。这两例的共同点是：输出格式正确、看上去合理，但都是假的。

数字该怎么读

上述数字不是某个系统的普遍错误率。它们各自来自特定任务、特定模型和特定的计数方式，而且统计的是参考文献而不是行文——这恰恰是最容易核查的部分，也最容易让幻觉暴露出来，所以比例显得格外刺眼。实践中通行的仍是那条定义：把虚假或误导性的信息当作事实呈现^[2]。这也解释了为什么幻觉很难靠单一手段根除：让生成文本变得有用的那些性质——流畅、覆盖面广、愿意作答——同时也正是制造幻觉的性质。