大模型幻觉（Hallucination）是指模型生成看似合理、实则与事实不符或缺乏依据的内容。它既是模型能力边界的外在表现，也是当前 LLM 落地过程中最容易被用户感知的问题之一。本文尝试从工程实践角度，梳理减少幻觉的常见思路。需要说明的是，本文依据现有公开认知与通用工程经验撰写，未引用具体产品版本或实验数据，具体效果需结合业务场景验证。

一、先理解幻觉从何而来

在讨论"怎么减少"之前，有必要先明确幻觉的成因。幻觉通常与以下几类因素相关：

训练目标本身：自回归语言模型的目标是预测下一个 token，而不是"保证事实正确"。模型被训练成"流畅地续写"，而非"在不确定时保持沉默"。

知识时效与覆盖：模型参数中固化的知识存在截止时间，且对长尾、专业、私有领域覆盖不足。

解码策略：采样温度、top-p 等参数越高，输出越发散，偏离事实的概率也随之上升。

提示与上下文：模糊、缺乏约束的提示词，会让模型倾向于"编造"以填补信息空白。

缺乏外部校验：模型在生成时无法主动查证，只能依赖参数记忆。

理解这些成因，有助于对症下药，而不是寄希望于单一"银弹"。

二、减少幻觉的主要工程手段

1. 检索增强生成（RAG）

RAG 是目前业界最主流的思路之一：在生成前先从外部知识库检索相关内容，将其作为上下文注入提示词，让模型"基于给定材料回答"。

关键实践要点：

检索质量决定上限。召回不准，模型仍会基于错误上下文编造。

提示词中应明确要求"仅依据提供的资料回答，资料中没有的信息应说明无法回答"。

对检索结果做重排序（Rerank），提升上下文相关性。

保留引用来源，便于用户核查。

2. 提示工程与约束

通过提示词约束模型行为，是成本最低的手段之一：

明确要求模型在不确定时回答"不知道"，而非猜测。

要求分步推理（如 Chain-of-Thought），让中间过程可被审视。

提供少量示例（Few-shot），示范"有依据才回答"的模式。

限定输出格式（如 JSON），减少自由发挥空间。

3. 降低解码随机性

在事实性要求高的场景，可适当调低 temperature、top-p，甚至采用贪心解码。代价是输出多样性下降，需要根据场景权衡。

4. 工具调用与外部验证

让模型调用搜索、数据库、计算器等外部工具，把"记忆"转化为"查询"，可显著降低事实性错误。工具返回的结果可作为事实锚点，模型负责组织语言而非凭空生成。

5. 后处理与事实校验

生成之后，可引入独立环节进行校验：

用另一个模型或规则对输出做事实一致性检查。

对关键实体、数字、引用做交叉比对。

对高风险场景引入人工审核。

6. 微调与对齐

在特定领域，通过领域数据微调或对齐训练，可让模型更贴合业务事实分布。但需注意：微调无法从根本上消除幻觉，且可能引入新的偏差。

7. 多模型交叉与投票

对同一问题让多个模型或多次采样生成，比较结果一致性。一致性高的答案可信度相对更高，但这会带来成本上升。

三、组合策略往往比单点更有效

依据现有工程经验判断，减少幻觉很少靠单一手段解决。一个较为务实的组合是：RAG 提供事实基础；提示词约束模型行为；工具调用补充实时与精确信息；后处理校验兜底；人工审核覆盖高风险场景。

这套组合的核心逻辑是：把"模型凭记忆生成"转变为"模型基于证据组织"。

四、需要正视的边界

幻觉无法被彻底消除。当前技术条件下，只能降低发生概率与影响范围。

评估不可或缺。需要建立面向业务的幻觉评估集，持续度量改进效果。

成本与体验需权衡。检索、校验、多模型投票都会增加延迟与成本。

用户预期管理同样重要。在产品层面明确告知能力边界，可减少误用带来的风险。

五、结论

减少大模型幻觉，是一个系统工程问题，而非单纯的模型问题。检索增强、提示约束、工具调用、后处理校验与人工兜底，构成了当前较为可行的实践路径。对于具体业务，建议先明确幻觉的容忍度与高风险场景，再选择匹配的技术组合，并通过持续评估迭代优化。

生成标记：本文由 ITPUB 文章生成平台基于已选素材整理生成。