🧠 图解记忆:幻觉要靠证据、校验与风险分级治理;点击图片可查看原图。
定义: 模型编造不存在的信息。
减少幻觉的方法
- RAG - 基于检索内容回答
- Prompt 约束 - "不要编造,不知道就说不知道"
- 引用溯源 - 要求标注来源
- 外部校验 - 对实体、数字和引用做规则或工具验证
- 人工审核 - 高风险场景设置人工复核和拒答边界
降低 Temperature 可以减少输出差异,但不能保证事实正确,不能作为主要的幻觉治理手段。
📚 参考:Survey of Hallucination in Natural Language Generation(幻觉综述)
