Skip to content
🔗 分享本题
查看我的学习进度 →

LLM 幻觉治理动漫知识图:流畅回答可能包含无依据事实,应通过 RAG、提示约束、引用溯源、外部校验和人工审核建立证据防线

🧠 图解记忆:幻觉要靠证据、校验与风险分级治理;点击图片可查看原图。

定义: 模型编造不存在的信息。

减少幻觉的方法

  1. RAG - 基于检索内容回答
  2. Prompt 约束 - "不要编造,不知道就说不知道"
  3. 引用溯源 - 要求标注来源
  4. 外部校验 - 对实体、数字和引用做规则或工具验证
  5. 人工审核 - 高风险场景设置人工复核和拒答边界

降低 Temperature 可以减少输出差异,但不能保证事实正确,不能作为主要的幻觉治理手段。

📚 参考:Survey of Hallucination in Natural Language Generation(幻觉综述)