Skip to content
🔗 分享本题
查看我的学习进度 →
概念一句话解释
Temperature控制输出随机性,0=确定,1=随机
CoT让模型一步步思考,提升推理能力
Few-shot给几个例子,让模型模仿
Zero-shot不给例子,直接让模型做
Prompt CachingKV Cache跨请求复用,prefix放最前可省90%
CoVeChain-of-Verification:草稿→质疑→验证→修正闭环
LLM-as-a-Judge强模型当裁判自动化评估输出质量
Prompt给模型的指令和上下文

进阶技巧

技巧原理提升效果成本
Self-Consistency多次推理投票选最优,n=5提升13%+15-20%5-10x
Tree of Thoughts树状探索回溯,Beam Search优化+40-60%10-50x
Auto-CoT自动生成示例接近人工CoT聚类成本
Prompt CachingKV Cache跨请求复用,prefix顺序优化-90% cost极低
Chain-of-Verification草稿→规划验证问题→独立验证→重写事实性收益需按任务评测增加调用与延迟
Speculative RAG生成初稿→逐句验证证据→修正重构faithfulness↑20%2x延迟
LLM-as-a-Judge强模型当裁判,固定judge+counterbalancing自动化评估
A/B Testing框架三层评估(离线回归→影子测试→在线A/B)regression↓90%
Prompt Leakage防护多层防御安全性
Prompt Injection防御输入隔离+指令边界+工具权限最小化安全性
结构化输出JSON Mode/Structured Outputs/Function Calling
Context Engineering上下文信息系统化编排,Lost in Middle解决
推理模型Prompto3/R1不需要外部CoT,关心Thinking Budget避免反效果
Temperature实战RAG 0.1-0.3,创意 0.7-1.0,代码 0.0-0.2