记忆点:采样参数是任务级超参数,要用评测集调,不靠背固定值。
💡 答案要点
Temperature(温度):控制随机性
- 0 = 确定性输出(总是选概率最高的)
- 1 = 标准随机
1 = 更随机(可能胡言乱语)
Top-P(核采样):
- 只从累积概率>P 的词里采样
- 0.9 = 从前 90% 概率的词里选
Top-K:
- 只从概率最高的 K 个词里采样
- K=50 = 只从前 50 个候选词里选
调参建议:
| 场景 | Temperature | Top-P | Top-K |
|---|---|---|---|
| RAG/问答 | 0-0.3 | 0.9 | - |
| 创意写作 | 0.7-1.0 | 0.9 | - |
| 代码生成 | 0.2-0.3 | 0.95 | 50 |
