
🧠 图解记忆: 灰度不是慢慢上线,而是每一步都有对照、质量门槛、观察窗口和可执行回滚。
Demo 回答: "改完代码重新部署" ❌ 生产级回答: 灰度不是"慢慢发",而是可控地验证新策略在真实流量上的表现,同时保留随时回滚的能力。
具体做法:
- Shadow 模式(影子模式): 新旧策略同时跑,新策略只记录结果,不返回给用户。它适合比较离线可计算指标,但无法直接观察用户行为变化。
- Canary 发布(金丝雀): 按用户或租户稳定分桶,先放少量真实流量;比例和观察时间由风险、流量及最小可检测效果决定。
- 可验证回滚: 策略、Prompt、Embedding、索引和模型都要有版本;回滚目标应通过演练得到,而不是预设“30 秒”。
- 质量门禁: 同时监控任务质量、拒答、安全、延迟、错误率和成本;明确自动回滚与人工确认的边界。
30 秒回答
“先用离线回归保证已知能力不退化,再用 Shadow 流量验证真实输入,之后按用户稳定分桶做 Canary。发布单元不只是代码,还包括 Prompt、模型、Embedding 和索引版本。门禁覆盖质量、安全、延迟和成本;回滚时间必须演练。涉及索引或数据格式变化时,还要验证旧服务能否读取新数据,不能假设改一个配置就能回滚。”
相关基础考点(使用主答案)
- 分块与 overlap:见 RAG 系统 Q6;
- 混合检索、RRF 与 Rerank:见 向量索引优化;
- 成本控制:见 RAG 系统 Q8;
- 动态知识更新:见 RAG 系统 Q20;
- Agent 工具兜底:见 Agent 基础 Q10。
📚 参考:Langfuse(灰度发布与线上评测)