Skip to content
🔗 分享本题
查看我的学习进度 →
RAG 小步灰度发布与回滚图解

🧠 图解记忆: 灰度不是慢慢上线,而是每一步都有对照、质量门槛、观察窗口和可执行回滚。

Demo 回答: "改完代码重新部署" ❌ 生产级回答: 灰度不是"慢慢发",而是可控地验证新策略在真实流量上的表现,同时保留随时回滚的能力。

具体做法:

  1. Shadow 模式(影子模式): 新旧策略同时跑,新策略只记录结果,不返回给用户。它适合比较离线可计算指标,但无法直接观察用户行为变化。
  2. Canary 发布(金丝雀): 按用户或租户稳定分桶,先放少量真实流量;比例和观察时间由风险、流量及最小可检测效果决定。
  3. 可验证回滚: 策略、Prompt、Embedding、索引和模型都要有版本;回滚目标应通过演练得到,而不是预设“30 秒”。
  4. 质量门禁: 同时监控任务质量、拒答、安全、延迟、错误率和成本;明确自动回滚与人工确认的边界。

30 秒回答

“先用离线回归保证已知能力不退化,再用 Shadow 流量验证真实输入,之后按用户稳定分桶做 Canary。发布单元不只是代码,还包括 Prompt、模型、Embedding 和索引版本。门禁覆盖质量、安全、延迟和成本;回滚时间必须演练。涉及索引或数据格式变化时,还要验证旧服务能否读取新数据,不能假设改一个配置就能回滚。”

相关基础考点(使用主答案)

📚 参考:Langfuse(灰度发布与线上评测)