Skip to content
🔗 分享本题
查看我的学习进度 →

版本化检索策略包经离线、影子、金丝雀到全量发布并分层评估和一键回滚图

🧠 记忆锚点:把模型、索引和检索参数打成可追踪策略包;离线、影子、金丝雀逐级放量,按检索、生成、业务和成本分层归因。

💡 答案要点

背景(面试高频):

简历写了 RAG 项目,面试官必问:"上线之后,检索策略怎么灰度?效果怎么评测?翻车怎么回滚?成本怎么算?" Demo 能跑通 vs 生产能跑稳,中间差的就是检索治理(RetrievalOps)

Demo 级 vs 生产级的差距:

Demo:top_k 写在代码里 → 想改要改代码、发版、重启、祈祷
生产:检索策略热配置 → 改参数不重启,秒级生效

RetrievalOps 四大核心能力(面试必答):

能力说明关键点
策略热加载top_k、embedding 模型、混合检索权重等配置中心化改配置不重启,秒级生效
灰度发布Shadow 影子模式 → Canary 金丝雀 → 全量小流量验证再放量
质量门禁上线前跑评测集,指标不达标不允许发布Recall/NDCG/Faithfulness 门槛
一键回滚配置版本化管理,异常秒级回滚配置库版本 + 缓存清理

Shadow vs Canary 灰度(高频追问):

模式原理用途
Shadow(影子)新策略同时在线上跑,结果只记录不返回用户离线评测新策略效果,零风险
Canary(金丝雀)小比例流量(如5%)真实走新策略真实用户验证,异常可控
全量验证通过后全量切换保留回滚能力

效果评测指标(为什么只看 Recall@K 不够):

  • 检索层:Recall@K、NDCG、MRR(召回+排序质量)
  • 生成层:Faithfulness、Answer Relevance(RAGAS)
  • 业务层:用户满意度、点赞/投诉率、人工接管率
  • 成本层:请求级 Token 消耗归因,按查询类型/用户维度统计

成本归因(面试加分):

请求级成本 = Embedding费用 + 检索费用 + 生成Token费用
按 查询类型 / 模块 / 用户维度 归因
→ 发现某类查询成本异常高,针对性优化(如加缓存、降K值)

面试话术:

"我的 RAG 项目在生产环境做了检索治理:策略配置中心化热加载,top_k 和混合检索权重改配置不重启;上线走 Shadow→Canary→全量三步灰度,Shadow 模式新策略影子运行只记录不生效,Canary 放 5% 真实流量验证,通过后全量;质量门禁用评测集卡 Recall 和 Faithfulness,不达标不让发布;配置版本化管理支持一键回滚。成本按请求级归因,发现异常查询类型单独优化。"

📚 参考:Langfuse(灰度发布与效果评测)


版本: v3.128 | 更新: 2026-07-02 | 补充 Go Worker Pool / LLMOps / Prompt 管理