| 话题 | 核心要点 |
|---|---|
| 流式输出 | 单向文本流优先评估 SSE；双向实时交互评估 WebSocket / WebRTC |
| NL2SQL | 三层防护：语法检查、安全过滤、执行限流 |
| RAGAS | 忠实度、相关性、上下文精度、召回率 |
| 监控指标 | 延迟、成本、错误率、满意度、TTFT |
| 多轮对话 | 分层管理：最近 3 轮原文 + 历史摘要 |
| 模型路由 | 简单/中等/复杂三档，成本降低 35% |
MLOps & 监控
| 组件 | 工具 | 作用 |
|---|---|---|
| 实验跟踪 | MLflow, W&B | 参数/指标记录 |
| CI/CD | GitHub Actions | Prompt测试→评估→部署 |
| 监控 | Prometheus+Grafana | 性能/质量/成本 |
| 数据漂移 | Evidently, KS Test | 分布变化检测 |
| A/B测试 | 流量分流 | 模型版本对比 |