主题
🧠 图解记忆: vLLM 与 SGLang 可以组合但要分层,别让两个运行时重复管理同一模型的调度和 KV。
可以!两者是正交的优化,可以叠加。
面试话术:
"vLLM 和 SGLang 不是互斥的。SGLang 可以用 vLLM 作为后端,同时享受两者的优化。选型时看团队熟悉哪个,vLLM 社区更大文档更全,SGLang 在复杂 Agent 场景更顺手。"