vLLM vs LiteLLM

以下是从 11 个维度对 vLLM 和 LiteLLM 的详细对比。

vLLM

高性能 LLM 推理与服务引擎

pip install vllm

统一 LLM API 代理（100+ 模型接口）

pip install litellm

工具	价格	GitHub Stars	开源	支持模型	上下文窗口	多文件编辑	Git 集成	MCP 支持	子代理
vLLM🔓 高性能 LLM 推理与服务引擎	免费（BYOGPU）	87K+	✓	主流模型（Llama, Mistral, Qwen 等）	依模型而定	—	—	—	—
LiteLLM🔓 统一 LLM API 代理（100+ 模型接口）	免费（BYOK）+ 企业版	54K+	✓	100+ 模型（OpenAI, Anthropic, Google, 本地等）	依模型而定	—	—	—	—

vLLMpip install vllm

LiteLLMpip install litellm