vLLM 报告称，在 AgentX 上的解码性能比 DeepInfer 低不到 6%

发生了什么

vLLM 表示，Wide-EP 和 EPLB 使其解码性能与 DeepInfer 相差不到 6%；在 AgentX 工作负载上达到 200 P90 TPS 时，按 DeepSeek 的非高峰定价，每 GPU 每小时可产生 39 美元收入。 该帖子链接至更多详情：。

这件事到目前为止

vLLM 表示，在 AgentX 工作负载和 200 P90 TPS 条件下，其 Wide-EP 和 EPLB 配置的解码性能可达到 DeepInfer 的 6% 以内。vLLM 还表示，在相同的工作负载和性能条件下，按 DeepSeek 的非高峰时段定价，每张 GPU 每小时可产生 39 美元收入。

继续阅读

正在热议

1. 1Mistral 发布 Voxtral 3 语音模型、语音智能体 API 和基于 LiveKit 的 SDK
2. 2DeepSeek 开源 DeepInfer 和 API 组件，但模型与硬件支持有限
3. 3OpenAI 收购 Orchestra Bio，拓展药物研发 AI 工具
4. 4谷歌开始向 Android Auto 推出 Gemini 个人智能功能，搭载 Google Built-In 的汽车也将在之后支持