vLLM 报告了 DeepSeek-V4.1-Flash 在 AgentX 上使用真实世界智能体工作负载的性能

发生了什么

vLLM 报告称，在 SemiAnalysis AgentX 的真实世界智能体工作负载下，总吞吐量达到 954K tokens/s/GPU（缓存+输入+输出），每位用户的 P90 速度为 196 tokens/s。 按 DeepSeek 的非高峰时段定价，vLLM 称这可带来每 GPU 小时 38.96 美元的收入，并称这是 AgentX 上有史以来最佳的 DeepSeek-V4.1-Flash 成绩。 vLLM 的工程博客介绍了这些优化以及如何复现结果：https://vllm.ai/blog/2026-10-23-deepseek-v41-flash-pd-wide-ep

接下来读什么

• 今日还有哪些重要变化Moonshot 发布 Kimi K3.1 Pro，承诺于 11 月 4 日开放权重，并推出更快的 Highspeed API

这件事到目前为止

vLLM 报告称，在 SemiAnalysis AgentX 的真实智能体工作负载测试中，DeepSeek-V4.1-Flash 的吞吐量达到 954K tokens/s/GPU（计入缓存、输入和输出 token），每位用户的 P90 吞吐量为 196 tokens/s。vLLM 称，这是迄今为止 DeepSeek-V4.1-Flash 在 AgentX 上的最佳成绩。 按照 DeepSeek 的非高峰时段定价，vLLM 表示，该成绩相当于每 GPU 小时 38.96 美元的营收。其工程博客介绍了相关优化，并提供了复现基准测试结果的说明。