vLLM 新增对 NVIDIA Vera Rubin 的支持

发生了什么

vLLM 现已支持 NVIDIA Vera Rubin。早期结果显示，在 AgentX 上运行 MiniMax M3 时，其吞吐量超过 GB200 的 7.8 倍。vLLM 团队表示，自 Rubin 发布以来，他们一直与 Inferact、NVIDIA AI、Red Hat AI 以及 vLLM 社区合作，让 vLLM 在 Rubin 上运行。

这件事到目前为止

vLLM 团队表示，vLLM 现已支持 NVIDIA Vera Rubin。早期结果显示，在 AgentX 上运行 MiniMax M3 时，其吞吐量超过 GB200 的 7.8 倍。团队表示，自 Rubin 发布以来，他们一直与 Inferact、NVIDIA AI、Red Hat AI 以及 vLLM 社区合作，让 vLLM 在 Rubin 上运行。 这一吞吐量数据是 vLLM 团队自己的早期结果，并非经独立确认的基准测试；它仅适用于在 AgentX 上运行的 MiniMax M3。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议