跳到正文

Google 提交首个由 vLLM 提供服务的 TPUv7 AgentX 基准测试

1篇报道 1个报道来源 1 天前更新

先了解这件事

AI 综述

据 vLLM 称,Google 首次向 AgentX 提交了 TPUv7 基准测试,并使用 vLLM 提供工作负载服务。据报告,此次提交在外部、非 Google 工作负载成本口径下,每美元性能达到 GB300 NVL72 FP4 的 1.42 倍;这一数字是随提交附带的一项说法。 vLLM 将这套配置的成功运行归功于 Google TPU、Red Hat AI 和 inferact 的贡献者。

AI 根据报道生成 · 1 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. vLLM 报告首个 TPUv7 提交至 AgentX,并由 vLLM 提供服务

    我们很高兴看到首个 TPUv7 提交至 AgentX,并由 vLLM 提供服务。 感谢 @Google TPU、@RedHat_AI 和 @inferact 的团队成员付出的努力,让它成功运行。我们期待通过 AgentX 在 TPU 上部署更多模型。https://t.co/Ea730oFhrd

本事件热度走势

可比范围当前
4
可比范围峰值
1010月16日 09:00
近 24 小时变化
-51%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。

继续阅读

最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线

正在热议

  1. 1Meta 开放发布 Muse Spark Open,支持 Mac 和云端部署,位居美国开放权重模型榜首
  2. 2Google 在全球推出 Gemini 4 Argon,并扩大付费访问范围,基准测试结果不一
  3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
  4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议