跳到正文

Meta 确认通过 SGLang-TorchTPU 在生产环境中使用 Google TPU

1篇报道 1个报道来源 2 小时前更新

先了解这件事

AI 综述

据 Baoyu 称,Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 确认,SGLang-TorchTPU 正在 Meta 的生产环境中用于 AI 推理。此前,Google 宣布了 SGLang 对 TPU 的推理支持。 《The Information》2 月报道称,Meta 与 Google 签署了一份价值数十亿美元的多年期 TPU 租赁合同。Zhou 的确认表明 TPU 已用于生产环境,但无法确定该部署使用的是租赁还是购买的 TPU。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. Meta 工程师证实 Google TPU 推理已在生产环境运行

    Baoyu 报道称,Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 证实,SGLang-TorchTPU 正在 Meta 的生产环境中运行,并援引了 Google 于 10 月 20 日发布的开发者博客,该博客宣布了在 TPU 上运行 SGLang 推理。Zhou 未透露部署规模、受影响的产品,也未说明这些 TPU 是租用还是购买的。《The Information》曾在 2 月报道,Meta 与 Google 签署了一份价值数十亿美元的多年期 TPU 租赁合同;两家公司均未公开披露这项安排的详情。

明早 08:00 把这样一份日报发到你邮箱

和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。

继续阅读

最新日报 · 第 28 期Mistral AI 发布 Voxtral 3 语音模型和语音智能体 SDK

正在热议

  1. 1Mistral 发布 Voxtral 3 语音模型、语音智能体 API 和基于 LiveKit 的 SDK
  2. 2DeepSeek 开源 DeepInfer 和 API 组件,但模型与硬件支持有限
  3. 3OpenAI收购Orchestra Bio,拓展用于药物研发的AI工具
  4. 4谷歌开始向 Android Auto 推出 Gemini 个人智能功能,搭载 Google Built-In 的汽车也将在之后支持