跳到正文
K = 0.731订阅

vLLM Adds Day-One TPU Support for Kimi K3.1 Pro

1篇报道 1个报道来源 2 小时前更新

中文版本尚未就绪 · 显示原文

先了解这件事

AI 综述

vLLM announced day-one support for running Kimi K3.1 Pro on TPU v7x through vllm-torchtpu. The announcement points readers to an llm-d deployment guide and describes the support as part of continued collaboration between Google and Inferact.

AI 根据报道生成 · 2 小时前更新

最新进展11月6日 06:26
Kimi K3.1 Pro on TPUs, with day-0 support ⚡ Run it on TPU v7x with vllm-torchtpu. Great to see the continued collaboration between the @Google and @inferact teams! 🤝 Read more 👇 https://llm-d.ai/blog/deploy-kimi-k3-1-pro-with-llm-dvLLM · X

接下来读什么

今日还有哪些重要变化Google DeepMind 推出 Gemini Omni 1.2 Flash，支持生成更长视频

提到的模型

  • Kimi K3.1 Pro综合榜第 2每百万 Token 输入 $2 / 输出 $10
全部模型的 API 价格

报道时间线

沿着报道，了解事件的不同侧面。

11月6日
  1. vLLM · X
    Kimi K3.1 Pro 登陆 TPU，首日即支持 ⚡ 使用 vllm-torchtpu 在 TPU v7x 上运行。很高兴看到 @Google 和 @inferact 团队继续合作！🤝 了解更多 👇 https://llm-d.ai/blog/deploy-kimi-k3-1-pro-with-llm-d

    Kimi K3.1 Pro 登陆 TPU，首日即支持 ⚡ 使用 vllm-torchtpu 在 TPU v7x 上运行。很高兴看到 @Google 和 @inferact 团队继续合作！🤝 了解更多 👇 https://llm-d.ai/blog/deploy-kimi-k3-1-pro-with-llm-d

每天一封，跟上 AI 的重要变化

模型发布、价格变化、算力进展，附原始来源。免费，确认后开始发送，随时一键退订。 看一份往期日报

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。