跳到正文

vLLM 为 Step 5 Preview 提供 Day-0 支持

1篇报道 1个报道来源 2 天前更新

先了解这件事

AI 综述

vLLM 宣布为 Step 5 Preview 提供 Day-0 支持,涵盖稀疏注意力、混合专家(MoE)、多 token 预测和视觉,并针对 Blackwell 和 Hopper 硬件开展了服务工作。vLLM 表示,该实现涵盖稀疏索引器、FP8 MegaMoE 和缓存传输,并分享了技术概述及内核测试结果。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. vLLM 新增对 Step 5 Preview 的 Day-0 支持

    🎉 vLLM 已在 Day-0 支持 Step 5 Preview。 涵盖稀疏注意力、MoE、多令牌预测和视觉功能,并针对 Blackwell 和 Hopper 开展服务支持工作。 相关工作涉及稀疏索引器、FP8 MegaMoE 和缓存传输;内核测试结果及更多详情见 https://t.co/f9apB6vVGG

本事件热度走势

可比范围当前
3
可比范围峰值
1010月15日 22:00
近 24 小时变化
-49%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。

继续阅读

最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线

正在热议

  1. 1Meta 开放发布 Muse Spark Open,支持 Mac 和云端部署,位居美国开放权重模型榜首
  2. 2Google 在全球推出 Gemini 4 Argon,并扩大付费访问范围,基准测试结果不一
  3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
  4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议