阅读
工具
关于
vLLM 宣布为 Step 5 Preview 提供 Day-0 支持,涵盖稀疏注意力、混合专家(MoE)、多 token 预测和视觉,并针对 Blackwell 和 Hopper 硬件开展了服务工作。vLLM 表示,该实现涵盖稀疏索引器、FP8 MegaMoE 和缓存传输,并分享了技术概述及内核测试结果。
AI 根据报道生成 · 2 天前更新
沿着报道,了解事件的不同侧面。
🎉 vLLM 已在 Day-0 支持 Step 5 Preview。 涵盖稀疏注意力、MoE、多令牌预测和视觉功能,并针对 Blackwell 和 Hopper 开展服务支持工作。 相关工作涉及稀疏索引器、FP8 MegaMoE 和缓存传输;内核测试结果及更多详情见 https://t.co/f9apB6vVGG
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。