阅读
工具
关于
vLLM 报告称，Kimi K3 在 NVIDIA GB300 NVL72 上使用 DSpark，批量大小为 1 时达到每秒 842 个 token。vLLM 表示，统一的 CuTe DSL 解码路径融合了注意力、混合专家（MoE）运算和通信，在若干测试配置中实现了高出 1.5–2 倍的解码吞吐量。
AI 根据报道生成 · 13 小时前更新
沿着报道，了解事件的不同侧面。
Kimi K3 在 NVIDIA GB300 NVL72 上的解码性能：使用 DSpark 时，批量大小为 1 的吞吐量达到 842 tokens/s 🚀 统一的 CuTe DSL 解码路径融合了注意力、MoE 和通信，在若干经过测试的配置中实现了 1.5–2× 的解码吞吐量提升，并使 P90 交互性最高提升 1.8×
和上面这份一样：几件值得看的事。免费，点确认信之后才会开始发送，每封信都能一键退订。 看一份往期日报
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。
