vLLM 发布 0.33.0 版本，支持新模型并更新推测解码

1篇报道 1个报道来源 3 小时前更新

先了解这件事

AI 综述

vLLM 发布了 0.33.0 版本，支持 Reflection Beam-1.0、Step-5 Preview、Nemotron Parse 3.5 和 MiniCPM-OCR 1.0。该版本还为推测解码新增了 XPress 精炼器和 FLy 有损验证功能。其 PyTorch 2.14 wheel 要求 CUDA 13.0，且保持 libtorch ABI 稳定。vLLM 表示，该版本包含 389 位贡献者提交的 927 个 commit，其中有 122 位是首次贡献者。

AI 根据报道生成 · 2 小时前更新

最新进展11月4日 07:53

vLLM 发布 v0.33.0，新增模型并更新推测解码 vLLM · X

接下来读什么

今日还有哪些重要变化Hugging Face 提议为 Transformers 制定模型集成契约

提到的模型

Step 5 Preview综合榜第 22每百万 Token 输入 $1 / 输出 $2.7

全部模型的 API 价格

报道时间线

沿着报道，了解事件的不同侧面。

11月4日

07:53
vLLM · X
vLLM 发布 v0.33.0，新增模型并更新推测解码
vLLM 已发布 v0.33.0。该版本基于 927 个提交构建，共有 389 位贡献者参与，其中 122 位是首次贡献者。此版本新增对 Reflection Beam-1.0、Step-5 Preview、Nemotron Parse 3.5 和 MiniCPM-OCR 1.0 的支持，并提供 PyTorch 2.14 wheel，要求 CUDA 13.0，且 libtorch ABI 稳定。推测解码方面的更新包括 XPress refiner 和 FLy lossy verify。

模型发布、价格变化、算力进展，附原始来源。免费，确认后开始发送，随时一键退订。看一份往期日报

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。