722 次浏览 · 4 赞 · 1 转发 (收录时)
NVIDIA Nemotron 3.5 Super VL 现已在 Ollama 上线
发生了什么
NVIDIA Nemotron 3.5 Super VL 现已在 Ollama 上线。 该模型将推理能力与视觉理解能力相结合,适用于多种智能体工作流。 Ollama 表示,在智能体任务中,与其他同等规模的开放模型相比,该模型在单 GPU 上的吞吐量最高可达 5 倍。
这件事到目前为止
NVIDIA 发布了 Nemotron 3.5 Super VL 和 Nemotron 3.5 Bolt 74B-A9B 24GB,两者现已在 Ollama 上提供。较小的 Bolt E4B 4GB 模型计划于 10 月 23 日推出。 Super VL 是一款开放的多模态模型,拥有 1200 亿总参数和 120 亿激活参数。它将推理和工具使用与文本、图像、文档及视频理解相结合,适用于智能体工作流。NVIDIA 发布了其模型权重、数据集和训练方案。vLLM 在发布当天就加入了支持,并列出 100 万 token 的上下文窗口;Red Hat AI 也发布了开放的 FP8 和 DSpark 优化检查点。 Bolt 74B-A9B 面向本地智能体任务,采用原生 2 位量化,可装入 24GB 内存。NVIDIA 表示,该模型针对 RTX Spark 进行了优化,设计为可与其他应用同时运行。它也可在 Hugging Face 上获取,并支持 llama.cpp、LM Studio、Unsloth 和 vLLM。
继续阅读
最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-17
