NVIDIA 发布 Nemotron 3.5 Super VL 和 Bolt 24GB，两者均已登陆 Ollama
先了解这件事
NVIDIA 发布了 Nemotron 3.5 Super VL 和 Nemotron 3.5 Bolt 74B-A9B 24GB，两者现已在 Ollama 上提供。较小的 Bolt E4B 4GB 模型计划于 10 月 23 日推出。 Super VL 是一款开放的多模态模型，拥有 1200 亿总参数和 120 亿激活参数。它将推理和工具使用与文本、图像、文档及视频理解相结合，适用于智能体工作流。NVIDIA 发布了其模型权重、数据集和训练方案。vLLM 在发布当天就加入了支持，并列出 100 万 token 的上下文窗口；Red Hat AI 也发布了开放的 FP8 和 DSpark 优化检查点。 Bolt 74B-A9B 面向本地智能体任务，采用原生 2 位量化，可装入 24GB 内存。NVIDIA 表示，该模型针对 RTX Spark 进行了优化，设计为可与其他应用同时运行。它也可在 Hugging Face 上获取，并支持 llama.cpp、LM Studio、Unsloth 和 vLLM。
AI 根据报道生成 · 2 小时前更新
事件进展
5 个进展
- 10月16日 07:53 · 1篇报道Ollama 将 NVIDIA Nemotron 3.5 Bolt 74B-A9B 加入模型库Ollama · X：NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 现已上线 Ollama
- 10月16日 07:50 · 1篇报道NVIDIA Nemotron 3.5 Super VL 登陆 OllamaOllama · X：NVIDIA Nemotron 3.5 Super VL 现已在 Ollama 上线
- 10月15日 23:54 · 1篇报道Red Hat 分享 FP8 和 DSpark Nemotron 3.5 Super VL 检查点vLLM · X：RedHat_AI 发布经过优化的 NVIDIA Nemotron 3.5 Super VL 检查点
- 10月15日 23:50 · 1篇报道vLLM 增加对 NVIDIA Nemotron 3.5 Super VL 的首日支持vLLM · X：vLLM 为 NVIDIA Nemotron 3.5 Super VL 提供 Day-0 支持
- 10月15日 23:00 · 3篇报道NVIDIA 发布 Nemotron 3.5 Super VL 和两款 Bolt 模型NVIDIA Blog：NVIDIA 扩展 Nemotron 系列，推出 Super VL 和 Bolt 开放模型
报道时间线
沿着报道，了解事件的不同侧面。
- 特别感谢所有合作伙伴通过后训练让 Nemotron 3.5 Super VL 成为自己的模型 🙌 来看看他们打造了什么 🧵
特别感谢所有合作伙伴通过后训练让 Nemotron 3.5 Super VL 成为自己的模型 🙌 来看看他们打造了什么 🧵
- NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 现已上线 Ollama
NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 现已上线 Ollama。 这款视觉语言模型（VLM）专为在本地运行日常智能体任务而设计，采用原生 2 位量化，可将模型装入 24GB 内存，并与其他应用同时运行。 ollama run nemotron-3.5-bolt
- NVIDIA Nemotron 3.5 Super VL 现已在 Ollama 上线
NVIDIA Nemotron 3.5 Super VL 现已在 Ollama 上线。 该模型将推理能力与视觉理解能力相结合，适用于多种智能体工作流。 Ollama 表示，在智能体任务中，与其他同等规模的开放模型相比，该模型在单 GPU 上的吞吐量最高可达 5 倍。
- NVIDIA 推出适用于本地智能体的 Nemotron 3.5 Bolt 24GB
NVIDIA AI 推出 Nemotron 3.5 Bolt 24GB，称其可装入 24GB 内存。 引用的 @NVIDIARTXSpark 帖子介绍了打包在 24GB 内存中的 74B-A9B 参数模型，该模型针对 RTX Spark 进行了优化，并设计为可与应用同时运行。 https://t.co/SOiBgeMMjD https://t.co/yPsBt9N58A
- 英伟达发布 Nemotron 3.5 Super VL，面向持续运行的企业 AI 智能体
英伟达发布了 Nemotron 3.5 Super VL，这是一款拥有 1200 亿参数、每个 token 激活 120 亿参数的开放式多模态模型，面向持续运行的企业智能体。英伟达表示，在指定的智能体任务上，该模型的准确率接近 Nemotron 3 Ultra，但参数量约为其五分之一；英伟达还将开放模型权重、数据集和训练方案。配套的 Nemotron 3.5 Bolt 74B-A9B 24GB 面向本地智能体，而 Bolt E4B 4GB 计划于本月晚些时候推出。
- RedHat_AI 发布经过优化的 NVIDIA Nemotron 3.5 Super VL 检查点
vLLM 重点介绍了 @RedHat_AI 为 NVIDIA Nemotron 3.5 Super VL（一款 120B 多模态 MoE 模型）推出的 FP8 和 DSpark 检查点，这些检查点使用了 LLM Compressor 和 Speculators。 RedHat_AI 报告称，在 Hopper 上的性能接近提升 2 倍，同时保持准确性。其使用 4× H100 进行的基准测试显示，FP8 在负载下提高了吞吐量，DSpark 提升了每位用户的流式处理速度；两者结合后，在 HumanEval、数学推理和 RAG 工作负载上的表现均优于单独使用其中任一方案。 两个检查点均已开放： https://huggingface.co/RedHatAI/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-FP8 https://huggingface.co/RedHatAI/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B.dspark
- vLLM 为 NVIDIA Nemotron 3.5 Super VL 提供 Day-0 支持
🎉 vLLM 从 Day 0 起支持 NVIDIA Nemotron 3.5 Super VL！ 总参数量 120B，每个 token 激活 12B，支持 1M token 的上下文窗口。这是一款开放的多模态模型，可处理文本、图像、文档和视频，并支持推理和工具调用，适用于智能体工作流。 以下介绍支持的功能以及如何开始使用。🧵 1/4
- NVIDIA 推出 Nemotron 3.5 Super VL：面向长时运行 AI 智能体的开放模型
认识 NVIDIA Nemotron 3.5 Super VL。 NVIDIA 推出的这款新型开放模型将推理和工具使用与文本、图像、文档及视频理解能力结合起来，适用于长时运行的 AI 智能体。 总参数量为 120B，其中激活参数量为 12B。
- NVIDIA 扩展 Nemotron 系列，推出 Super VL 和 Bolt 开放模型
NVIDIA 发布了 Nemotron 3.5 Super VL，这是一款面向多模态智能体的开放式 1200 亿参数模型；还发布了 Nemotron 3.5 Bolt 74B-A9B 24GB，面向本地智能体工作负载。Bolt E4B 4GB 将于 10 月 23 日推出。Super VL 面向工具调用、业务工作流和视觉文档理解，并开放模型权重、数据集和训练方案。Bolt 74B-A9B 采用原生 2 位量化，可装入 24GB 内存；Bolt E4B 则面向物理智能体和对话智能体。
本事件热度走势
- 可比范围当前
- 12
- 可比范围峰值
- 2710月16日 08:00
- 近 24 小时变化
- -50%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。