跳到正文
2026.10.17 · 周六

#开源生态

#开源生态

一手

模型厂商、公司和研究机构自己发布的消息:官网、官方博客和官方账号。

10月16日周五
  1. Hugging Face Blog83

    Reflection发布Beam:一款用于编程和智能体工作的501B开源模型

    Reflection在Hugging Face上发布了Beam。这是一款501B的MoE模型,每个token激活23B参数,支持100万token的上下文窗口,并采用Apache 2.0许可证。这款纯文本模型面向编程和智能体工作,提供BF16、FP8和NVFP4检查点,并在发布首日支持transformers、vLLM和SGLang。Hugging Face还提供部署和后训练方案,以及自有的任务评测和演示。

    推荐理由:部署指南区分了活跃计算量与权重总内存用量,帮助团队评估运行和适配一款具有长上下文窗口的稀疏模型所需的硬件配置。

  2. Hugging Face Blog82

    NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流程

    NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1,涵盖 22 种印度语言、约 2.8 万亿个 token,并将很快与其开放式 GPU 加速生成流程一同发布。该语料库包含全部 22 种语言的本土文字文本,以及 12 种语言的罗马化文本;这些文本由精选英文来源翻译而来,并经过质量检查和来源追溯。一个印度语系继续预训练阶段提升了五项已报告基准的成绩,但该阶段混合了合成数据与自然数据,因此这项比较无法单独确定该语料库的贡献。

    推荐理由:该流程通过将翻译、质量评估、修复和文字系统转换分开,同时保留与源文档的链接,为多语言数据生成提供了一种可复用的方法。

  3. AWS Machine Learning Blog60

    Meta 的 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上提供

    Meta 针对代码优化的开放权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上提供,包含 BF16 和 NVFP4 两种版本,支持 100 万 token 的上下文窗口,总参数量为 816B,其中每个 token 激活 42B 参数。AWS 提供了使用 SageMaker Studio 或 SageMaker Python SDK 进行部署的说明,以及推理和清理示例。发布时,该模型可在美国东部(弗吉尼亚北部)和美国东部(俄亥俄州)使用。

    推荐理由:部署指南将 BF16 和 NVFP4 的内存需求与受支持的实例类型对应起来,为团队在代码仓库上评估该模型时规划基础设施提供了具体依据。

  4. Hugging Face Blog87

    Meta 发布 Muse Spark Open:开放权重的多模态混合专家模型

    Meta 的 Muse Spark Open 是一款开放权重的混合专家模型,约有 8160 亿个参数,每个 token 激活约 420 亿个参数,上下文窗口最长可达 100 万个 token。该模型经过智能体编程训练,可接收文本、图像、音频和视频,并生成文本。Hugging Face 提供推理和部署方案,报告了其自身的量化测试结果,并演示了使用 TRL 对注意力层进行 LoRA 微调,同时冻结专家网络。

    推荐理由:这些部署方案阐明了稀疏专家激活如何在保留大量内存需求的同时减少每个 token 的计算量,帮助开发者根据不同检查点格式和服务框架评估硬件需求。

  5. Microsoft Research79

    Microsoft Research 推出面向基于证明的通用计算的 Magnetar

    Microsoft Research 推出 Magnetar,这是一种零知识虚拟机,使用仅基于标准哈希函数的安全机制来证明 RISC-V 程序的执行。它支持用 Rust、Go 或 C 编写的程序,无需开发者将其改写为密码学电路。Microsoft 报告称,在 15 个基准测试程序中,Magnetar 在同一台机器上的平均速度比现有最快的可比 zkVM 快 10 至 39 倍,证明验证时间约为 12 毫秒。

    推荐理由:基准测试对比将证明速度与通用执行和标准哈希函数联系起来,阐明了限制可验证计算更广泛采用的权衡。

10月15日周四
  1. Hugging Face Blog79

    欢迎在 Diffusers 中使用 FLUX.3 Image Klein

    Black Forest Labs 的 FLUX.3 Image Klein 发布首日即获得 Diffusers 支持,可用于文生图、多参考图图生图以及边界框布局控制。开放的检查点包括一个蒸馏模型(无需 CFG,使用 16 步)和一个基础模型(使用 CFG,运行 50 步);在报告的基准测试中,蒸馏模型在 H100 上用 1.93 秒生成了一张 1024 × 1024 图像。Hugging Face 提供量化加载示例、LoRA 训练脚本,以及用于定制其 Modular Diffusers 流水线的工作流。

    推荐理由:运行时测量数据和量化指南有助于开发者评估硬件需求,包括参考图像如何增加生成时间,以及何时降低精度可以减少内存占用而不提升速度。

  2. NVIDIA Blog81

    NVIDIA 扩展 Nemotron 系列,推出 Super VL 和 Bolt 开放模型

    NVIDIA 发布了 Nemotron 3.5 Super VL,这是一款面向多模态智能体的开放式 1200 亿参数模型;还发布了 Nemotron 3.5 Bolt 74B-A9B 24GB,面向本地智能体工作负载。Bolt E4B 4GB 将于 10 月 23 日推出。Super VL 面向工具调用、业务工作流和视觉文档理解,并开放模型权重、数据集和训练方案。Bolt 74B-A9B 采用原生 2 位量化,可装入 24GB 内存;Bolt E4B 则面向物理智能体和对话智能体。

    推荐理由:开放模型权重、数据集和训练方案,为组织提供了定制智能体以适配自身工作流的途径,同时满足本地部署和数据驻留要求。

  3. Hugging Face Blog74

    Apertus 1.5 发布说明详述多模态理解、思考模式和更长上下文

    Project Apertus 发布了 8B 和 70B 两种规模的 Apertus 1.5,新增图像和音频理解、可选思考模式、262,144-token 上下文窗口,并改进了指令遵循和工具使用能力。模型权重于 2026 年 7 月 24 日在 Hugging Face 上以 Apache 2.0 许可证发布;模型仅生成文本,语音语言处理仍处于实验阶段。团队还公布了训练数据、训练方案、中间检查点和可复现的评估记录。

    推荐理由:公布的中间检查点、训练数据混合方案和评估设置,为研究各个训练阶段如何改变模型行为以及复现所报告的结果提供了具体依据。

  4. NVIDIA Blog65

    英伟达为欧洲科学界拓展工具、培训和计算资源获取渠道

    英伟达将加入欧盟委员会“科学人工智能赋能计划”,承诺为欧洲研究界提供工具、培训、计算资源获取渠道及合作机会。其深度学习学院已推出可免费下载、采用开放许可的课程材料,无需注册、缴费,也没有截止日期。英伟达还正与欧洲人工智能工厂合作,为初创企业和中小企业拓展计算资源获取渠道;目前正在欧洲开发的35台超级计算机计划服务300多万名研究人员。

    推荐理由:这些承诺通过结合计算基础设施使用渠道、可灵活采用的课程材料以及使用相关资源的技术支持,解决小型研究团队面临的实际障碍。

  5. Hugging Face Blog73

    HiRO-ACEv2 以 3 公里分辨率模拟极端天气,成本仅为原来的很小一部分

    Ai2 推出了 HiRO-ACEv2,这是一款升级版气候模拟器,可生成全球 3 公里分辨率的降雨、风和气压数据,成本约为 X-SHiELD 的 1/300。输入经过降尺度处理的 X-SHiELD 数据后,其 HiROv2 降尺度模型生成的高分辨率统计数据与参考值相差不超过 3%,即使对于每百万个数据点中仅出现一次的事件也是如此。目前,该系统只能与经过调校以匹配 X-SHiELD 的 ACE 配合使用,尚不能为其他气候生成高分辨率数据;可下载的模型、教程笔记本和网页演示现已开放。

    推荐理由:与 X-SHiELD 的比较为研究人员提供了极端天气模拟的具体成本和准确度参照,但目前适用范围仅限于训练数据所代表的气候。

10月14日周三
  1. Hugging Face Blog79

    Liquid AI 发布 LFM2.5-24B-A2B,打造快速、私密的设备端智能体

    Liquid AI 发布了 LFM2.5-24B-A2B,这是一款开放权重推理模型,总参数量为 24B,激活参数量为 2B,面向能够进行推理并调用工具的设备端智能体。其上下文窗口从 32K 扩展至 131K 个 token,推理版和 Base 版均已在 Hugging Face 上提供。Liquid AI 报告称,该模型在 Apple M5 Max 上的速度为 184 tokens/s,工具使用表现具有竞争力,同时也承认,在知识密集型和代码基准测试中,更大的模型仍有优势。

    推荐理由:基准测试对比有助于区分适合本地部署的工作负载:该模型在工具使用和指令遵循方面表现出色,但在知识和代码方面不及某些更大的模型。

10月13日周二
  1. AWS Machine Learning Blog63

    Amazon SageMaker AI 上的混合专家(MoE)内核工程

    AWS 介绍了 Amazon SageMaker AI 中使用的三项融合 MoE 优化,报告吞吐量最高提升 10%,首次生成令牌时间(TTFT)最高缩短 9%。在 H200 上,交换矩阵操作数使吞吐量提升了 2–4%;将 FP8 张量量化模型路由到 Triton,则使吞吐量提升了 10%。消除不必要的 Triton JIT 重新编译,在 8 路张量并行时将 TTFT 缩短了 9%;该帖子指出,这些优化已在 vLLM 和 AWS LMI v28 容器中提供。

    推荐理由:这些优化示例分别考察矩阵布局、后端选择和编译器特化,展示了提升 MoE 服务性能的一种可迁移方法,并说明了它们如何分别影响吞吐量和延迟开销。

  2. NVIDIA Blog76

    NVIDIA 详解 RTX Spark 笔记本上市前的软件更新

    在 RTX Spark 笔记本于 10 月 16 日(星期五)上市前,NVIDIA 及其合作伙伴正陆续推出软件功能和优化。更新包括简化本地智能体设置、通过 OpenShell 和 Microsoft Execution Containers 实现沙箱隔离,以及本地和云端模型路由。NVIDIA PAIR 结束测试阶段并支持 llama.cpp;Nemotron 3.5 Bolt 74B-A9B 24GB 将于 10 月 15 日(星期四)推出;创意应用、开发者工具和游戏也将获得 RTX Spark 支持和性能更新。

    推荐理由:这些协调推出的更新表明,在 RTX Spark 上采用本地智能体,取决于模型设置、沙箱隔离、路由以及桌面应用访问等环节的软件集成。

10月12日周一
  1. NVIDIA Blog79

    NVIDIA 开放 Vera Rubin 机架设计,并扩展 AI 工厂基础设施

    NVIDIA 通过其开放式 MGX 架构向 OCP 提供了 Vera Rubin 机架和计算托盘设计,并为 DSX AI 工厂推出了开源组件。MGX 1.2 支持最高 250kW 的机架部署,并新增标准化的电源、冷却和互连接口。NVIDIA 及其合作伙伴还公布了设施和电网韧性规范;Meta 宣布采用 Spectrum-6 交换机;NVIDIA 与 Cisco 计划推出 USFP 光模块;NVIDIA 还将与 Google 合作,在未来的 ConnectX-10 SuperNIC 和 BlueField DPU 上支持 Falcon Transport。

    推荐理由:这些规范展示了共享的机架、冷却、电源和软件接口,如何为基础设施建设者提供通用的实施目标,以应对 AI 工厂不断提升的功率密度。

10月9日周五
  1. Hugging Face Blog73

    作者用 ML-intern 两天训出六个模型,总花费约 103 美元

    作者在 HuggingChat 中开启 ML-intern,用提示词描述需求,两天内做出六个模型并发布到 Hub,总计算花费约 103 美元。其中把 Qwen-Image 2.1 的 9B 提示词改写器蒸馏成 0.8B 版本,可在 CPU 上运行,输出有效率 99.7%,token 用量约为教师模型的四分之一。作者公开了全部七个提示词,并建议在提示中要求基线对比、冒烟测试和预算上限。

    推荐理由:作者用 ML-intern 在两天内做出六个模型,公开了全部提示词与成本明细,可迁移到自己的训练流程。

10月8日周四
  1. Hugging Face Blog62

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和 d1-omni-600M(实验性)。

    推荐理由:Liquid AI 开源两款决策模型,给出端侧延迟与七项基准对比,可据此判断小模型做结构化决策的可用性。

  2. Microsoft Research72

    微软研究院开源 Agent Lightning v1.0:3500 行轻量级智能体 RL 框架,支持真实 harness 训练

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量级智能体 RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一 agent harness 直接参与强化学习,无需在训练框架内重新实现智能体。

    推荐理由:原文给出了框架的代码规模、Kubernetes 支持与训练配方,读者可据此判断真实 harness 参与 RL 的落地成本。

10月7日周三
  1. Hugging Face Blog62

    Nemotron 微调后在 IOI 2026 与 IMO 2026 均达金牌水平

    英伟达团队从 Nemotron 3 出发,用 SFT、RL 和生成-验证-改进的推理流程打造专项模型,在 IOI 2026 和 IMO 2026 均达到金牌线。

    推荐理由:原文给出了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方,读者可据此复用其数据与推理流程。

  2. OpenAI News62

    OpenAI 公布内部前沿模型在数学开放问题上的进展

    OpenAI 发布内部前沿模型在数学开放问题上的新结果,并在 GitHub 上公开 Lean 证明形式化与研究细节。

    推荐理由:OpenAI 公开内部前沿模型在数学开放问题上的结果,并同步放出 Lean 证明形式化,可看模型推理与形式化验证的结合方式。

  3. Google DeepMind71

    Google DeepMind 发布 EmbeddingGemma 2 开源轻量多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构、740M 参数,在 Apache 2.0 许可下开源,将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由:EmbeddingGemma 2 把文本、图像、音频、视频统一到同一嵌入空间,并给出端侧内存与向量截断的具体数字,便于评估本地多模态检索的可行性。