跳到正文
全部动态 · 今日0条

#开源生态

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
一手

模型厂商、公司和研究机构自己发布的消息:官网、官方博客和官方账号。

10月16日周五
  1. Hugging Face Blog83

    Reflection发布Beam:一款用于编程和智能体工作的501B开源模型

    Reflection在Hugging Face上发布了Beam。这是一款501B的MoE模型,每个token激活23B参数,支持100万token的上下文窗口,并采用Apache 2.0许可证。这款纯文本模型面向编程和智能体工作,提供BF16、FP8和NVFP4检查点,并在发布首日支持transformers、vLLM和SGLang。Hugging Face还提供部署和后训练方案,以及自有的任务评测和演示。

    推荐理由:部署指南区分了活跃计算量与权重总内存用量,帮助团队评估运行和适配一款具有长上下文窗口的稀疏模型所需的硬件配置。

  2. Hugging Face Blog82

    NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流程

    NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1,涵盖 22 种印度语言、约 2.8 万亿个 token,并将很快与其开放式 GPU 加速生成流程一同发布。该语料库包含全部 22 种语言的本土文字文本,以及 12 种语言的罗马化文本;这些文本由精选英文来源翻译而来,并经过质量检查和来源追溯。一个印度语系继续预训练阶段提升了五项已报告基准的成绩,但该阶段混合了合成数据与自然数据,因此这项比较无法单独确定该语料库的贡献。

    推荐理由:该流程通过将翻译、质量评估、修复和文字系统转换分开,同时保留与源文档的链接,为多语言数据生成提供了一种可复用的方法。

  3. AWS Machine Learning Blog60

    Meta 的 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上提供

    Meta 针对代码优化的开放权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上提供,包含 BF16 和 NVFP4 两种版本,支持 100 万 token 的上下文窗口,总参数量为 816B,其中每个 token 激活 42B 参数。AWS 提供了使用 SageMaker Studio 或 SageMaker Python SDK 进行部署的说明,以及推理和清理示例。发布时,该模型可在美国东部(弗吉尼亚北部)和美国东部(俄亥俄州)使用。

    推荐理由:部署指南将 BF16 和 NVFP4 的内存需求与受支持的实例类型对应起来,为团队在代码仓库上评估该模型时规划基础设施提供了具体依据。

  4. Hugging Face Blog87

    Meta 发布 Muse Spark Open:开放权重的多模态混合专家模型

    Meta 的 Muse Spark Open 是一款开放权重的混合专家模型,约有 8160 亿个参数,每个 token 激活约 420 亿个参数,上下文窗口最长可达 100 万个 token。该模型经过智能体编程训练,可接收文本、图像、音频和视频,并生成文本。Hugging Face 提供推理和部署方案,报告了其自身的量化测试结果,并演示了使用 TRL 对注意力层进行 LoRA 微调,同时冻结专家网络。

    推荐理由:这些部署方案阐明了稀疏专家激活如何在保留大量内存需求的同时减少每个 token 的计算量,帮助开发者根据不同检查点格式和服务框架评估硬件需求。

  5. Microsoft Research79

    Microsoft Research 推出面向基于证明的通用计算的 Magnetar

    Microsoft Research 推出 Magnetar,这是一种零知识虚拟机,使用仅基于标准哈希函数的安全机制来证明 RISC-V 程序的执行。它支持用 Rust、Go 或 C 编写的程序,无需开发者将其改写为密码学电路。Microsoft 报告称,在 15 个基准测试程序中,Magnetar 在同一台机器上的平均速度比现有最快的可比 zkVM 快 10 至 39 倍,证明验证时间约为 12 毫秒。

    推荐理由:基准测试对比将证明速度与通用执行和标准哈希函数联系起来,阐明了限制可验证计算更广泛采用的权衡。

10月15日周四
  1. Hugging Face Blog79

    欢迎在 Diffusers 中使用 FLUX.3 Image Klein

    Black Forest Labs 的 FLUX.3 Image Klein 发布首日即获得 Diffusers 支持,可用于文生图、多参考图图生图以及边界框布局控制。开放的检查点包括一个蒸馏模型(无需 CFG,使用 16 步)和一个基础模型(使用 CFG,运行 50 步);在报告的基准测试中,蒸馏模型在 H100 上用 1.93 秒生成了一张 1024 × 1024 图像。Hugging Face 提供量化加载示例、LoRA 训练脚本,以及用于定制其 Modular Diffusers 流水线的工作流。

    推荐理由:运行时测量数据和量化指南有助于开发者评估硬件需求,包括参考图像如何增加生成时间,以及何时降低精度可以减少内存占用而不提升速度。

  2. NVIDIA Blog81

    NVIDIA 扩展 Nemotron 系列,推出 Super VL 和 Bolt 开放模型

    NVIDIA 发布了 Nemotron 3.5 Super VL,这是一款面向多模态智能体的开放式 1200 亿参数模型;还发布了 Nemotron 3.5 Bolt 74B-A9B 24GB,面向本地智能体工作负载。Bolt E4B 4GB 将于 10 月 23 日推出。Super VL 面向工具调用、业务工作流和视觉文档理解,并开放模型权重、数据集和训练方案。Bolt 74B-A9B 采用原生 2 位量化,可装入 24GB 内存;Bolt E4B 则面向物理智能体和对话智能体。

    推荐理由:开放模型权重、数据集和训练方案,为组织提供了定制智能体以适配自身工作流的途径,同时满足本地部署和数据驻留要求。

  3. Hugging Face Blog74

    Apertus 1.5 发布说明详述多模态理解、思考模式和更长上下文

    Project Apertus 发布了 8B 和 70B 两种规模的 Apertus 1.5,新增图像和音频理解、可选思考模式、262,144-token 上下文窗口,并改进了指令遵循和工具使用能力。模型权重于 2026 年 7 月 24 日在 Hugging Face 上以 Apache 2.0 许可证发布;模型仅生成文本,语音语言处理仍处于实验阶段。团队还公布了训练数据、训练方案、中间检查点和可复现的评估记录。

    推荐理由:公布的中间检查点、训练数据混合方案和评估设置,为研究各个训练阶段如何改变模型行为以及复现所报告的结果提供了具体依据。

  4. NVIDIA Blog65

    英伟达为欧洲科学界拓展工具、培训和计算资源获取渠道

    英伟达将加入欧盟委员会“科学人工智能赋能计划”,承诺为欧洲研究界提供工具、培训、计算资源获取渠道及合作机会。其深度学习学院已推出可免费下载、采用开放许可的课程材料,无需注册、缴费,也没有截止日期。英伟达还正与欧洲人工智能工厂合作,为初创企业和中小企业拓展计算资源获取渠道;目前正在欧洲开发的35台超级计算机计划服务300多万名研究人员。

    推荐理由:这些承诺通过结合计算基础设施使用渠道、可灵活采用的课程材料以及使用相关资源的技术支持,解决小型研究团队面临的实际障碍。

  5. Hugging Face Blog73

    HiRO-ACEv2 以 3 公里分辨率模拟极端天气,成本仅为原来的很小一部分

    Ai2 推出了 HiRO-ACEv2,这是一款升级版气候模拟器,可生成全球 3 公里分辨率的降雨、风和气压数据,成本约为 X-SHiELD 的 1/300。输入经过降尺度处理的 X-SHiELD 数据后,其 HiROv2 降尺度模型生成的高分辨率统计数据与参考值相差不超过 3%,即使对于每百万个数据点中仅出现一次的事件也是如此。目前,该系统只能与经过调校以匹配 X-SHiELD 的 ACE 配合使用,尚不能为其他气候生成高分辨率数据;可下载的模型、教程笔记本和网页演示现已开放。

    推荐理由:与 X-SHiELD 的比较为研究人员提供了极端天气模拟的具体成本和准确度参照,但目前适用范围仅限于训练数据所代表的气候。

10月14日周三
  1. AWS Machine Learning Blog45

    使用 Amazon SageMaker JumpStart 部署和评估模型

    Amazon SageMaker JumpStart 提供了一套工作流程,用于部署预训练模型、使用 SageMaker Python SDK 运行可重复的性能测试,并在测试后删除端点。该测试使用示例提示词来衡量延迟、估算的输出长度和单请求生成速率。模型中心发现功能和预配置的端点选项简化了浏览与部署流程,而深度链接集成则让用户只需单击一次,即可从 Hugging Face 模型发现页面部署模型。

  2. Hugging Face Blog79

    Liquid AI 发布 LFM2.5-24B-A2B,打造快速、私密的设备端智能体

    Liquid AI 发布了 LFM2.5-24B-A2B,这是一款开放权重推理模型,总参数量为 24B,激活参数量为 2B,面向能够进行推理并调用工具的设备端智能体。其上下文窗口从 32K 扩展至 131K 个 token,推理版和 Base 版均已在 Hugging Face 上提供。Liquid AI 报告称,该模型在 Apple M5 Max 上的速度为 184 tokens/s,工具使用表现具有竞争力,同时也承认,在知识密集型和代码基准测试中,更大的模型仍有优势。

    推荐理由:基准测试对比有助于区分适合本地部署的工作负载:该模型在工具使用和指令遵循方面表现出色,但在知识和代码方面不及某些更大的模型。

  3. AWS Machine Learning Blog50

    使用托管授权管理 Amazon Bedrock 私有定价优惠

    AWS 介绍了两种在多个 AWS 账户中为 Amazon Bedrock 私有定价优惠启用托管授权的方法。轻量级脚本可一次性激活已收到且可信的许可证;AWS CDK 自动化则会处理协议事件,根据允许列表验证卖家,并创建和激活分发的授权。只有当授权状态变为 ACTIVE 或 WORKFLOW_COMPLETED 后,协商定价才会生效。本指南还介绍了如何检查授权状态,以及在账单数据出现后如何在 AWS Cost Explorer 中验证费用。

10月13日周二
  1. AWS Machine Learning Blog63

    Amazon SageMaker AI 上的混合专家(MoE)内核工程

    AWS 介绍了 Amazon SageMaker AI 中使用的三项融合 MoE 优化,报告吞吐量最高提升 10%,首次生成令牌时间(TTFT)最高缩短 9%。在 H200 上,交换矩阵操作数使吞吐量提升了 2–4%;将 FP8 张量量化模型路由到 Triton,则使吞吐量提升了 10%。消除不必要的 Triton JIT 重新编译,在 8 路张量并行时将 TTFT 缩短了 9%;该帖子指出,这些优化已在 vLLM 和 AWS LMI v28 容器中提供。

    推荐理由:这些优化示例分别考察矩阵布局、后端选择和编译器特化,展示了提升 MoE 服务性能的一种可迁移方法,并说明了它们如何分别影响吞吐量和延迟开销。

  2. NVIDIA Blog76

    NVIDIA 详解 RTX Spark 笔记本上市前的软件更新

    在 RTX Spark 笔记本于 10 月 16 日(星期五)上市前,NVIDIA 及其合作伙伴正陆续推出软件功能和优化。更新包括简化本地智能体设置、通过 OpenShell 和 Microsoft Execution Containers 实现沙箱隔离,以及本地和云端模型路由。NVIDIA PAIR 结束测试阶段并支持 llama.cpp;Nemotron 3.5 Bolt 74B-A9B 24GB 将于 10 月 15 日(星期四)推出;创意应用、开发者工具和游戏也将获得 RTX Spark 支持和性能更新。

    推荐理由:这些协调推出的更新表明,在 RTX Spark 上采用本地智能体,取决于模型设置、沙箱隔离、路由以及桌面应用访问等环节的软件集成。

10月12日周一
  1. NVIDIA Blog79

    NVIDIA 开放 Vera Rubin 机架设计,并扩展 AI 工厂基础设施

    NVIDIA 通过其开放式 MGX 架构向 OCP 提供了 Vera Rubin 机架和计算托盘设计,并为 DSX AI 工厂推出了开源组件。MGX 1.2 支持最高 250kW 的机架部署,并新增标准化的电源、冷却和互连接口。NVIDIA 及其合作伙伴还公布了设施和电网韧性规范;Meta 宣布采用 Spectrum-6 交换机;NVIDIA 与 Cisco 计划推出 USFP 光模块;NVIDIA 还将与 Google 合作,在未来的 ConnectX-10 SuperNIC 和 BlueField DPU 上支持 Falcon Transport。

    推荐理由:这些规范展示了共享的机架、冷却、电源和软件接口,如何为基础设施建设者提供通用的实施目标,以应对 AI 工厂不断提升的功率密度。

10月9日周五
  1. Hugging Face Blog73

    作者用 ML-intern 两天训出六个模型,总花费约 103 美元

    作者在 HuggingChat 中开启 ML-intern,用提示词描述需求,两天内做出六个模型并发布到 Hub,总计算花费约 103 美元。其中把 Qwen-Image 2.1 的 9B 提示词改写器蒸馏成 0.8B 版本,可在 CPU 上运行,输出有效率 99.7%,token 用量约为教师模型的四分之一。作者公开了全部七个提示词,并建议在提示中要求基线对比、冒烟测试和预算上限。

    推荐理由:作者用 ML-intern 在两天内做出六个模型,公开了全部提示词与成本明细,可迁移到自己的训练流程。

10月8日周四
  1. Microsoft Research72

    微软研究院开源 Agent Lightning v1.0:3500 行轻量级智能体 RL 框架,支持真实 harness 训练

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量级智能体 RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一 agent harness 直接参与强化学习,无需在训练框架内重新实现智能体。

    推荐理由:原文给出了框架的代码规模、Kubernetes 支持与训练配方,读者可据此判断真实 harness 参与 RL 的落地成本。

10月7日周三
  1. Google DeepMind71

    Google DeepMind 发布 EmbeddingGemma 2 开源轻量多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构、740M 参数,在 Apache 2.0 许可下开源,将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由:EmbeddingGemma 2 把文本、图像、音频、视频统一到同一嵌入空间,并给出端侧内存与向量截断的具体数字,便于评估本地多模态检索的可行性。

10月6日周二
10月2日周五
  1. NVIDIA Blog60

    NVIDIA DGX Spark 推出 64GB 版本,支持双机集群扩展本地 AI

    NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备本地运行。

    推荐理由:原文给出 64GB 新配置的售价、上市时间和双机集群方式,读者可据此判断本地跑大模型的硬件门槛。

10月1日周四
  1. Hugging Face Blog62

    AI2 发布 Olmo-core 3:面向大型 MoE 的开源可扩展训练基础设施

    AI2 发布 Olmo-core 3,这是其大语言模型开发框架的一次重要升级,重新设计了开放的 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数级别并保持计算效率。

    推荐理由:原文给出了 MoE 训练栈的吞吐与显存对比数据,读者可据此判断大规模 MoE 训练的成本变化。

9月30日周三
  1. Hugging Face Blog60

    Hugging Face 发布 Open TTS Leaderboard,用客观指标评测多语言 TTS 与语音克隆

    Hugging Face 发布 Open TTS Leaderboard,用 WER/CER、RTFx、TTFA 和说话人相似度等客观指标评测开源 TTS 模型,把评测周期从数周投票缩短到数小时。

    推荐理由:Hugging Face 用客观指标替代投票式评测,读者可了解开源 TTS 模型在多语言与语音克隆上的横向对比方式。

9月29日周二
  1. Hugging Face Blog62

    NVIDIA 发布 Kumo Tabular 表格预测基础模型

    NVIDIA 发布开源表格基础模型 Kumo Tabular,给定带标签的表格行即可单次前向传播预测新行标签,覆盖分类与回归,无需训练、调参和特征工程。模型提供 28M 到 215M 三种规模,完全在人工合成表格上预训练,采用 OpenMDW-1.1 许可可商用,并在 TabArena、BeyondArena、TALENT 和 ScoringBench 四个基准上排名第一。

    推荐理由:原文给出模型规模、训练数据来源与四项基准排名,可据此判断表格基础模型的准确率与效率取舍。

9月28日周一
  1. Hugging Face Blog74

    H 公司发布 Holo4 系列智能体模型,含 27B 稠密与 35B-A3B MoE 两个版本

    H 公司发布 Holo4 系列智能体模型,包含 27B 稠密版和 35B-A3B MoE 版,两者均已上线 H Models API,权重以 BF16、FP8、NVFP4 和 4-bit GGUF 格式开源在 Hugging Face。

    推荐理由:Holo4 同时开源权重与全部评测轨迹,读者可据此判断通用计算机操作智能体的成本与能力边界。

9月26日周六
  1. AWS Machine Learning Blog36

    在 Amazon EKS 上用 EFA 和 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%

    AWS 给出在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 强化学习训练的架构方案,吞吐量提升 40%。该方案针对 RLHF 和 GRPO 等大规模 RL 训练中 rollout 生成与策略训练的资源竞争、跨数百加速器的高吞吐通信,以及 Expert Parallelism 带来的动态 all-to-all 跨节点通信开销。

9月25日周五
  1. GitHub Blog · AI & ML63

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体,自动完成 C/C++ 模糊测试全流程

    GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需给出 GitHub 仓库地址,它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness、分诊崩溃并生成漏洞报告。

    推荐理由:GitHub Security Lab 把模糊测试的写 harness、读覆盖率、崩溃分诊交给 LLM 智能体,并公开了完整实现与运行方式。

9月24日周四
  1. NVIDIA Blog60

    NVIDIA 与 Google DeepMind 等联合开放 2800 多种病毒的蛋白复合物预测结构

    NVIDIA 联合 Google DeepMind、EMBL-EBI 等机构,通过 AlphaFold Database 开放 2800 多种病毒的蛋白复合物预测 3D 结构,供任何科学家免费使用。

    推荐理由:NVIDIA 与 Google DeepMind 等联合开放 2800 多种病毒的蛋白复合物预测结构,读者可了解开放科学在疫情准备中的具体做法。

9月23日周三
9月22日周二