111 条精选近 30 天 55条共收录 308条
更新Ollama 分享了命令 `ollama run lfm2.5:24b`，并引用 Liquid AI 发布 LFM2.5-24B-A2B，称其可在笔记本电脑和 PC 上本地执行智能体任务。Liquid AI 将其描述为一款推理模型，总参数量为 24B，每个 token 激活 2B 参数，上下文长度扩展至 131K tokens；开放基础权重和后训练权重可在 Hugging Face 获取。 https://ollama.com/library/lfm2.5:24b https://twitter.com/liquidai/status/2110055807194931348
推荐理由：总参数量为 24B、每个 token 激活 2B 参数，这一区别有助于理解 Liquid AI 为何将该模型定位为适用于笔记本电脑和 PC 本地智能体任务的模型。
Ai2 推出了 HiRO-ACEv2，这是一款升级版气候模拟器，可生成全球 3 公里分辨率的降雨、风和气压数据，成本约为 X-SHiELD 的 1/300。输入经过降尺度处理的 X-SHiELD 数据后，其 HiROv2 降尺度模型生成的高分辨率统计数据与参考值相差不超过 3%，即使对于每百万个数据点中仅出现一次的事件也是如此。目前，该系统只能与经过调校以匹配 X-SHiELD 的 ACE 配合使用，尚不能为其他气候生成高分辨率数据；可下载的模型、教程笔记本和网页演示现已开放。
推荐理由：与 X-SHiELD 的比较为研究人员提供了极端天气模拟的具体成本和准确度参照，但目前适用范围仅限于训练数据所代表的气候。
Artificial Analysis 报告称，Fish Audio 的 Drama 3 Preview 在其全部三个文本转语音排行榜中均位列开放权重模型第 1，并在所有模型的发音稳健性排名中领先。其发音稳健性得分为 93.2%，高于 Eleven v4 的 91.7% 和 Eleven v4 Turbo 的 90.1%；在 Provider Voice 中排名第 10，在 Controlled Voice 中排名第 14。其权重可在 Hugging Face 上获取，遵循 Fish Audio Community License；Fish Audio API 的价格为每 100 万字符 15 美元。
推荐理由：该比较将发音稳健性与语音偏好排名区分开来，展示了 Drama 3 Preview 在一项指标上的领先优势与其在其他排名中的位置有何不同。
Liquid AI 发布了 LFM2.5-24B-A2B，这是一款开放权重推理模型，总参数量为 24B，激活参数量为 2B，面向能够进行推理并调用工具的设备端智能体。其上下文窗口从 32K 扩展至 131K 个 token，推理版和 Base 版均已在 Hugging Face 上提供。Liquid AI 报告称，该模型在 Apple M5 Max 上的速度为 184 tokens/s，工具使用表现具有竞争力，同时也承认，在知识密集型和代码基准测试中，更大的模型仍有优势。
推荐理由：基准测试对比有助于区分适合本地部署的工作负载：该模型在工具使用和指令遵循方面表现出色，但在知识和代码方面不及某些更大的模型。
AWS 介绍了 Amazon SageMaker AI 中使用的三项融合 MoE 优化，报告吞吐量最高提升 10%，首次生成令牌时间（TTFT）最高缩短 9%。在 H200 上，交换矩阵操作数使吞吐量提升了 2–4%；将 FP8 张量量化模型路由到 Triton，则使吞吐量提升了 10%。消除不必要的 Triton JIT 重新编译，在 8 路张量并行时将 TTFT 缩短了 9%；该帖子指出，这些优化已在 vLLM 和 AWS LMI v28 容器中提供。
推荐理由：这些优化示例分别考察矩阵布局、后端选择和编译器特化，展示了提升 MoE 服务性能的一种可迁移方法，并说明了它们如何分别影响吞吐量和延迟开销。
在 RTX Spark 笔记本于 10 月 16 日（星期五）上市前，NVIDIA 及其合作伙伴正陆续推出软件功能和优化。更新包括简化本地智能体设置、通过 OpenShell 和 Microsoft Execution Containers 实现沙箱隔离，以及本地和云端模型路由。NVIDIA PAIR 结束测试阶段并支持 llama.cpp；Nemotron 3.5 Bolt 74B-A9B 24GB 将于 10 月 15 日（星期四）推出；创意应用、开发者工具和游戏也将获得 RTX Spark 支持和性能更新。
推荐理由：这些协调推出的更新表明，在 RTX Spark 上采用本地智能体，取决于模型设置、沙箱隔离、路由以及桌面应用访问等环节的软件集成。
NVIDIA 通过其开放式 MGX 架构向 OCP 提供了 Vera Rubin 机架和计算托盘设计，并为 DSX AI 工厂推出了开源组件。MGX 1.2 支持最高 250kW 的机架部署，并新增标准化的电源、冷却和互连接口。NVIDIA 及其合作伙伴还公布了设施和电网韧性规范；Meta 宣布采用 Spectrum-6 交换机；NVIDIA 与 Cisco 计划推出 USFP 光模块；NVIDIA 还将与 Google 合作，在未来的 ConnectX-10 SuperNIC 和 BlueField DPU 上支持 Falcon Transport。
推荐理由：这些规范展示了共享的机架、冷却、电源和软件接口，如何为基础设施建设者提供通用的实施目标，以应对 AI 工厂不断提升的功率密度。
Qwen 发布 Qwen-Image-2.1-Turbo，基于 Qwen-Image-2.1 的同一 7B 视觉生成架构，仅需 8 个去噪步骤即可生成和编辑图像，权重已在 ModelScope 和 Hugging Face 开放。
推荐理由：Qwen 图像模型新增 Turbo 加速版本，8 步采样与开放权重给出了可直接接入的生成与编辑路径。
作者在 HuggingChat 中开启 ML-intern，用提示词描述需求，两天内做出六个模型并发布到 Hub，总计算花费约 103 美元。其中把 Qwen-Image 2.1 的 9B 提示词改写器蒸馏成 0.8B 版本，可在 CPU 上运行，输出有效率 99.7%，token 用量约为教师模型的四分之一。作者公开了全部七个提示词，并建议在提示中要求基线对比、冒烟测试和预算上限。
推荐理由：作者用 ML-intern 在两天内做出六个模型，公开了全部提示词与成本明细，可迁移到自己的训练流程。
Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和 d1-omni-600M（实验性）。
推荐理由：Liquid AI 开源两款决策模型，给出端侧延迟与七项基准对比，可据此判断小模型做结构化决策的可用性。
微软研究院开源 Agent Lightning v1.0，一个约 3500 行代码的轻量级智能体 RL 框架，提出 Harnessed Agentic RL 范式，让部署时使用的同一 agent harness 直接参与强化学习，无需在训练框架内重新实现智能体。
推荐理由：原文给出了框架的代码规模、Kubernetes 支持与训练配方，读者可据此判断真实 harness 参与 RL 的落地成本。
Mistral 发布 1 万亿参数模型 Mistral Large 4，代号 Le Chonk，任何人可免费使用和定制，目前处于预览阶段，最终版本将在本月底推出。该模型面向通用任务，但专门针对编码、网络防御以及制造、金融、电气工程等细分领域做了优化。Mistral 称 Le Chonk 是迄今中国以外能力最强的开源权重模型，与部分闭源模型非常接近，并强调该模型是从零训练而非蒸馏。
推荐理由：Mistral 以 1 万亿参数开源权重模型切入编码与网络防御等细分领域，读者可据此观察开源与闭源模型的差距变化。
英伟达团队从 Nemotron 3 出发，用 SFT、RL 和生成-验证-改进的推理流程打造专项模型，在 IOI 2026 和 IMO 2026 均达到金牌线。
推荐理由：原文给出了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方，读者可据此复用其数据与推理流程。
OpenAI 发布内部前沿模型在数学开放问题上的新结果，并在 GitHub 上公开 Lean 证明形式化与研究细节。
推荐理由：OpenAI 公开内部前沿模型在数学开放问题上的结果，并同步放出 Lean 证明形式化，可看模型推理与形式化验证的结合方式。
Google DeepMind 发布 EmbeddingGemma 2，基于 Gemma 4 架构、740M 参数，在 Apache 2.0 许可下开源，将文本、图像、音频、视频映射到统一嵌入空间。
推荐理由：EmbeddingGemma 2 把文本、图像、音频、视频统一到同一嵌入空间，并给出端侧内存与向量截断的具体数字，便于评估本地多模态检索的可行性。
Mistral 发布 Mistral Large 4 公开预览，这是一个 1 万亿参数、490 亿激活参数的 natively 多模态模型，权重将于本月底开放。
推荐理由：Mistral 官方给出 1 万亿参数多模态模型的开放权重时间表与自建欧洲算力背景，可对照其与主流开源模型的定位差异。
Reflection AI 推出了 Beam，并将其描述为一款高效的智能体开放模型，拥有 501B 总参数和 23B 激活参数。该公司表示，Beam 在编码和智能体任务方面推动了西方开放模型前沿的发展，并且是从零开始端到端训练的，完整权重将于本月发布。Ollama 表示，更多美国模型即将登陆其平台。
推荐理由：Reflection AI 将 Beam 定位为一款高效的智能体开放模型，拥有 501B 总参数和 23B 激活参数，为读者比较开放权重的编码和智能体模型提供了一个具体参照。
Ai2 开源 AstaBrief 8B，一个把研究问题和检索到的文献片段转成带引用报告的模型，基于 Qwen3-8B 经 SFT 和 DPO 训练，已作为 Asta 的 Fast 模式上线。
推荐理由：原文给出 AstaBrief 的训练数据构造与引用过滤细节，可迁移到其他长文生成模型的落地。
Hugging Face 团队发布多 harness RL 指南，指出同一模型、相同权重在不同 agent harness 下得分可从 62% 降到 33%。
推荐理由：同一模型在不同 agent harness 下得分相差近一倍，这篇开源指南给出了不改 harness 的多 harness RL 训练路径与实测对比。
NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark，10 月 23 日开售，起售价 4,999 美元，保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈，支持最高 1000 亿参数模型在设备本地运行。
推荐理由：原文给出 64GB 新配置的售价、上市时间和双机集群方式，读者可据此判断本地跑大模型的硬件门槛。
