跳到正文
时光机停在2026年10月20日 周二‹ 前一天后一天 ›加速史回到现在

最新精选

一手

模型厂商、公司和研究机构自己发布的消息:官网、官方博客和官方账号。

10月20日周二
  1. Hugging Face Blog75

    ALTK-Evolve 利用学习得到的记忆,使 GPT-4.1 在零售 τ²-bench 上取得领先成绩

    IBM Research 报告称,ALTK-Evolve 会从智能体的训练尝试中提取行为准则,并将其附加到提示中,从而提升客户服务表现,无需更新权重或人工标注。在留出的 τ²-bench 零售任务中,GPT-4.1 的 Pass^4 从 57.5% 提高到 67.5%;较小的准则集对航空任务的可靠性提升最大。其完整基础划分的零售成绩也超过了 2026 年 10 月 12 日排行榜快照中的所有参赛结果。准则增加了输入 token 成本,同时在匹配的成功运行中略微减少了对话轮数。

    推荐理由

    这些实验提供了一种可迁移的方法,通过学习得到的提示准则提升智能体可靠性,同时表明准则数量与输入 token 成本之间需要根据领域权衡。

  2. Hugging Face Blog61

    AnyLanguageModel 1.0 扩展 Swift 应用的本地与托管模型支持

    Hugging Face 发布了 AnyLanguageModel 1.0,以及 swift-huggingface 1.0 和 swift-xet 1.0,进一步扩展了其作为 Apple Foundation Models 框架即插即用替代方案的能力。该库通过共享的会话代码支持本地和托管模型,并在所有提供方中支持工具调用和引导式生成。此次更新还增加了使用 Foundation Models 27 语法的图像支持、对话记录中的推理内容,以及用于获取短期令牌的闭包式 API 密钥。

    推荐理由

    共享的 Foundation Models API 让 Swift 开发者可以为每项任务选择本地或托管推理,同时在不同提供方之间保持会话代码一致。

  3. Hugging Face Blog77

    PyTorch 2.15 为 Mac 带来 FP8 支持和更快的 MPS 解码

    Hugging Face 的 PyTorch 团队详细介绍了 PyTorch 2.15 候选发布版中的 MPS 改进,包括 FP8 支持以及在 Mac 上更快的 LLM 解码。在配备 M3 Ultra 的设备上使用 torch.compile,与 2.14 相比,Qwen3.6-35B-A3B 的解码速度从 9.4 tokens/s 提升至 61.3 tokens/s。将常量填充移至 Metal 内核,也使 Wan2.2 分块 VAE 解码的峰值驱动程序内存从约 270 GiB 降至 8 GiB。

    推荐理由

    据报告,Wan2.2 视频解码内存的减少说明,替换后端操作可能改变在 Mac 上运行现有模型所需的内存。

  4. AWS Machine Learning Blog65

    SageMaker Studio 为新客户简化 AWS 注册流程

    AWS 现允许新客户通过现有账户或电子邮件地址完成 2–3 步注册后,使用已配置好的 Amazon SageMaker Studio 环境;大多数客户无需电话验证或信用卡。Studio 约 20 秒即可完成配置,客户可获得 100 美元的免费套餐额度,并有机会再赚取 100 美元。免费套餐访问权限将在 6 个月后或额度用尽时结束,以先发生者为准,资源使用也会自动停止。

    推荐理由

    这些入门流程调整降低了开发者试用 SageMaker AI 的配置要求,而额度到期规则和自动停止资源使用的机制则明确了免费体验的界限。

  5. NVIDIA Blog63

    德国与 NVIDIA 签署声明,推动工业 AI 和物理 AI 发展

    德国联邦政府与 NVIDIA 签署了一份联合意向声明,计划开展联合倡议,推进物理 AI 模型的发展和 AI 在更广泛工业领域的应用。德国总理弗里德里希·默茨和 NVIDIA 首席执行官黄仁勋强调了制造业、汽车领域的专业知识以及中小企业的重要性。NVIDIA 还宣布计划投资 Agile Robots、Avelios Medical、Mirelo 和 Reflex Aerospace,作为其在欧洲近 100 亿美元投资承诺的一部分。

    推荐理由

    这项协议将德国发展工业 AI 的目标与具体的合作框架相结合,展现了制造业专业知识和中小企业应用如何纳入政府的相关举措。

  6. Hugging Face Blog78

    TorchNeuron 为 Hugging Face 模型在 AWS Trainium 上提供原生 PyTorch 支持

    Hugging Face 库现已支持 TorchNeuron,这是一款面向 AWS Trainium 的原生 PyTorch 后端,将于 2026 年 10 月 20 日进入公开测试版。Transformers 开箱即支持使用量最高的 100 种文本生成模型架构中的 89%,而 Optimum Neuron v0.4.5 为 46%。Hugging Face 建议直接使用其库,而不是 Optimum Neuron,并提供了涵盖分布式推理、微调和图像生成的示例;训练仍需管理张量形状并禁用异步权重加载。

    推荐理由

    与 Optimum Neuron 的比较说明了原生 PyTorch 集成如何减少自定义训练代码,同时仍受张量形状管理和权重加载限制的影响,因此这些因素仍需纳入迁移规划。

  7. AWS Machine Learning Blog68

    vLLM 中的双向 KV 传输如何提升多轮智能体工作负载的 TTFT

    AWS 介绍了 vLLM 中的双向 KV 传输如何让预填充节点在不同对话轮次间复用解码节点保留的 KV 块。在 Amazon EC2 P5en 实例上使用 EFA、并禁用预填充前缀缓存进行的 1P1D 基准测试中,Qwen3-32B 的 TTFT 最高提升 1.6 倍,zai-org/GLM-5-FP8 最高提升 3.3 倍。本指南涵盖路由、保留控制、重计算阈值,以及如何使用 vLLM v0.21.0 或更高版本和 NixlConnector 复现实验;结果取决于工作负载和部署配置。

    推荐理由

    本指南说明了保留时长和重计算阈值如何影响跨轮次 KV 复用,并提供具体的控制选项,以平衡传输开销、重复计算和加速器内存使用量。

  8. AWS Machine Learning Blog68

    基于推送的 KV 传输如何改善 vLLM 的 TTFT 和 TPOT

    AWS 介绍了面向 vLLM 的基于推送的 NIXL 连接器。该连接器将目标端注册与预填充并行处理,并将传输准备工作移至后台线程。在一项 Qwen3-32B 基准测试中,测试采用配备 EFA 的 Amazon EC2 P5en 实例进行 1P1D 部署,并禁用了前缀缓存。与拉取模式相比,推送模式的 TTFT 最多提升 3 倍,TPOT 最多提升 30%,具体结果因工作负载和配置而异。文章详细介绍了其架构、基准测试复现方法,以及更早选择解码实例所带来的路由权衡。

    推荐理由

    这项对比说明了将 KV 传输设置与预填充并行处理在何种情况下可以降低延迟,同时指出部署要使用推送模式,就必须接受更早选择解码实例。

  9. AWS Machine Learning Blog69

    TwelveLabs 的 Pegasus 1.5 现已在 Amazon Bedrock 上推出

    TwelveLabs 的 Pegasus 1.5 现已在 Amazon Bedrock 的美国西部(俄勒冈)区域推出,可根据用户定义的条件,为视频片段生成带时间戳的结构化 JSON。它支持最长 2 小时的视频、在多模态提示中使用参考图像,以及直接从 Amazon S3 或通过 base64 输入处理视频,无需预先建立索引。本文提供了通用分析、结构化输出、视频分段和图像引导查询的 API 示例。

    推荐理由

    这些示例展示了如何通过可复用的片段定义和输出架构,为视频库生成一致的元数据,从而支持将工作流程从手动标注转向审核。

10月18日周日
  1. NVIDIA Blog75

    NVIDIA RTX Spark Windows 笔记本电脑上市,售价 2,399 美元起

    NVIDIA RTX Spark 笔记本电脑现已上市,售价 2,399 美元起,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 推出,更多机型也将陆续上市。它们搭载 NVIDIA Blackwell RTX 显卡和 NVIDIA Grace CPU,可提供最高 1 petaflop 的 AI 算力和最高 128GB 的统一内存,适用于本地 AI、内容创作和游戏。NVIDIA 在全球举办了六场零售庆祝活动,以纪念此次上市,其中包括 Jensen Huang 出席的柏林活动。

    推荐理由

    最高 128GB 的统一内存和 2,399 美元的起售价,为读者评估便携式本地 AI 系统提供了具体的硬件和成本参考。

10月17日周六
  1. AWS Machine Learning Blog60

    构建对 AI 代理的信任:基于 Amazon Bedrock AgentCore 的生产就绪评估框架

    AWS 介绍了其 SMGS 运营团队如何使用 Amazon Bedrock AgentCore,为内部销售智能系统构建了一个包含九个阶段的评估框架。该框架结合了特定领域的评估器、版本化的黄金数据集、CI/CD 门禁、持续监控,以及基于追踪数据对工具、代理和多代理工作流进行改进。AWS 报告称,自动化评估将质量回归的发现时间从几天或几周缩短到不到四小时。

    推荐理由

    该框架提供了一种可迁移的方法,可将特定领域的故障类别与发布门禁和生产监控相结合,覆盖工具、单个代理和多代理工作流。

  2. Google Research76

    让 AI 智能体立足生物学现实:构建自主湿实验室的基石

    Google Research 介绍了三个将 AI 智能体与湿实验相结合的项目:VERD 实验室自动化、闭环适配体发现,以及从头设计蛋白质结合体。经过三轮实验,适配体对肌红蛋白和 α-凝血酶的靶向命中率分别达到 33.5% 和 42.1%;蛋白质设计流程将计算周期加快了八倍以上,并获得了亲和力达到个位数纳摩尔级的结合体。整合这些项目仍是下一步工作,相关保障措施包括序列筛查、机器人执行前进行模拟,以及取得人工授权并由人工监督。

    推荐理由

    适配体实验展示了实验反馈如何揭示具有误导性的优化目标,为自动化发现流程提供了一种可迁移的方法,用于区分真正的生物学改进与实验伪象。

10月16日周五
  1. AWS Machine Learning Blog73

    推出 Reflection Beam:一款面向 AWS 智能体编程的开放权重模型

    Reflection AI 推出了 Beam,这是一款用于智能体编程和多步骤任务的开放权重模型,总参数量为 5010 亿,激活参数量为 230 亿。Reflection 称其有效上下文长度为 100 万个 token,并以 Apache 2.0 许可发布 Beam 1.0,提供 BF16、FP8 和 NVFP4 版本。本指南介绍如何通过 Amazon SageMaker JumpStart,或借助 JumpStart、SGLang 或 vLLM 在 HyperPod Inference 上进行部署,内容包括容量规划、调用、性能测量和清理。

    推荐理由

    部署方式的比较说明了何时托管端点已足够,以及何时 Kubernetes 基础设施或自定义运行时能为服务配置、分布式执行和扩缩容提供有用的控制。

  2. Hugging Face Blog83

    Reflection发布Beam:一款用于编程和智能体工作的501B开源模型

    Reflection在Hugging Face上发布了Beam。这是一款501B的MoE模型,每个token激活23B参数,支持100万token的上下文窗口,并采用Apache 2.0许可证。这款纯文本模型面向编程和智能体工作,提供BF16、FP8和NVFP4检查点,并在发布首日支持transformers、vLLM和SGLang。Hugging Face还提供部署和后训练方案,以及自有的任务评测和演示。

    推荐理由

    部署指南区分了活跃计算量与权重总内存用量,帮助团队评估运行和适配一款具有长上下文窗口的稀疏模型所需的硬件配置。

  3. Hugging Face Blog82

    NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流程

    NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1,涵盖 22 种印度语言、约 2.8 万亿个 token,并将很快与其开放式 GPU 加速生成流程一同发布。该语料库包含全部 22 种语言的本土文字文本,以及 12 种语言的罗马化文本;这些文本由精选英文来源翻译而来,并经过质量检查和来源追溯。一个印度语系继续预训练阶段提升了五项已报告基准的成绩,但该阶段混合了合成数据与自然数据,因此这项比较无法单独确定该语料库的贡献。

    推荐理由

    该流程通过将翻译、质量评估、修复和文字系统转换分开,同时保留与源文档的链接,为多语言数据生成提供了一种可复用的方法。

  4. Hugging Face Blog74

    Granite Switch 4.1 在一个端点中整合聊天、决策与语音

    IBM 发布了 Granite-Switch-4.1-8B 和 -30B,通过一个托管端点整合了聊天、通用决策 aLoRA、专用 Guardian aLoRA,以及 Granite-Speech-5.0-Turbo-CTC 转录功能。IBM 表示,组合模型使用的 GPU VRAM 与基础模型大致相同,因为适配器会复用基础模型的 KV 缓存。用户还可以使用 Granite Libraries 适配器组合自定义 Switch 模型;IBM 计划推出用于在 Mellea 中训练适配器的 Adapter SDK。

    推荐理由

    共享 KV 缓存和模块化适配器提供了一种切实可行的方法,可将通用决策、专用决策与转录功能结合起来,同时让 GPU 内存用量接近基础模型。

  5. AWS Machine Learning Blog60

    Meta 的 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上提供

    Meta 针对代码优化的开放权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上提供,包含 BF16 和 NVFP4 两种版本,支持 100 万 token 的上下文窗口,总参数量为 816B,其中每个 token 激活 42B 参数。AWS 提供了使用 SageMaker Studio 或 SageMaker Python SDK 进行部署的说明,以及推理和清理示例。发布时,该模型可在美国东部(弗吉尼亚北部)和美国东部(俄亥俄州)使用。

    推荐理由

    部署指南将 BF16 和 NVFP4 的内存需求与受支持的实例类型对应起来,为团队在代码仓库上评估该模型时规划基础设施提供了具体依据。

  6. Hugging Face Blog87

    Meta 发布 Muse Spark Open:开放权重的多模态混合专家模型

    Meta 的 Muse Spark Open 是一款开放权重的混合专家模型,约有 8160 亿个参数,每个 token 激活约 420 亿个参数,上下文窗口最长可达 100 万个 token。该模型经过智能体编程训练,可接收文本、图像、音频和视频,并生成文本。Hugging Face 提供推理和部署方案,报告了其自身的量化测试结果,并演示了使用 TRL 对注意力层进行 LoRA 微调,同时冻结专家网络。

    推荐理由

    这些部署方案阐明了稀疏专家激活如何在保留大量内存需求的同时减少每个 token 的计算量,帮助开发者根据不同检查点格式和服务框架评估硬件需求。

  7. Microsoft Research79

    Microsoft Research 推出面向基于证明的通用计算的 Magnetar

    Microsoft Research 推出 Magnetar,这是一种零知识虚拟机,使用仅基于标准哈希函数的安全机制来证明 RISC-V 程序的执行。它支持用 Rust、Go 或 C 编写的程序,无需开发者将其改写为密码学电路。Microsoft 报告称,在 15 个基准测试程序中,Magnetar 在同一台机器上的平均速度比现有最快的可比 zkVM 快 10 至 39 倍,证明验证时间约为 12 毫秒。

    推荐理由

    基准测试对比将证明速度与通用执行和标准哈希函数联系起来,阐明了限制可验证计算更广泛采用的权衡。

10月15日周四
  1. Hugging Face Blog79

    欢迎在 Diffusers 中使用 FLUX.3 Image Klein

    Black Forest Labs 的 FLUX.3 Image Klein 发布首日即获得 Diffusers 支持,可用于文生图、多参考图图生图以及边界框布局控制。开放的检查点包括一个蒸馏模型(无需 CFG,使用 16 步)和一个基础模型(使用 CFG,运行 50 步);在报告的基准测试中,蒸馏模型在 H100 上用 1.93 秒生成了一张 1024 × 1024 图像。Hugging Face 提供量化加载示例、LoRA 训练脚本,以及用于定制其 Modular Diffusers 流水线的工作流。

    推荐理由

    运行时测量数据和量化指南有助于开发者评估硬件需求,包括参考图像如何增加生成时间,以及何时降低精度可以减少内存占用而不提升速度。