跳到正文
时光机停在2026年10月13日 周二‹ 前一天后一天 ›加速史回到现在

最新精选

一手

模型厂商、公司和研究机构自己发布的消息:官网、官方博客和官方账号。

10月13日周二
  1. AWS Machine Learning Blog63

    Amazon SageMaker AI 上的混合专家(MoE)内核工程

    AWS 介绍了 Amazon SageMaker AI 中使用的三项融合 MoE 优化,报告吞吐量最高提升 10%,首次生成令牌时间(TTFT)最高缩短 9%。在 H200 上,交换矩阵操作数使吞吐量提升了 2–4%;将 FP8 张量量化模型路由到 Triton,则使吞吐量提升了 10%。消除不必要的 Triton JIT 重新编译,在 8 路张量并行时将 TTFT 缩短了 9%;该帖子指出,这些优化已在 vLLM 和 AWS LMI v28 容器中提供。

    推荐理由

    这些优化示例分别考察矩阵布局、后端选择和编译器特化,展示了提升 MoE 服务性能的一种可迁移方法,并说明了它们如何分别影响吞吐量和延迟开销。

  2. AWS Machine Learning Blog75

    使用 Amazon Bedrock 上的 Grok 4.7 构建长周期智能体

    AWS 展示了如何使用 Amazon Bedrock 上的 Grok 4.7 构建和评估工具调用智能体,并在三项合成任务中比较四种推理力度。该智能体在 72 次运行中有 67 次回答正确;xhigh 为 18 次全对,而 low 答对 18 次中的 15 次,输出 token 数约为前者的八分之一。本指南涵盖任务设计、自动评分、生产监控和运维控制,并指出这些小规模结果仅供参考,不足以得出统计学上确凿的结论。

    推荐理由

    答案可验证且唯一的任务,加上重复运行,为比较推理力度提供了一种可复用的方法;分别测量正确性和 token 数,则能具体体现两者之间的权衡。

  3. AWS Machine Learning Blog67

    使用 Amazon Bedrock 全球跨区域推理访问 OpenAI GPT-6 模型指南

    AWS 说明了如何从泰国、马来西亚、新加坡、印度尼西亚和台湾通过 Amazon Bedrock 全球跨区域推理调用 OpenAI GPT-6 Sol 和 GPT-6 Luna,以及如何从新加坡调用 GPT-6 Astra。本指南涵盖 Converse、兼容 OpenAI 的 API、编码客户端、IAM 权限、SCP 例外、配额和监控。计费和配额跟踪仍在源区域进行,而请求则在受支持的目标区域运行;每个输出 token 消耗 10 个配额 token。

    推荐理由

    本指南介绍了一种可迁移的方法,用于配置跨区域推理权限:将 SCP 例外限定于推理配置文件,同时保留对其他服务的区域控制。

  4. Microsoft Research65

    模拟学生学习,改进 AI 辅导

    微软研究院推出 StudentSim,这是一套研究系统,利用公开可用且已去标识化的学习者记录训练个性化学生模拟器,以评估和改进 AI 辅导工具。StudentSimEval 在国际象棋、英语作为第二语言的写作和数学领域,衡量行为保真度和对指导的响应能力;在这些领域,StudentSim 的表现均优于领先基线。在一项国际象棋辅导研究中,使用 StudentSim 反馈进行训练的准确率达到 90.5%,而不使用强化学习时为 75.7%,使用 GPT-5.4 反馈时为 71.6%;对真实学习者开展研究仍不可或缺,论文和代码均已公开。

    推荐理由

    同时评估模拟学习者的起始能力及其对指导的反应,为评估辅导反馈提供了一种具体方法,评估范围超越了解释本身是否正确。

  5. AWS Machine Learning Blog66

    使用 Ray LLM 深度学习容器运行多节点推理工作负载

    AWS 展示了如何使用 Ray LLM 深度学习容器,在 Amazon EKS 上跨两个 GPU 节点部署 Qwen3.5-9B,并在一个兼容 OpenAI 的端点后配置独立的预填充和解码部署。该演示使用 YAML 配置应用,并通过 EFA 上的 NIXL 在节点间传输 KV 缓存。内容涵盖集群配置、模型调用、传输验证和资源清理。

    推荐理由

    本指南提供了一种可迁移的部署模式,用于分离预填充和解码,并说明如何验证传输后端,避免通信悄然回退到 TCP 速度。

  6. AWS Machine Learning Blog61

    在 Amazon SageMaker AI 上使用 llama.cpp 部署决策模型

    AWS 介绍了如何在 Amazon SageMaker AI 上使用其 llama.cpp 深度学习容器部署 GGUF 模型,然后添加 SemIf 适配器,以便针对已声明的选项返回概率,而不生成答案词元。该指南包含 CPU 和 GPU 部署代码。在使用 Qwen3.5-4B Q4_K_M 完成的 231 项 JevBench 任务中,与 CPU 配置相比,GPU 配置的 p50 延迟快 4.9 倍,p95 延迟快 32.2 倍,且准确率相近。

    推荐理由

    这种部署模式展示了应用如何为预定义选项评分,而无需解析生成的散文,同时将授权、阈值和回退规则保留在应用控制之下。

10月9日周五
  1. Hugging Face Blog73

    作者用 ML-intern 两天训出六个模型,总花费约 103 美元

    作者在 HuggingChat 中开启 ML-intern,用提示词描述需求,两天内做出六个模型并发布到 Hub,总计算花费约 103 美元。其中把 Qwen-Image 2.1 的 9B 提示词改写器蒸馏成 0.8B 版本,可在 CPU 上运行,输出有效率 99.7%,token 用量约为教师模型的四分之一。作者公开了全部七个提示词,并建议在提示中要求基线对比、冒烟测试和预算上限。

    推荐理由

    作者用 ML-intern 在两天内做出六个模型,公开了全部提示词与成本明细,可迁移到自己的训练流程。

10月8日周四
  1. Google Research62

    Google Research 三个月专利撰写实验:AI 辅助提升产出,但未加速初级律师判断力成长

    Google Research 在 NBER 发布一项为期三个月的专利撰写实地实验,将当时未发布的 Google Labs AI 专利写作助手(现属 Gemini Notebook)随机开放给 11 家知识产权律所的 133 名律师,其中三分之二获得早期访问权。

    推荐理由

    三个月专利撰写实验区分了AI带来的即时产出提升与无辅助判断力的变化,为理解AI对专业能力的影响提供了对照证据。

  2. AWS Machine Learning Blog71

    Claude Haiku 5.5 上线 Amazon Bedrock 与 Claude Platform on AWS

    AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线。

    推荐理由

    AWS 官方给出 Haiku 5.5 的定位、成本变化与调用方式,读者可据此判断它在多智能体分层中的位置。

  3. NVIDIA Blog78

    NVIDIA 与 Microsoft 发布 RTX Spark 与 Windows 智能体基础设施

    NVIDIA 与 Microsoft 在旧金山 Windows AI and Surface 活动上宣布为 Windows PC 的智能体时代共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。

    推荐理由

    NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力一起补齐,读者可据此判断本地智能体工作流的落地条件。

  4. OpenAI News78

    OpenAI 在 ChatGPT 全球上线 GPT-6 并推出 Intelligent UI

    OpenAI 宣布 GPT-6 正在 ChatGPT 中面向全球上线,并同步推出 Intelligent UI。官方称新版本响应更快,提供可视化内容和可直接探索、使用的交互体验。

    推荐理由

    OpenAI 官方公布 GPT-6 在 ChatGPT 全球上线,并同步引入 Intelligent UI,读者可据此了解模型与交互形态的同步变化。

  5. GitHub Blog · AI & ML60

    GitHub 推出基于 ModernBERT 的密钥检测模型,扩展推送保护

    GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用代码上下文识别无固定格式的密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提升一倍以上。

    推荐理由

    GitHub 用九个季度数据说明密钥泄露与人工修复的失衡,并给出把检测前移到推送环节的模型方案。

  6. Hugging Face Blog62

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开源权重模型 d1-3B 和 d1-omni-600M(实验性)。

    推荐理由

    Liquid AI 开源两款决策模型,给出端侧延迟与七项基准对比,可据此判断小模型做结构化决策的可用性。

  7. Microsoft Research72

    微软研究院开源 Agent Lightning v1.0:3500 行轻量级智能体 RL 框架,支持真实 harness 训练

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量级智能体 RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一 agent harness 直接参与强化学习,无需在训练框架内重新实现智能体。

    推荐理由

    原文给出了框架的代码规模、Kubernetes 支持与训练配方,读者可据此判断真实 harness 参与 RL 的落地成本。

10月7日周三
  1. Hugging Face Blog62

    Nemotron 微调后在 IOI 2026 与 IMO 2026 均达金牌水平

    英伟达团队从 Nemotron 3 出发,用 SFT、RL 和生成-验证-改进的推理流程打造专项模型,在 IOI 2026 和 IMO 2026 均达到金牌线。

    推荐理由

    原文给出了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方,读者可据此复用其数据与推理流程。

  2. OpenAI News62

    OpenAI 公布内部前沿模型在数学开放问题上的进展

    OpenAI 发布内部前沿模型在数学开放问题上的新结果,并在 GitHub 上公开 Lean 证明形式化与研究细节。

    推荐理由

    OpenAI 公开内部前沿模型在数学开放问题上的结果,并同步放出 Lean 证明形式化,可看模型推理与形式化验证的结合方式。

  3. AWS Machine Learning Blog60

    如何在 AgentCore 与 OpenClaw 上构建上下文感知 AI 助手

    AWS 官方博客介绍如何在 Amazon Bedrock AgentCore runtime 上运行开源智能体系统 OpenClaw,构建带长期记忆的个人助手 Sprout。

    推荐理由

    原文给出可复用的容器包装、命名空间与提示词缓存排序方法,读者可据此搭建带长期记忆的智能体。

  4. Google DeepMind71

    Google DeepMind 发布 EmbeddingGemma 2 开源轻量多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构、740M 参数,在 Apache 2.0 许可下开源,将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由

    EmbeddingGemma 2 把文本、图像、音频、视频统一到同一嵌入空间,并给出端侧内存与向量截断的具体数字,便于评估本地多模态检索的可行性。

10月6日周二
  1. Mistral AI80

    Mistral 发布 Mistral Large 4 公开预览,1 万亿参数多模态模型

    Mistral 发布 Mistral Large 4 公开预览,这是一个 1 万亿参数、490 亿激活参数的 natively 多模态模型,权重将于本月底开放。

    推荐理由

    Mistral 官方给出 1 万亿参数多模态模型的开放权重时间表与自建欧洲算力背景,可对照其与主流开源模型的定位差异。

  2. AWS Machine Learning Blog62

    GLM 5.3 上线 Amazon Bedrock

    智谱(Z.ai)的 GLM 5.3 已在 Amazon Bedrock 上线,这是一个 753B 参数的 MoE 模型,面向编码和长程智能体任务,通过全托管 API 提供跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。

    推荐理由

    原文给出 GLM 5.3 在 Bedrock 上的接入方式与提示词缓存用法,读者可据此评估托管推理对编码与长程智能体工作流的成本影响。