跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

69 条精选近 30 天 48条共收录 216条

更新

精选归档 · 第 3 页

10月1日周四
  1. The Decoder80

    OpenAI 称已阻止窃取模型推理的活动,但同一手法在 Azure 上仍然有效

    OpenAI 称其阻止了一场窃取模型推理内容的蒸馏活动,该活动 7 月 1 日起量级较低,7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求,涉及 15000 多个关联账号,OpenAI 称已于 7 月 28 日前全部关停,并注明这些是尝试性提取、未必成功。

    推荐理由:OpenAI 披露一起推理蒸馏窃取事件,并牵出云平台防护不一致的问题,读者可据此了解模型推理泄露的实际路径。

  2. Latent Space82

    Google DeepMind 发布 Gemini 4 Argon,支持 1M 输出 token

    Google DeepMind 发布 Gemini 4 Argon,面向编码、企业知识工作与网络防御,先在 Fairwind 计划的政府用户和可信网络安全人员中开放,之后才向开发者、企业和消费者开放。

    推荐理由:汇总 Gemini 4 Argon 的基准、定价与第三方评测分歧,可对照其与 Astra、Opus 5.5 的实际差距。

  3. The Decoder78

    Google 发布 Gemini 4 Argon,追平 OpenAI 与 Anthropic 但未取得明显领先

    Google 发布新前沿模型 Gemini 4 Argon,在多项基准上追平 OpenAI 与 Anthropic,但未取得明显领先。该模型先向 Fairwind 计划的“可信网络防御者”和 Google 内部团队开放,之后才面向开发者、企业和消费者,API 定价为每百万输入 token 2 美元、输出 token 10 美元(促销价)。

    推荐理由:汇总第三方与人类偏好榜单,呈现 Gemini 4 Argon 与 OpenAI、Anthropic 的分数、token 消耗和价格对比。

  4. Google DeepMind88

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展到开发者、企业和消费者,起价为每百万输入 token 2 美元、每百万输出 token 10 美元。

    推荐理由:Gemini 4 Argon 把输出上限提到 1M token 并给出多项基准与内部落地数据,可据此判断长程工作流的能力边界。

9月26日周六
  1. Kevin Weil · X79

    Anthropic报告称,Claude解决了平面N=4超杨-米尔斯理论中的九圈计算

    Anthropic报告称,Claude解决了平面N=4超杨-米尔斯理论中的一个九圈散射振幅问题。在Claude Science中,Claude连续数天基本上在无人监督的情况下运行,总成本为几千美元。Claude采用了Lance Dixon及其同事开发的方法,Dixon也独立验证了这一结果。 曾在研究生阶段计算费曼图的Kevin Weil称这一成果令人难以置信,并表示期待AI在未来12个月为高能物理带来怎样的变化。

    推荐理由:报告所述的几千美元成本,为评估学术计算预算内由AI辅助的理论物理计算提供了一个具体参考。

9月23日周三
9月22日周二
  1. Latent Space76

    TypeSafe AI 创始人 Diogo Almeida 谈 Jev 与 RLCD:为软件而非聊天造 System 1 模型

    TypeSafe AI 创始人 Diogo Almeida 在 Latent Space 访谈中介绍新模型 Jev,称其为面向代码消费的 System 1 模型,按每美元智能而非聊天体验优化,核心创新是未发表的 RLCD(Reinforcement Learning for Calibrated Decisions),用校准概率替代人类评分反馈。

    推荐理由:Diogo Almeida 复盘 RLHF 到 RLCD 的路线分歧,并解释为何把可靠性而非基准分数当作模型目标。

9月16日周三
  1. NVIDIA Blog62

    NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1 并取得领先性能

    NVIDIA 在 MLPerf Inference v6.1 中首次提交 Vera Rubin NVL72 预览结果,在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 上最高达 2.5 倍。

    推荐理由:MLPerf Inference v6.1 结果给出 Vera Rubin NVL72 与 GB300 NVL72 的吞吐、扩展效率和软件优化幅度,可用于判断推理基础设施的性价比走向。

  2. Google DeepMind · X77

    Google DeepMind 发布 Gemini 3.8 Live 与 3.8 Live Extended Thinking

    Google DeepMind 发布 Gemini 3.8 Live 和 3.8 Live Extended Thinking,称其为目前最好的对话式 AI。官方表示这两款模型可以对话、思考并在后台处理任务,而不打断用户当前的工作流。

    推荐理由:Google DeepMind 发布对话模型新版本,读者可了解其在实时对话与后台任务处理上的能力定位。

9月10日周四
  1. DeepSeek · X68

    DeepSeek 发布 DeepSeek-V4.1-Flash 模型

    DeepSeek 发布 DeepSeek-V4.1-Flash,称其更智能、更快、更高效。该模型是新架构家族中体量最小的一个,具备原生视觉理解能力,面向更强能力、更快推理、更高吞吐设计,并可扩展至更大模型。

    推荐理由:DeepSeek 新架构家族的最小模型,原生视觉理解与推理吞吐提升,可据此判断其轻量多模态定位。

8月25日周二
  1. Hugging Face Blog62

    IBM 发布 Granite 4.2 推理模型家族:3B、8B、30B 三档

    IBM Granite 团队发布 Granite 4.2,这是其首个稠密 decoder-only 推理模型家族,包含 3B、8B、30B 三个规模,基于 Granite-4.1 基座后训练而来,全部采用 Apache 2.0 许可。

    推荐理由:原文完整披露了 Granite 4.2 的架构、SFT 数据配比与多阶段 RL 课程,可据此理解推理模型后训练的具体做法。

  2. Hugging Face Blog60

    Multiverse Computing 提出 Quantization-Aware Healing:4-bit 压缩模型在 9 项基准中 7 项超过其 bfloat16 原版

    Multiverse Computing 发布论文提出 Quantization-Aware Healing(QAH),在 GPT-OSS 120B 压缩到 60B 参数并量化为 MXFP4 后,直接从压缩前的原始模型蒸馏,而非从恢复出的 bfloat16 检查点蒸馏。

    推荐理由:论文给出压缩加量化后从原始模型蒸馏的修复配方,并附与 QAT 的稳定性对比数据。

8月13日周四
  1. DeepSeek · X82

    DeepSeek 发布 DeepSeek-V4-Pro

    DeepSeek 发布 DeepSeek-V4-Pro,主打智能体能力升级并带来明显的生产收益。V4-Pro 与 V4-Flash 支持灵活推理强度,简单任务用 low、日常 Agent 工作流用 high、复杂任务用 max。该模型原生支持 OpenAI Responses API,并针对 Codex 做了优化、可一键配置,现已上线 app 和网页端(Expert Mode)及 API,模型名称保持不变。

    推荐理由:官方给出 V4-Pro 的智能体能力升级与三档推理强度,读者可据此判断它在生产工作流中的定位。

8月12日周三
  1. Google Research60

    Google Research 提出知识画像框架:召回而非编码是前沿 LLM 事实性的瓶颈

    Google Research 提出知识画像(knowledge profiling)框架,将事实性错误区分为编码失败与召回失败,并发布包含 2,150 条 Wikipedia 事实的 WikiProfile 基准。

    推荐理由:通过知识画像区分编码失败与召回失败,为理解前沿模型事实性错误来源提供了新的诊断视角。

7月31日周五
  1. Mira Murati · X73

    Thinking Machines 发布 Inkling-Small,开放完整权重,规模仅为 Inkling 的四分之一

    Mira Murati 表示,Inkling-Small 的表现可与 Inkling 相媲美,规模只有四分之一,并且现已开放权重,可在 Tinker 上进行微调。 她期待看到人们用它创作出什么。 在引用的公告中,@thinkymachines 报告称,该模型总参数量为 276B,激活参数量为 12B,并开放完整权重,同时在 Tinker Playground 上提供文本、图像和音频聊天。 https://thinkingmachines.ai/news/inkling-small/

    推荐理由:与 Inkling 的比较为较小模型所宣称的性能提供了背景,而参数量则说明了规模缩减的程度。

7月29日周三
  1. Berkeley AI Research62

    从 CUDA 到 MLX:K-Search 如何把内核优化经验带到 Apple Silicon

    Berkeley AI Research 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核经验自动适配 Apple Silicon。

    推荐理由:原文给出了 CUDA 到 MLX 的翻译层设计与两组内核实测数据,可看到跨平台内核知识迁移的具体做法。

7月15日周三
  1. Hugging Face Blog88

    Thinking Machines 发布 Inkling 系列开源多模态模型

    Thinking Machines Lab 在 Hugging Face 发布 Inkling 系列开源多模态模型,其中 Inkling 为约 1T 参数、41B 激活参数的 MoE 模型,原生支持图像、音频、文本输入和 1M 上下文,并推出 276B 总参数、12B 激活参数的 Inkling-Small。

    推荐理由:原文给出 Inkling 的架构细节、部署配置与基准对比,读者可据此判断约 1T 参数开源多模态模型的落地门槛。

7月2日周四
  1. Mistral AI71

    Mistral 发布 Leanstral 1.5 形式化验证模型

    Mistral 发布 Leanstral 1.5,一个 Apache-2.0 许可、119B 总参数 6B 激活参数的形式化验证模型,在 miniF2F 上达到 100%,PutnamBench 解出 587/672 题,FATE-H 和 FATE-X 分别取得 87% 和 34% 的 SOTA。

    推荐理由:原文给出 Leanstral 1.5 在形式化验证基准上的成绩与开源入口,读者可据此判断其在证明工程中的可用性。