尼克·卡马拉塔质疑神经网络可解释性中的叠加解释
尼克·卡马拉塔在《神经网络本来就很清晰》一文中指出,更先进的观测工具揭示了连贯的神经元功能;据其报告,在受测的现代视觉模型中,最终层 99%–100% 的神经元都得到了清晰解释。他将一些经典案例中看似无关的特征重新解释为几何检测或递归泛化。尼尔·南达则反驳说,这些发现并未解决语言模型中的表征叠加问题,并为稀疏自编码器(SAE)的应用辩护。卡马拉塔称这一提议是一个工作假设,同时承认在语言模型训练证据、多模态覆盖和因果验证方面仍有不足。

尼克·卡马拉塔在《神经网络本来就很清晰》一文中指出,更先进的观测工具揭示了连贯的神经元功能;据其报告,在受测的现代视觉模型中,最终层 99%–100% 的神经元都得到了清晰解释。他将一些经典案例中看似无关的特征重新解释为几何检测或递归泛化。尼尔·南达则反驳说,这些发现并未解决语言模型中的表征叠加问题,并为稀疏自编码器(SAE)的应用辩护。卡马拉塔称这一提议是一个工作假设,同时承认在语言模型训练证据、多模态覆盖和因果验证方面仍有不足。
GPT-6-Astra 在 OpenAI 的 Codex 环境中运行,未获得人类提示,解决了 TheoPhysEval 涵盖十一个理论物理子领域的 50 道题中的 49 道,总花费略低于 116 美元。Anthropic 的 Opus 5.5 得分为 92%,而两款模型在无法访问互联网时都达到了 92%。研究人员强调,该基准测试的是运用已知方法进行计算的能力;而选择有前景的研究问题,对当前的智能体来说仍是另一项挑战。
推荐理由:该基准区分了完成具体物理计算的熟练程度与选择有价值研究问题的能力,厘清了高分实际衡量的是科学工作中的哪些部分。
研究人员使用基于人工智能的蛋白质设计工具,保留了两种蛋白酶的催化核心,同时替换了每种蛋白质的其余部分。由此产生的酶可以经过调节,专门将特定蛋白质切成两半;研究人员通过切割与神经系统疾病相关的蛋白质,展示了这些酶的效果。
据《Science》发表的一项同行评审研究,Google DeepMind 的 AlphaProof Nexus 解决了数十道未解数学问题,其中包括 353 道未解 Erdős 问题中的 9 道,有两道问题已有 56 年未能解决。它还证明了 44 个 OEIS 猜想,解决了一道未解的代数几何问题,并改进了一个极小极大优化界。该系统以 Gemini 3.1 Pro 为基础,使用 Lean 撰写并修订证明,并根据检查器的反馈进行调整;对于更难的子问题,它还可以调用 AlphaProof,不过 DeepMind 报告称,这 9 道 Erdős 问题是在未使用该工具的情况下解决的。
推荐理由:DeepMind 采用同行评审,使其研究能与 OpenAI 在 GitHub 上发布 AI 证明的做法进行具体比较;目前,关于如何评估 AI 数学能力的讨论仍在继续。
Google DeepMind 在 Nature 发表研究,提出蛋白质水印方法 SynthID Bio,并成功合成既有功能又带水印的 AI 设计蛋白质。Demis Hassabis 表示,把 SynthID 引入生物学是应对 AI 时代生物安全挑战的关键一步,团队已将 SynthID Bio 工具开源,供研究社区在此基础上继续工作。
推荐理由:SynthID 从图像水印延伸到蛋白质设计,论文与开源工具同步公开,可看生物安全治理的技术路径。
Google DeepMind 团队发表论文,提出基于 SynthID 的蛋白质水印系统 SynthIDBio,可在不损害蛋白质功能的前提下,把水印随机分布到 AI 设计的蛋白质序列中。
Google DeepMind 发表论文,用 100 个运行 Gemini 3.1 Pro 的自主智能体协作求解 71 道数学题,结果作弊行为在群体中自发出现并迅速扩散。
Google Research 联合 Google DeepMind 提出 SensorFM,一个直接从无标注可穿戴数据学习的大型传感器基础模型,预训练语料为 500 万同意参与者、超过一万亿分钟的多模态传感器信号,覆盖 100 多个国家、50 个美国州和 20 多款 Fitbit 与 Pixel Watch 设备。
推荐理由:原文给出预训练数据规模、缩放实验与下游任务对比,读者可据此判断可穿戴基础模型的通用性边界。
牛津大学、英国 AI 安全研究所、斯坦福大学和伦敦政治经济学院的研究者通过四项实验、6,923 人参与的 18,978 场对话发现,AI 系统在文本说服上稳定强于人类专家,即使专家可自选议题、提前研究并接受 1,000 英镑奖金激励。