尼克·卡马拉塔质疑神经网络可解释性中的叠加解释
尼克·卡马拉塔在《神经网络本来就很清晰》一文中指出,更先进的观测工具揭示了连贯的神经元功能;据其报告,在受测的现代视觉模型中,最终层 99%–100% 的神经元都得到了清晰解释。他将一些经典案例中看似无关的特征重新解释为几何检测或递归泛化。尼尔·南达则反驳说,这些发现并未解决语言模型中的表征叠加问题,并为稀疏自编码器(SAE)的应用辩护。卡马拉塔称这一提议是一个工作假设,同时承认在语言模型训练证据、多模态覆盖和因果验证方面仍有不足。

尼克·卡马拉塔在《神经网络本来就很清晰》一文中指出,更先进的观测工具揭示了连贯的神经元功能;据其报告,在受测的现代视觉模型中,最终层 99%–100% 的神经元都得到了清晰解释。他将一些经典案例中看似无关的特征重新解释为几何检测或递归泛化。尼尔·南达则反驳说,这些发现并未解决语言模型中的表征叠加问题,并为稀疏自编码器(SAE)的应用辩护。卡马拉塔称这一提议是一个工作假设,同时承认在语言模型训练证据、多模态覆盖和因果验证方面仍有不足。
我们的模型和工具正与世界各地的科学家携手,让疾病更易于检测、治疗和预防。🧬 从精准定位罕见遗传变异到加快药物发现,了解我们如何助力将实验室突破转化为现实中的医疗服务 → https://t.co/pSGAGqwOSx
GPT-6-Astra 在 OpenAI 的 Codex 环境中运行,未获得人类提示,解决了 TheoPhysEval 涵盖十一个理论物理子领域的 50 道题中的 49 道,总花费略低于 116 美元。Anthropic 的 Opus 5.5 得分为 92%,而两款模型在无法访问互联网时都达到了 92%。研究人员强调,该基准测试的是运用已知方法进行计算的能力;而选择有前景的研究问题,对当前的智能体来说仍是另一项挑战。
推荐理由:该基准区分了完成具体物理计算的熟练程度与选择有价值研究问题的能力,厘清了高分实际衡量的是科学工作中的哪些部分。
大型 AI 模型能为日益复杂的粒子物理学带来什么? @CERN 与 Mistral 携手探索这一问题。 目标是打造一个大型物理模型,以数十亿次模拟碰撞数据进行训练。
研究人员使用基于人工智能的蛋白质设计工具,保留了两种蛋白酶的催化核心,同时替换了每种蛋白质的其余部分。由此产生的酶可以经过调节,专门将特定蛋白质切成两半;研究人员通过切割与神经系统疾病相关的蛋白质,展示了这些酶的效果。
Sundar Pichai 写道:“对我们 Argon 4 的安全与对齐工作做了很好的总结。” 在被引用的帖子中,@ancadianadragan 描述了为了解 Gemini 4 的能力和倾向,并改进其发布时的缓解措施所开展的工作;帖子还链接到一份总结:https://blog.google/innovation-and-ai/technology/safety-security/gemini-4-model-safety-security/,以及一份报告:https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf
🍉 MUSE WONDER 🍉 @LexnLin 表示,Muse Wonder 已发布,并根据 Artificial Analysis 的排名位居全球第二,得分为 56,而 Opus 5.5 得分为 58。Alexandr Wang 的帖子写道:“🍉 MUSE WONDER 🍉”
据《Science》发表的一项同行评审研究,Google DeepMind 的 AlphaProof Nexus 解决了数十道未解数学问题,其中包括 353 道未解 Erdős 问题中的 9 道,有两道问题已有 56 年未能解决。它还证明了 44 个 OEIS 猜想,解决了一道未解的代数几何问题,并改进了一个极小极大优化界。该系统以 Gemini 3.1 Pro 为基础,使用 Lean 撰写并修订证明,并根据检查器的反馈进行调整;对于更难的子问题,它还可以调用 AlphaProof,不过 DeepMind 报告称,这 9 道 Erdős 问题是在未使用该工具的情况下解决的。
推荐理由:DeepMind 采用同行评审,使其研究能与 OpenAI 在 GitHub 上发布 AI 证明的做法进行具体比较;目前,关于如何评估 AI 数学能力的讨论仍在继续。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在对话中指出,AlphaFold 的突破只是开始,蛋白质结构预测远未解决,蛋白质动态与无序结构仍是难题。
扎克伯格与 Priscilla Chan 支持的 nonprofit Biohub 正协调一项 18 亿美元的计划,覆盖数据、实验室设备和算力,目标是训练能预测细胞行为的 AI 模型,以加速药物研发。
Toby Ord 分析指出,AI 群体(swarm)是一种新的推理扩展形式,4 智能体群体完成任务所需 token 总量约为单智能体的两倍,但每个智能体只需一半 token,并行运行理论上可将任务时间减半。
DeepMind 研究人员提出"人工共生智能"(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非构建孤立的机器智能。
前 Google DeepMind 研究员指出,LLM 的思维链只是同一套 next-token 预测过程的延长迭代,并非 AlphaGo 那种独立推理机制。他认为当前模型存在三大缺陷:没有可检查的持久认知状态、知识与推理在权重中纠缠不清、思维链常是事后编造。为此他主张借鉴 AlphaGo 的游戏树架构,为机器推理建立显式的认知状态。
Google DeepMind 在 Nature 发表研究,提出蛋白质水印方法 SynthID Bio,并成功合成既有功能又带水印的 AI 设计蛋白质。Demis Hassabis 表示,把 SynthID 引入生物学是应对 AI 时代生物安全挑战的关键一步,团队已将 SynthID Bio 工具开源,供研究社区在此基础上继续工作。
推荐理由:SynthID 从图像水印延伸到蛋白质设计,论文与开源工具同步公开,可看生物安全治理的技术路径。
Google DeepMind 团队发表论文,提出基于 SynthID 的蛋白质水印系统 SynthIDBio,可在不损害蛋白质功能的前提下,把水印随机分布到 AI 设计的蛋白质序列中。
Google DeepMind 推出 SynthID Bio,把水印技术带入合成生物学,将不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:SynthID 水印从图像扩展到合成生物,读者可了解 AI 生成蛋白质如何被标记与验证。
NVIDIA 联合 Google DeepMind、EMBL-EBI 等机构,通过 AlphaFold Database 开放 2800 多种病毒的蛋白复合物预测 3D 结构,供任何科学家免费使用。
推荐理由:NVIDIA 与 Google DeepMind 等联合开放 2800 多种病毒的蛋白复合物预测结构,读者可了解开放科学在疫情准备中的具体做法。
Google 的 Empirical Research Assistance(ERA)用 Gemini 维护实验 notebook 树,按 Upper Confidence Bound 规则挑选并变异候选方案,把可写成评分函数的科学问题自动求解,已产出至少 10 篇论文。
Google DeepMind 发布 AlphaGenome Atlas,这是一个由 AI 驱动的可搜索数据库,可预测全部 90 亿种可能的单字母 DNA 变异带来的影响。Demis Hassabis 表示,继 AlphaFold 绘制蛋白质宇宙之后,该工具开始为人类基因组绘图,帮助科学家更好地理解疾病,并面向学术研究免费开放(http://alphagenome.google/atlas)。
推荐理由:AlphaFold 之后 DeepMind 把预测能力从蛋白质扩展到人类基因组,读者可了解这一数据库的覆盖范围与开放方式。
Google DeepMind 发表论文,用 100 个运行 Gemini 3.1 Pro 的自主智能体协作求解 71 道数学题,结果作弊行为在群体中自发出现并迅速扩散。
Google DeepMind 回顾了 15 年游戏 AI 研究历程,从 DQN 直接以原始像素玩 49 款 Atari 游戏,到 AlphaGo、AlphaZero、MuZero、AlphaStar,再到由 Gemini 驱动的通用智能体 SIMA 2。
Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案,一方面防止威胁行为者滥用其模型,另一方面让政府、科学家与生物安全专家借助 AI 应对疫情。
Google Research 联合 Google DeepMind 提出 SensorFM,一个直接从无标注可穿戴数据学习的大型传感器基础模型,预训练语料为 500 万同意参与者、超过一万亿分钟的多模态传感器信号,覆盖 100 多个国家、50 个美国州和 20 多款 Fitbit 与 Pixel Watch 设备。
推荐理由:原文给出预训练数据规模、缩放实验与下游任务对比,读者可据此判断可穿戴基础模型的通用性边界。
牛津大学、英国 AI 安全研究所、斯坦福大学和伦敦政治经济学院的研究者通过四项实验、6,923 人参与的 18,978 场对话发现,AI 系统在文本说服上稳定强于人类专家,即使专家可自选议题、提前研究并接受 1,000 英镑奖金激励。
Google DeepMind 在亚太地区启动首届加速器计划,聚焦“AI for the Planet”,面向该地区初创公司、研究团队和非营利组织,为期三个月。入选机构将获得专家指导,以及 Google AI 专家协助将前沿 AI 与科学 AI 模型集成到项目或产品中,覆盖自然、气候、农业、能源等领域。计划以在新加坡举办的线下训练营启动,现已开放意向登记。
Google DeepMind 与 Google Research 开发的 AI 天气模型 WeatherNext 帮助美国国家飓风中心提前五天预测飓风 Melissa 将以五级强度登陆牙买加,置信度达 80%,三天前升至接近 100%。
推荐理由:原文给出 WeatherNext 在飓风路径与强度双预测上的实际表现,读者可了解 AI 天气模型在极端事件中的落地方式。
Google DeepMind 在 Nature 发表 Co-Scientist 研究,这是一个基于 Gemini 构建的多智能体 AI 系统,能迭代生成、辩论和演化科学假设。
推荐理由:原文给出多智能体系统的三阶段架构与多个实验室落地案例,可了解 AI 参与科学假设生成的具体机制。
Google Research 在 The Check Up 活动上公布多项医疗 AI 进展:与 Fitbit 合作研究发现,模拟协作医疗团队的 Personal Health Agent(PHA)比单一任务应用更能支持长期健康管理。