尼克·卡马拉塔质疑神经网络可解释性中的叠加解释

发生了什么

尼克·卡马拉塔在《神经网络本来就很清晰》一文中指出，更先进的观测工具揭示了连贯的神经元功能；据其报告，在受测的现代视觉模型中，最终层 99%–100% 的神经元都得到了清晰解释。他将一些经典案例中看似无关的特征重新解释为几何检测或递归泛化。尼尔·南达则反驳说，这些发现并未解决语言模型中的表征叠加问题，并为稀疏自编码器（SAE）的应用辩护。卡马拉塔称这一提议是一个工作假设，同时承认在语言模型训练证据、多模态覆盖和因果验证方面仍有不足。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议