Sam Altman 欢迎 Nick Cammarata 对机械可解释性的乐观看法

发生了什么

Sam Altman 表示，他很高兴看到 Nick Cammarata 发布关于可解释性的帖子。 Cammarata 表示，他在 OpenAI 的早期工作让他感到悲观：当时原始的工具只能让约 2% 的神经元变得可理解。他如今声称，现代智能体工具能让规模高达数万亿参数的模型中绝大多数神经元变得可理解，并相信随着自动化科学家不断改进，雄心勃勃的可解释性研究很快就能取得突破。 https://already-clean.goodfire.com/

这件事到目前为止

Nick Cammarata 表示，智能体工具的改进让他对宏大的机制可解释性研究有望很快取得突破感到乐观；Sam Altman 表示，他很高兴看到 Cammarata 的帖子。 Cammarata 表示，他在 OpenAI 的早期工作让他感到悲观，因为当时原始的工具只能让约 2% 的神经元变得可理解。他现在声称，现代智能体工具能让参数量高达数万亿的模型中绝大多数神经元变得可理解。随着自动化科学家的能力不断提升，他认为，等到最需要宏大可解释性研究时，这一问题就会得到解决，也可能很快就会实现。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议