Thinking Machines 的 John Schulman 谈模型自我改进之际，人类判断力在哪些方面仍然重要

发生了什么

我们的 @johnschulman2 与 Dwarkesh 对谈，聊到随着模型不断改进并自我改进，人类判断力在哪些方面仍然重要：教会模型处理混乱的现实任务，对什么能长期奏效形成判断，以及最重要的是，明确我们真正想要什么。 @dwarkesh_sp 发布的引用帖文（背景信息，并非主要作者的作品）： 与 @johnschulman2、@oneill_c 和 @BerenMillidge 的新一期节目。 我邀请了几位我认识的、最有洞见且在较为开放的公司工作的 AI 研究人员一起交流，因为我想了解前沿领域实际发生的事情的细节，以及接下来会发生什么。 0:00:00 – 为反对 RSI 的论点作最有力的辩护 0:18:39 – 中国实验室的进展由什么推动 0:28:06 – 如何训练自动化 AI 研究员 0:33:51 – 长时程 RL 能否催生 AGI？ 0:45:24 – 从模拟到现实的差距 1:00:33 – 有多少进展可以归因于数据？ 1:18:03 – 为什么 RL 如此有效？ 1:24:54 – 第 37 手与熵坍塌 1:28:31 – 快问快答：时间线

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议