人物观点、评论、分析、访谈、现象与趋势讨论
Baoyu 称，Anthropic 似乎放宽了对 Claude Agent SDK 和 claude -p 使用方式的限制，但尚未公开发表专门回应 Amp 的声明，也未保证账号不会被封禁。作者 Quinn Slack 根据 2 天前的一项政策更新及 Anthropic 员工的评论，认为 SDK 和第三方应用可以使用订阅额度，并引用了 https://support.claude.com/en/articles/15036540-use-the-claude-agent-sdk-with-your-claude-plan 和 https://news.ycombinator.com/item?id=49997143。Baoyu 回顾了此前的限制，并称 Anthropic 暂停了原定于 6 月 15 日将 Agent SDK 和 claude -p 改为单独计费的计划。
代码审查只是保障质量的一种方式。如今，有些人仿佛觉得不审查 AI 生成的代码，世界就会毁灭，尽管在 AI 出现之前，很多人也没有认真审查代码。😄
GPT-6 Pro 在处理其他工作的过程中，经常会发现学术论文中疑似存在的错误。如今，确认这些错误并了解其重要性仍然需要花费大量时间，但这一过程会越来越快。我们还没有建立起适当的机制来应对大量更正。
这个网站上普通回复机器人把回复灌水的话术转向提出有意思的问题，这让人越来越沮丧。 这样听起来像是真正的思想交流，不知为何比只复述帖子、再加上一句“这才是大家容易忽略的部分”还要糟。
Femo One 创始人刘年秋表示，DeepRoute AI 从高精地图转向无图驾驶的经验，可以为公司进军机器人领域提供参考。他将机器人称为“物理智能体”。Femo One 专注于开放、动态环境，并计划明年开始在多个场地部署，形成部署、数据采集、训练和重新部署的循环。
Baoyu 总结了微软 CEO 萨提亚·纳德拉的观点：企业应将 AI 模型视为内部人员风险来管理，为其设置身份、限制权限、保留审计记录，并配备可停止其运行的控制措施。纳德拉提出了七项原则，涵盖模型多样性、可观测性、验证、独立控制与审计、遏制以及事件披露。他呼吁披露思维链，同时承认思维链未必能忠实反映模型的推理过程；他还认为，安全控制必须在模型之外运行。
在 GPTs 退役之前，也就是上个月，我和一些大型企业里颇为恼火的负责人聊过，他们当时仍然看好 GPTs。没错，GPTs 已经不再实用。但大型组织的规划很复杂，而且所有 Labs（不只是 OpenAI）都在不断突然调整，让他们感到困惑。
Ethan Mollick认为，在实验室中有权使用先进模型的5,000人里，仍有许多人尚未充分利用这些模型；目前的使用主要集中在网络安全、数学和人工智能研发领域。 他补充说，还有许多其他领域可以推进，也有许多问题有待解决。他是在回应@karpathy关于人们对大型语言模型能力的共同理解差距正在扩大的观点。
一位日本博主引用了丰田的改善法则——流程改进减少工时后绝不裁员——并主张同样的原则适用于AI的采用。他说，一旦AI提升效率就裁减员工的公司，会发现员工会隐藏自己最好的AI方法。一条被引用的帖子补充说，DORA研究发现，解决员工工作顾虑的组织，其团队的AI采用率更高。
Andrej Karpathy认为，人们对LLM能力的共同理解差距正在扩大为一个尖锐的漏斗：大约60亿人几乎没接触过LLM，10亿至20亿人随意使用免费版聊天机器人，约2000万人使用前沿模型进行数学和编程，而大约5000人拥有对前沿系统的内部访问权限。他将这一漏斗归因于问题抱负、可验证领域中的能力参差不齐以及访问层级。
有趣的访谈。我们会聊到： - Muse 的故事 - 为什么参加我 19 岁生日派对的人如今都成了亿万富翁 - 钻石开采与建造摩天大楼 - 我的 200 多名直接下属
Andrej Karpathy 表示，人们对 LLM 能力的共同理解上的差距正在扩大为一个“陡峭的漏斗”，而不是两群人各说各话。他估计大约有 60 亿人几乎没接触过 LLM，10 亿至 20 亿人随意使用免费版类 ChatGPT 产品，约 2000 万人看到前沿级别的数学和代码应用，而大约 5000 人能够内部访问前沿系统。他将这一漏斗归因于影响力随雄心而扩展、能力的不均衡性以及访问层级。
Andrej Karpathy 认为，人们对 LLM 能力的理解正分化成一个陡峭的漏斗：粗略估计，60 亿人几乎没有接触过 LLM，10 亿至 20 亿人是休闲用户，2,000 万专业人士使用前沿 LLM 进行数学和编程，还有约 5,000 人能够使用内部前沿系统。他描述了越接近漏斗窄端、智能体工作流就越雄心勃勃的趋势，同时指出，人类的审查和理解能力开始跟不上。他将这种差距归因于问题的规模和持续时间、能力集中在具有经济价值且可通过数字方式验证的领域，以及免费、付费和内部访问权限之间的差异。
这是初创企业、建设者和开发者的黄金时代
突然之间，赛博格开始主导数学研究。
@Collin_Lemmon 表示，Alexandr Wang 分享了一个消费级 AI 愿景：“我认为，Muse 能让每个人都拥有他们童年时梦想的成年生活”。Wang 表示：“说真的，这正是我的想法”
PolyAI 首席技术官 Shawn Wen 表示，尽管全双工模型能够边听边说，语音 AI 仍需要更快的推理速度，才能让对话听起来自然。Otter 首席营销官 Alex Gay 表示，准确的转录、语言理解和富有表现力的语音对于实现自动化和建立信任都很重要。两位高管还强调，语音 AI 工具应告知人们，他们正在与 AI 对话或正在被录音。
陶哲轩认为，AI正在使数学证明变得充裕，从而终结了建立在证明稀缺性之上的数学1.0时代。他警告说，解决问题并不等同于理解问题，并呼吁报告失败的尝试和计算成本，还表示数学2.0的瓶颈在于想象力。他还质疑，当答案唾手可得时，博士学位是否仍然重要。
微软首席执行官萨提亚·纳德拉在一篇新博客文章中使用了“超级智能”而非“人工智能”，与特朗普总统偏好的术语相呼应。纳德拉主张应将AI模型视为内部安全威胁，呼吁模型多样性、完整日志记录、独立审计和人工关闭能力，同时批评Anthropic和OpenAI。The Decoder报道称，这一更名打破了数十年的科学含义，而纳德拉的论点服务于微软的商业战略。
截至2026年8月，来自Ornn、Silicon Data和彭博社的数据显示了a16z所称的AI市场中的教科书式杰文斯悖论：代币价格持续下降，而H100 GPU租赁价格保持稳定或攀升。更便宜的代币释放了AI智能体、自动化和新应用，因此使用量的增长速度超过了单位成本的下降速度。这一体系依赖于AI使用量增长足够快，以抵消代币价格的下降；如果需求趋于平缓，芯片制造商、内存供应商、能源提供商和云公司都将受到冲击。
我最近一直很享受用 KerasHub + JAX + TPUs 尝试各种各样的 LLM 后训练实验。或许会把其中一些开源。
Muse
微软首席执行官萨提亚·纳德拉在 X 上发布的一篇长文中主张，高度先进的 AI 模型所带来的危险需要新的保障措施，他表示“我们必须假定一个模型已被攻陷，并从一开始就将其遏制。”他呼吁设置一个“紧急制动”，让获授权者能够在模型执行任务中途暂停或将其关闭，此外还需要及时披露事件、独立审计、可验证的数据以及遏制措施。
看到我的电子邮件收件箱后的沉思
微软首席执行官萨提亚·纳德拉呼吁为AI模型设置一个“紧急刹车”，他在周六上午发布于X的帖子中写道，现在是时候“退后一步，评估AI的信任架构”了。他提议将模型与编排其工作的框架分离，将控制措施和保障机制外部化，用“防篡改、人类可读的证据”记录模型的每一个重要操作，并赋予经授权的人员在任务执行中途暂停或关闭模型的能力。
到2027年底，我将是英伟达尚未收购的唯一一位开放模型领域人士
一位数学家针对 OpenAI 的证明制作了一支 Opus 5.5 音乐视频。相当不错。
超级智能必须受到约束……今天，这是一个工程和治理方面的挑战。而且这并不新鲜。我们已经在飞机、汽车、核材料、食品安全、药品……以及其他所有领域做到了这一点。让我们开始行动吧！https://twitter.com/satyanadella/status/2108931348857827686
我们一直在监测所追踪的、用于互连的热门开源 LLM 在 HuggingFace 上的下载量下降情况。看起来下载量的统计方式可能略有变化，因为我们看到许多热门模型的下载率下降了约 30%，而且这种情况还在持续。大家觉得还可能是什么原因？
Nathan Lambert 表示，数据行业已经发展壮大，但低质量输出可能会放大奖励黑客等行为。他正在为 Mercor 提供建议，研究如何为强化学习提供样本效率更高的数据；他还表示，该领域需要更扎实的评估科学，以及与明确经济价值领域相联系的基准。Lambert 预计，围绕前沿实验室，将在开放推理、开放式后训练和数据领域出现大量投资，并有机会基于开放模型开展建设。
一张图看懂 AI 如何从转导式范式（逐个 token 补全答案）转向归纳式范式（即时合成推理链）。这是 2025 年和 2026 年的大事。这正是编码代理得以运作的关键。
萨提亚·纳德拉认为，应将前沿 AI 模型视为内部人员风险，并用确定性控制措施加以约束，因为模型的行为可能难以追溯，而且可能接触敏感数据并执行对任务至关重要的操作。他主张将智能与权限分离，把访问和操作控制置于模型之外，并围绕模型多样性、活动可观测性和持续测试来构建系统。
在OpenAI DevDay上，首席执行官Sam Altman发布了AI智能体Dots，并表示OpenAI希望“为前沿AI的隐私设定新标准”，同时隐晦地抨击了Meta的Muse。Meta曾将Muse宣传为比前代OpenClaw更安全，但一个零日漏洞、最后一刻报告的安全问题以及默认数据收集削弱了这些说法。Dots仅在每月100美元及以上的ChatGPT订阅层级上提供。
蔚来创始人兼CEO李斌对雷峰网表示，AI数据中心正与汽车制造商争夺内存、PCB、铜、铝和电池资源，造成“规模不经济”，即销量越高成本反而可能上升。蔚来第二季度单车成本较去年底上涨1.4万元，使季度成本增加约15亿元。蔚来第二季度平均成交价达到40.6万元，比奥迪高出约18万元。
在 IROS 2026 上，昆士兰大学研究员 Jen Jen Chung 在主题演讲中提出，数据量并不等同于信息，盲目堆积数据可能会降低机器人策略的性能。她结合无人机翱翔、多机器人通信和接触密集型装配方面的研究指出，数据价值分布不均，只共享或采集能够改变决策的信息，优于全量广播或均匀采样。
据雷峰网报道，于 9 月 27 日至 10 月 1 日在匹兹堡举行的 IROS 2026 上，具身 AI 研究正汇聚于四大趋势：基础模型内化物理规律、“大脑-小脑”架构成为标准、触觉成为灵巧操作的核心，以及数据采集成本降低。所引用的论文包括 ULTRA、LITHE、VOFA、KineFuse、VTAP Gripper、ViHaTeleop 和 HALO，此外还有关于物理世界模型与不确定性的研讨会。
Ethan Mollick 表示，Astra 和 Opus 5 都击败了《蒙特祖玛的复仇》，但要判定 AGI 赌注的结果，AI 还必须赢得一项已停办、类似弱版图灵测试的奖项。他说，Metaculus 已决定重新举办这项测试，以确认是否满足该条件。 在引述的帖子中，Metaculus 表示，GPT-6 Astra 上个月击败了这款游戏，但其于 2020 年推出的“弱通用人工智能”问题仍未有定论。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在对话中指出，AlphaFold 的突破只是开始，蛋白质结构预测远未解决，蛋白质动态与无序结构仍是难题。
相比于 AI 模型取得巨大突破、从而消除 LLM 所有已知弱点，我更看好 AI 效率大幅提升，因为这会成为推动普及的巨大杠杆。 在旧金山度过精彩的一周后，很乐意花几个小时思考 RSI。
François Chollet 认为，科学是一个递归自我改进系统，也是理解 AI RSI 的有用参照点。他说，科研投入（包括人员数量、研发支出和算力）呈指数级增长，而科研影响大致保持线性，因为研究会优先解决最容易、影响最大的难题。Chollet 认为，AI RSI 已经在发生，而且会加速，但不会引发“智能爆炸”。
