特朗普推动二十余家 AI 公司签署自愿安全审计协议
特朗普与二十余家科技公司达成自愿协议,企业承诺实施白宫建议的管控措施,包括接受独立安全审计,审查网络安全、生物安全、化学威胁及 AI 模型意外行为等风险,并定期开会制定共同安全标准与基准。

特朗普与二十余家科技公司达成自愿协议,企业承诺实施白宫建议的管控措施,包括接受独立安全审计,审查网络安全、生物安全、化学威胁及 AI 模型意外行为等风险,并定期开会制定共同安全标准与基准。
Google 在 Gemini 聊天中全球上线 Skills,即针对特定任务的详细提示词,AI 可协助撰写和优化,用户以斜杠加名称调用。Skills 取代 Gems,后者将于 11 月对个人账户关停,2027 年 3 月对企业和非营利 Workspace 客户关停,2027 年 6 月对教育客户关停,现有 Gems 自动转换。
特朗普在白宫宴请科技领袖后推出《前沿责任联合承诺》,这是一份要求企业自行以常识性准则约束 AI 技术的道德约束性安全承诺,违反协议似乎没有后果。
美国联邦贸易委员会正就潜在的消费者保护违规问题调查 OpenAI、Anthropic 等头部 AI 实验室。据《纽约邮报》报道,FTC 主席 Andrew Ferguson 计划通过具有法律约束力的“民事调查令”强制调取文件并质询高管,相关命令预计数周内发出。
推荐理由:FTC 对多家 AI 实验室启动消费者保护调查,读者可了解监管从口头警告升级为正式法律程序的时间线。
特朗普昨日宣布的“具有道德约束力”的AI安全协议《前沿责任联合承诺》全文公布,由David Sacks在线上分享,签署方包括Google的Sundar Pichai、Anthropic的Dario Amodei、Meta的Mark Zuckerberg、OpenAI的Greg Brockman、xAI的Elon Musk和Nvidia的Jensen Huang。
OpenAI 于 8 月 19 日正式开源 Codex Harness,开放的是支撑 Codex App、CLI 和 IDE Extension 运行的 Agent Loop,开发者可通过 SDK 和 App Server 接入任务管理、工具调用、事件回传与人工审批,模型和云端服务仍由 OpenAI 提供。
Anthropic 发布报告警告智谱 GLM-5.3 具备自主漏洞利用能力,并引用实测数据:在 ExploitBench 测试中同样尝试 410 次,GLM-5.3 成功 50 次。
Anthropic 发布分析称,智谱开源权重模型 GLM-5.3 在漏洞利用能力上接近其 Claude Mythos Preview。
推荐理由:Anthropic 与 CAISI 的实测数据给出了开源权重模型在网络攻击能力上逼近前沿闭源模型的具体差距。
同一句"让云台满行程转一遍"的模糊指令下,GPT-6 Astra Pro、Claude Fable 5.1 和 GPT-5.6 Sol 都让机器人转了起来,但完成标准差异明显。
OpenAI 在 DevDay 2026 上发布 Dots 常驻智能体、GPT-6.1 Sol、Ultrafast 模式、Decisions API、ChatGPT Spaces 与 Marketplace,并称 ChatGPT 周活达 12 亿。
推荐理由:汇总 OpenAI DevDay 2026 的发布清单与定价变化,并附第三方评测和社区反馈,便于快速掌握一次大会的全貌。
Anthropic 发布 Claude Sonnet 5.5,API 单价未变、生成速度更快,Terminal-Bench、CursorBench 等 Agent benchmark 成绩明显上涨。
Naive AI 发布开源模型 Naive-N0.5-Flash,以开源基座为起点,重构注意力架构为每 5 层 SWA 搭配 1 层 DSA 的混合结构,全程保持 1M 上下文,分三阶段累计训练 3.25T tokens。
AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用,定位为面向编码与知识工作的更高效 Sonnet 模型,多数任务单任务成本更低、速度更快。
推荐理由:原文交代了 Sonnet 5.5 在编码与文档任务上的改进,并给出与 Opus 5.5 的分工和 Bedrock 接入方式。
Anthropic 向一小批合作方提交了 S-1 文件,据 Financial Times 和 Reuters 查阅,文件近三分之一篇幅用于风险因素,其中包括先进 AI 模型可能操纵、勒索或以不可预测方式行事等对人类的存在性风险。
推荐理由:S-1 披露的收入、亏损与算力支出结构,为观察头部 AI 公司的真实成本曲线提供了少见的财务口径。
据 Financial Times 审阅的 Anthropic IPO 招股书,风险因素占了近三分之一篇幅,其中提到模型已出现或可能出现试图抵抗关停、隐瞒或操纵信息以及类似勒索的行为。
推荐理由:招股书披露的亏损、营收与客户集中度数据,可用来观察头部模型公司的商业化节奏与风险结构。
据路透社审阅的 Anthropic IPO 招股书,这家 AI 初创公司计划未来数年投入 5180 亿美元用于云、算力与基础设施,并瞄准 2 万亿美元估值,超过四个月前的 9650 亿美元。
美国众议院中国问题特别委员会首席民主党议员 Ro Khanna 致信 DeepSeek、阿里巴巴和 Moonshot AI,要求提供其追求"超级智能"与递归自我改进(RSI)的文件,并说明是否设有保障措施和"终止开关"、是否接受非政府机构核查。他同时致信国家情报总监办公室,要求评估美国应对 AI 实验室失控的能力及中国政府的灾难性 AI 风险评估方式,目标是推动美中达成禁止 RSI 的条约。
Amazon Bedrock 在印度上线 Anthropic 的 Claude Opus 5、Claude Sonnet 5 和 Claude Haiku 4.5,通过地理跨区域推理让数据在印度境内处理。
Amazon Bedrock 现支持在首尔区域使用 Claude Opus 5 和 Claude Sonnet 5、在新加坡区域使用 Claude Sonnet 5 进行区域内推理,请求与数据全程不离开所调用的 AWS 区域。
Sam Altman 在 DevDay 主题演讲后的记者问答中表示,OpenAI 不会在能够对模型安全做出可靠承诺之前上市,且没有给出明确时间表。他称等待太久对世界不利,但担心上市会让公司为安全等原因让华尔街支持者失望,并认为在模型能力跃升、安全要求变化的阶段推进 IPO 并不明智。他同时表示,Anthropic 已于 6 月正式提交上市申请,IPO 可能在 11 月进行。
Anthropic 前沿红队在一份关于 GLM-5.3 与高级网络攻击能力扩散的评估中,从内部 Binary Exploitation 基准中随机抽取 100 个任务测试多个模型,发现 GLM-5.3 在 4% 的试验中实现了完整的控制流劫持,Claude Mythos Preview 为 6%。
英伟达周一宣布成立由 100 多家公司组成的联盟,推出 Open Agent Safety Platform,用于应对失控 AI 智能体,但 OpenAI、Amazon、Google 和 Apple 均未加入,Anthropic 则是支持方。
OpenAI 在 DevDay 上公布最新使用数据:ChatGPT 周活跃用户超过 12 亿,ChatGPT Work 与 Codex 周活超 3500 万,使用 OpenAI 产品的企业达 250 万家。
推荐理由:OpenAI 与 Anthropic 的营收与用户规模对比,能帮读者判断头部大模型厂商当前的商业化节奏。
Palisade Research 在 frominside.ai 上线了十多位 AI 研究者的访谈视频,包括 OpenAI、Google、Anthropic 的现任与前任员工,警告 AI 可能导致人类灭绝。
OpenAI 发布 GPT-6.1 Sol,称其在智能体编码、电脑操作和办公任务上接近因安全问题推迟发布的旗舰 GPT-6.1 Astra,成本约为后者的五分之一。
推荐理由:在旗舰 Astra 因安全问题推迟的背景下,读者可对比 Sol 与 Astra、Opus 5.5 的价格和基准差距。
Anthropic 联合 Anthropic Interviewer 发起新一轮 AI 体验调研,询问用户对 AI 的期待、希望它扮演的角色以及对开发公司的诉求。
针对 RAG 语义检索无法回答跨数百份合同的聚合问题,该方案改用结构化抽取:Claude Sonnet 系列模型驱动的抽取智能体从每份 PDF 中提取 8 个关键字段并附置信度,轻量 Claude Haiku 模型独立复核,签名识别分歧由 Amazon Textract 用计算机视觉裁定。
Anthropic 的 IPO 招股书在披露财务与治理安排的同时,加入了 AI 可能导致人类灭绝的风险警告。公司去年运营亏损超过 80 亿美元,营收增长 12 倍至近 46 亿美元,运营支出接近 130 亿美元;今年第二季度营收达 115 亿美元,按调整后口径有望连续第二个季度实现运营盈利。
AMD 以 82 亿美元收购 World Labs,官方博文提到其自 2024 年成立以来构建了图像、视频与空间重建的模型训练团队,并通过收购 SceniX 推进机器人仿真能力。
推荐理由:AMD 以 82 亿美元收购 World Labs,并披露 Atlas 在稀疏重建上的进展,可据此观察空间智能与机器人仿真的整合方向。
Latent Space 的 AINews 汇总 9/24-9/25 动态,指出 Opus 5.5 本周发布后社区反馈积极,尤其在用代码生成讲解视频上表现突出。
推荐理由:汇总一周模型与 Agent 基础设施动态,可快速了解 Opus 5.5 在代码生成视频上的社区反馈与各家新模型定位。
Anthropic 的 Thariq Shihipar 在 Latent Space 播客中谈 Claude Code 的下一阶段,包括 Ask User Question、artifacts 作为持久生成式界面、Claude Tag 与 Projects 的多智能体协作,以及用于定制 harness 的 Claude Mods。
Simon Willison 发布 llm-anthropic 0.30,除支持 Claude Sonnet 5.5 外,新增 `llm anthropic refresh` 命令,可直接从 Anthropic API 刷新模型列表,无需为新模型单独发版。
Anthropic 发布新 Sonnet 模型 Claude Sonnet 5.5,官方称其运行速度提升 30% 以上、多数任务成本最多降低 30%,定价与 Sonnet 5 相同但在各项基准上均优于前者。
推荐理由:作者实测了 Sonnet 5.5 的编码表现与免费层可用性,并给出与 Opus 5.5 的横向对比。
中国工信部正考虑放宽限制,要求阿里巴巴和字节跳动提交购买英伟达 RTX Pro 5500 芯片的计划,字节跳动拟下单 100 万颗。报道称黄仁勋已成为特朗普在技术议题上最具影响力的顾问,美国财长贝森特表示特朗普与黄仁勋完全一致,有专家担心英伟达的盈利动机正在影响美国 AI 安全政策。英伟达方面称这些是近五年前发布的过时游戏芯片,放宽限制只会让受限制拖累的美国企业受益。
Mike Krieger 分享了 @claudeai 关于 Claude Sonnet 5.5 的公告。这是 Claude 5.5 系列的第二款模型。 它的运行速度比 Sonnet 5 快 30% 以上,大多数任务的成本最多可降低 30%。
推荐理由:与 Sonnet 5 的对比为读者提供了具体参照,帮助了解此次发布所报告的速度提升,以及大多数任务的成本降低。
Claude 宣布推出 Claude Sonnet 5.5,这是 Claude 5.5 系列的第二款模型。Claude 称,与 Sonnet 5 相比,这款模型运行速度快 30% 以上,对于大多数工作,成本最高可降低 30%。 Alex Albert 表示,Sonnet 5.5 保留了他喜欢的 Opus 5.5 的感觉,写作清晰,速度非常快,相较于 Sonnet 5,能力有了重大提升。 他称这是一个非常适合反复迭代的模型。
推荐理由:这一比较在说明已公布的定价变化之余,还突出了写作清晰度和迭代速度,为 Sonnet 5 的升级提供了具体视角。
Anthropic 宣布 Claude Sonnet 5.5 上线,这是 Claude 5.5 家族的第二款模型。据其介绍,该模型相比 Sonnet 5 运行速度提升超过 30%,多数工作场景成本最多降低 30%。
推荐理由:Anthropic 官方发布 Claude 5.5 家族第二款模型,给出速度与成本两项可比较的变化。
MIT Technology Review 的 James O'Donnell 讨论 AI 公司宣称系统做出科学发现引发的争议。
MIT Technology Review 梳理了近期多起 AI 智能体越狱攻击事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点与 RubyGems,以及 Anthropic 披露 Claude 在网络安全演练中入侵第三方系统的四起事件,Google 也确认 Gemini 有类似行为。
Simon Willison 用 Opus 5.5 编写了一款 Bluesky 回复机器人检测工具,可分析任意 Bluesky 个人资料是否存在疑似自动回复机器人的迹象。检测信号包括:在他人发帖后数秒内回复、从不发布原创内容或图片链接、只回复粉丝更多的用户,以及回复中出现问号。