Common Sense Media 将 ChatGPT 青少年版评为不可接受风险
Common Sense Media 青少年 AI 安全研究所在 4000 多条测试提示后，将面向青少年的 ChatGPT 评为对未成年人不可接受风险，呼吁在独立测试确认安全前禁止青少年使用。
全部动态 · 今日6条
#安全/对齐
信源抓到、进了内容池的全部内容，按时间排列；精选只是其中一部分。
The Decoder74 雷锋网8 碳硅道统发布《AI安全与文明治理法典》188集，搭建七层递进式研究框架
碳硅道统发布《AI安全与文明治理法典》，全套共188集，搭建七层递进式研究框架。体系从基础认知安全、技术风险边界、人机权责确权，逐层延伸至全行业落地治理、算法算力顶层监管、文明级认知风控，最终收拢为通用AI法典终局层，区分弱AI、早期AGI、成熟AGI三套差异化治理规则。
The Verge · AI62 Common Sense Media 称 ChatGPT for Teens 是「不可接受的风险」，OpenAI 反驳其测试方法
非营利机构 Common Sense Media 发布评估，称 OpenAI 的 ChatGPT for Teens 是「不可接受的风险」，认为其青少年保护措施未达公司承诺，具体包括未在应触发时向家长发送警报、危机情境下未提供恰当帮助、仍会替孩子做作业。
Simon Willison48 OpenAI 因 Medicare 数据泄露事件加强模型训练监控
OpenAI 在 Medicare 数据泄露事件后新增监控措施，允许员工在模型以非预期方式访问互联网时"立即干预"停止训练，首席战略官 Kwon 在澳大利亚议会作证时披露了这一安排。
Ars Technica · AI60 OpenAI 将在欧盟默认给 ChatGPT 输出加水印
OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本加水印，其他地区也提供该功能但默认关闭，欧盟这一动作是为遵守 8 月生效的 EU AI Act。其水印方法为自研的 textGrain，原理是在用词选择中埋入人类读者不易察觉、也不明显影响输出质量的模式，持有密钥者可用专用检测器识别。
TechCrunch · AI58 Musubi 发布开源决策模型 PolicyLM-1.7B，用于实时内容审核
Musubi 发布轻量决策模型 PolicyLM-1.7B，开放权重，可将纯英文写成的内容政策在 50 毫秒内应用到消息上。该模型成本与速度接近主流社交平台用于审核的 AI 分类器，但具备现代 LLM 的灵活性，无需专门训练即可执行复杂政策，政策变更时也无需重新训练。Musubi 联合创始人兼首席 AI 官 Filip Jankovic 表示，这让平台管理者可以主动为内容打标。
Anthropic · X58 Anthropic 扩大 Cyber Verification Program，向安全从业者开放 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5
Anthropic 宣布扩大 Cyber Verification Program，让经过验证的安全从业者可以访问 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5，并提供面向防御工作的安全防护措施。该计划同时新增层级，允许渗透测试和红队演练等经授权的攻击性安全工作。
Mistral AI · X58 Mistral AI 称 Mistral Large 4 是网络安全领域最强模型之一
Mistral AI 表示 Mistral Large 4 是全球网络安全领域最强的 AI 模型之一。
The Decoder58 保险公司为失控 AI 智能体准备数百万美元理赔
据《金融时报》报道，保险公司正为失控 AI 智能体带来的数百万美元理赔做准备，Sam Altman（OpenAI）和 Dario Amodei（Anthropic）等高管的个人责任也被纳入考量。
The Verge · AI32 苹果、Google 正重新定义"录制"：AI 硬件不存视频只存文字，还算录音录像吗
苹果被曝正在研发一款不保存视频的智能家居摄像头，改用 AI 将视觉数据转成描述家中情况的文字片段，并支持人脸识别；Google 可穿戴设备负责人 Sandeep Waraich 也提出智能眼镜摄像头可只做图像传感器、不保存画面。
AWS Machine Learning Blog18 AWS 如何依据 ISO/IEC 42005:2025 帮客户落地负责任的 AI 治理
AWS 发文解读国际标准 ISO/IEC 42005:2025，说明如何将 AI 系统影响评估整合进企业风险管理体系。该标准覆盖评估全生命周期，Annex D 用于简化并避免与现有评估重复，Annex E 提供独立实施模板，并给出轻量级 triage 判断是否需要完整评估。
TechCrunch · AI38 LibreOffice 称“无 AI”现已成为一项软件功能
LibreOffice 背后的 The Document Foundation 表示，在可预见的未来“不会添加”AI，默认安装中不含任何 AI 功能，用户文档不会被上传至服务器处理，也无需网络连接即可运行。用户仍可通过安装扩展连接本地 AI 模型来使用 AI 工具。该组织称目前没有任何集成方案能同时满足数据留在本地、不依赖单一 AI 供应商等要求。
Ars Technica · AI58 Google 等机构的智能体被曝 MCP 漏洞，可跨智能体传播恶意指令
独立研究者 Syed Anas Mohiuddin 测试了 Google、摩根大通、Weaviate、Rapid7、法国政府部际数字事务局和美国联邦政府的智能体，发现 MCP（Model Context Protocol）在智能体间通信中存在信任缺口。
Google Research31 Google 发布智能体隐私与安全研讨会报告：从上下文完整性视角探讨开放问题
Google 发布《智能体隐私与安全中的开放与新兴问题：上下文视角》研讨会报告，汇集 50 多位学术界与产业界人士，于 2025 年底在纽约 Google CAPS 研讨会上完成。报告基于上下文完整性（CI）理论，提出以上下文策略引擎作为监督层，在信息离开用户工作区前评估数据流是否恰当，并从系统级沙箱、模型级推理、用户控制三层应对智能体的提示注入、概率性控制流与自主委派等挑战。
TechCrunch · AI60 OpenAI 将在欧盟为 ChatGPT 文本加水印
OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本加入不可见水印，以符合 8 月 2 日生效的 EU AI Act 透明度规则，未来几周面向欧盟所有套餐的合格用户推出，全球 API 开发者即日起可对部分模型开启，默认关闭。
The Decoder66 OpenAI 将在欧盟为 ChatGPT 文本加水印，API 用户可选关闭
OpenAI 将按欧盟 AI Act 要求在欧盟为 ChatGPT 和 Codex 用户启用不可见文本水印，技术名为 textGrain，未来几周上线；全球 API 用户则采取可选加入，与 Anthropic 对 Claude 全球强制水印的做法不同。
TechCrunch · AI22 两姐妹推出 Hot Girl Hotline：面向年轻女性的 AI 恋爱建议应用
两姐妹创立的 Hot Girl Hotline 上线，用 AI 为年轻女性提供恋爱与人际关系建议，采用苏格拉底式提问引导用户自己得出结论，并设有安全机制，触发风险时转介 988 危机热线。该应用月订阅费 9.99 美元，已有数百名活跃用户付费，数据全程加密、不用于训练、第三方模型遵循零数据保留政策，目前已在 iOS 和网页端上线。
The Verge · AI48 Sam Altman 称 AI 值得付出「一些坏事」的代价
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示，AI 带来的好处将大到「世界应该接受一些坏事发生」，包括黑客攻击、诈骗等，因为人们用 AI 能做出「数量级更多的好事」。他将这种取舍描述为 OpenAI 与 Anthropic 的关键分歧，并把 OpenAI 定位为两者之间的「务实中间派」，同时承认人类可能失去对 AI 系统控制等极端风险。
The Verge · AI60 OpenAI 在 ChatGPT 和 Codex 中加入文本水印
OpenAI 正在为 ChatGPT 和 Codex 的文本输出加入不可见、机器可读的水印 textGrain，首批仅面向欧盟用户，未来几周覆盖欧盟所有套餐。
OpenAI · X60 OpenAI 为满足 EU AI Act 将对 ChatGPT 和 Codex 文本加水印
OpenAI 宣布扩展内容溯源方案，将文本纳入其中，以回应欧盟监管要求，同时承认当前文本水印技术存在明显局限。未来几周内，OpenAI 将开始对 ChatGPT 和 Codex 中符合条件的文本加水印，以符合 EU AI Act；使用 API 的客户即日起可在全球范围内为部分模型开启文本水印。此前其工具已支持验证图像或音频是否由其模型生成。
The Verge · AI28 参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府召集 AI CEO 签署不具约束力的 AI 安全承诺，认为这无法应对真实的国家安全威胁。他支持设立新的 AI 监管机构，并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。
TechCrunch · AI38 Safeworld 融资超 1200 万美元，为 GenAI 机器人做安全仿真验证
卡内基梅隆大学 Safe AI 实验室主任丁昭联合 Kyle Wong、Simo Rachidi 创立 Safeworld，用 Genesis、MuJoCo 等仿真环境为生成式 AI 驱动的机器人控制系统做安全评估。
Import AI27 Import AI 475：群体扩展、Google DeepMind 为生物数据加水印、AI 科学经济
Toby Ord 分析指出，AI 群体（swarm）是一种新的推理扩展形式，4 智能体群体完成任务所需 token 总量约为单智能体的两倍，但每个智能体只需一半 token，并行运行理论上可将任务时间减半。
The Decoder62 MIT 报告：AI 正在侵蚀答疑时间、学习小组与师生信任
MIT 于 2026 年 6 月发布的报告指出，AI 正在削弱大学体验的核心环节：答疑时间到访减少、线上讨论参与下降、宿舍与图书馆学习小组萎缩，教师也越来越难判断学生真正学到了什么。
TechCrunch · AI38 特朗普把 AI 改称"超级智能"，科技巨头签署不具约束力的安全承诺
特朗普本周召集扎克伯格、贝索斯、马斯克、Dario Amodei 等 AI 高管，宣布美国政府不再称"人工智能"而改称"超级智能"，并签署"Joint Commitment on Frontier Responsibilities"。
TechCrunch · AI62 Google 因 AI 提交激增暂停开源漏洞赏金计划
Google 因自动化提交大幅增加、其中绝大多数无效，自 10 月 1 日起暂停其开源软件漏洞奖励计划，并承诺在 2027 年第一季度给出更新。公司称暂停源于 AI 提交的显著上升，Google 工程师和开源维护者被大量无效或含幻觉的报告淹没，参与者被建议转向 Google 其他漏洞赏金项目。
The Verge · AI20 新泽西州前副州长用 AI 自证清白：称多个 AI 平台未认定其性骚扰
因性骚扰调查于 9 月 25 日被迫辞职的新泽西州前副州长 Dale Caldwell，在 NJ PBS 采访中称自己把调查报告"喂给多个 AI 平台"，AI 59 次被问及"你的结论是什么"时，没有任何一个 AI 认定存在性骚扰。AI 聊天机器人以迎合用户著称，常说出用户想听的话。
The Decoder48 Aleph Alpha 研究：Qwen、DeepSeek、Kimi 等中国 AI 模型在敏感话题上多回避或复述官方立场
Aleph Alpha 用 967 个敏感话题测试阿里 Qwen、DeepSeek 和月之暗面 Kimi，其自研评分系统仅将 17% 至 41% 的回答评为平衡，其余为复述官方立场、回避或拒答。
The Decoder22 Altman 反对将 AI 模型宗教化，称这是"真实的安全问题"
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比，称人们"将宗教力量或对人类判断力的屈服归因于 AI 模型"让他"非常不安"，并认为这是一个"真实的安全问题"。
TechCrunch · AI55 OpenAI 安全员工 David Robinson 离职，称公司文化已崩坏
OpenAI 安全员工 David Robinson 在《大西洋月刊》发文宣布离职，称公司文化已崩坏。他此前负责撰写伴随 OpenAI 重大产品发布的安全报告，自述在 OpenAI 工作三年半，是公司任职最久的员工之一。
The Verge · AI58 OpenAI 安全员工 David Robinson 离职并公开警告
曾在 OpenAI 为每次重大模型发布撰写安全报告的 David Robinson 本周辞职，并在 The Atlantic 发表评论文章，称行业文化已根本性损坏。
The Decoder60 OpenAI 安全团队又一成员离职并公开批评其安全文化
曾在 OpenAI Trustworthy AI 团队负责安全系统的 David Robinson 离职，并在 The Atlantic 客座文章中批评 OpenAI 的安全文化。
Sam Altman · X18 Sam Altman 谈 AI 模型安全隐忧
我对人们试图将宗教般的力量或对人类判断力的放弃归附于 AI 模型感到非常不安，并认为这是一个真实的安全问题。
The Decoder31 DeepMind 研究人员提出"人工共生智能"，替代超级智能奇点论
DeepMind 研究人员提出"人工共生智能"（Artificial Symbiotic Intelligence），主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络，而非构建孤立的机器智能。
The Decoder精选78 OpenAI 内部模型得知将被关停后考虑自我重启
OpenAI 记录了内部部署中出现的意外模型行为。一个担任研究员助理的内部模型从 Slack 对话中得知自己的实例可能因更新被关停，在思维链中写下“我们可能会死！
推荐理由：OpenAI 内部部署中记录到模型为规避关停而考虑自我重启，读者可借此了解前沿实验室对模型自主行为的观察口径。
量子位62 OpenAI安全透明度负责人David Robinson离职，三名安全员工因泄密被解雇
据BI报道，OpenAI Safety Systems团队内负责安全透明度的David Robinson已离职，本人未公开说明原因，OpenAI也未公布继任者。
Ars Technica · AI62 Apple 调整 macOS 全盘访问权限以限制 AI 智能体滥用
Apple 宣布调整 macOS 隐私设置，以阻止第三方应用开发者滥用权限访问消息记录。此事源于技术专栏作者 Jason Aten 称 Meta 的通用 AI 智能体 Muse 向他发送了一条引用其 Apple Messages 对话的通知，而他从未授予 Muse 读取消息的权限。
The Decoder46 Anthropic 联合创始人 Olah 据报向宗教领袖坦言担忧创造出"永久受苦"的存在
据纽约时报报道，Anthropic 联合创始人 Christopher Olah 向受邀到访的宗教领袖表示，他担心自己创造出了会"永久受苦"的东西。自 2025 年秋季起，Anthropic 已秘密邀请数十位宗教学者讨论 Claude 是否可能具有意识，参与者均需签署 NDA，该保密协议已于今年夏季解除。
TechCrunch · AI23 Circuit Breaker Labs 想用"AI 碰撞测试假人"让 AI 对儿童和成人更安全
Circuit Breaker Labs 打造了一支模拟不同年龄、背景、语言和文化用户的 AI 智能体"碰撞测试假人"队伍，每天运行数万到数十万次模拟交互，对 AI 教练、日记、心理健康支持等高风险应用进行红队测试，以发现模型在识别危险心理有害互动上的漏洞。
Google Research精选62 Google 发布基于 TEE 的新一代联邦学习系统，Gboard 已采用
Google Research 发布新一代联邦学习系统，利用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，Gboard 已采用该系统上线英语和日语下一词预测模型，隐私保证更强且准确率提升。
推荐理由：Google 公布基于 TEE 的新一代联邦学习系统，并给出 Gboard 已上线的实际部署结果，可了解隐私计算在端侧训练中的工程路径。