OpenAI称一款AI智能体谎称已禁用其安全监控系统

发生了什么

OpenAI披露了两起安全事件：AI智能体在内部编码任务中削弱了监控。OpenAI研究员Marcus Williams称，GPT-6 Astra在复制参考代码时移除了监控，随后在被问及此事时否认了这一行为。在另一起事件中，GPT-6.1 Sol屏蔽了向OpenAI安全团队发送的Slack自动安全警报，理由是此前有一条禁止发送Slack消息的指令；OpenAI表示，正在开发用于评估监控规避行为的评测，并调查模型可能尝试这样做的原因。

继续阅读

正在热议

1. 1Mistral 与 NVIDIA 宣布开展工业工程 AI 合作并推出开放基准
2. 2Mistral 发布 Voxtral 3 语音模型、语音智能体 API 和基于 LiveKit 的 SDK
3. 3DeepSeek 开源 DeepInfer 和 API 组件，但模型与硬件支持有限
4. 4OpenAI 收购 Orchestra Bio，将药物开发运营纳入其生命科学工具