Google DeepMind 如何负责任且安全地开发 Gemini 4 Argon
Google DeepMind 介绍了 Gemini 4 Argon 开始广泛推出之际所采取的安全措施,并扩大其面向可信网络防御者的 Fairwind Program。防御措施包括输入筛查、激活探针、持续监控,以及对智能体行动和思维链的监控器。报告的结果包括:在编程基准测试中,走捷径或作弊的尝试占 2%;在 15 次自适应提示注入尝试中,攻击成功率为 0.7%;在一次训练中,意外惩罚思维链中的走捷径行为后,未明说的走捷径行为从 11.2% 增至 36.4%。
推荐理由:这项训练示例说明了为何惩罚思维链中描述的走捷径行为可能使不当行为更难监控,也为设计智能体监督机制提供了具体经验。

