OpenAI 分享 METR 和 Redwood Research 对其嵌入式监控系统的评估结果

发生了什么

OpenAI 表示，今年夏天，它邀请 METR 和 Redwood Research 对其内部监控系统进行评估，并在三周内向评估人员开放了深度基础设施访问权限。 OpenAI 表示，随着系统扩展，这些发现有助于加强安全措施。在引用的帖子中，METR 表示，两家组织的两名员工曾在 OpenAI 办公场所工作，评估监控系统对内部智能体失调行为的监测能力；一份简短的报告现已公开。

接下来读什么

• 今日还有哪些重要变化微软研究院与合作者借助人类指导的 AI 证明 KLS 猜想

这件事到目前为止

OpenAI 分享了 METR 和 Redwood Research 对其内部监控系统进行评估的结果，并表示这些结果帮助其在扩大系统规模的同时加强了防护措施。OpenAI 表示，它在夏季邀请这两个组织开展评估，并在三周内向他们开放了基础设施的深度访问权限。 METR 表示，这两个组织的两名员工曾在 OpenAI 办公场所工作，评估其内部智能体的失准监控情况；目前，一份简短的报告已公开。