跳到正文

Anthropic 向六名 METR 研究人员开放内部访问权限,以独立评估 AI 安全

2篇报道 2个报道来源 16 小时前更新

先了解这件事

AI 综述

Anthropic 表示,已向来自 METR 的六名研究人员提供员工级别的访问权限,以评估其 AI 模型、安全实践和风险管理,并允许他们在未经公司批准的情况下发布研究结果。这家非营利机构负责测试前沿 AI 模型;其研究人员获得了公司硬件、办公空间和内部工具,大致相当于 Anthropic 风险评估团队所使用的资源。 这项安排允许 METR 发布对 Anthropic 风险、事件和实践的评估,但关于如何限制敏感信息,各方说法有所不同。TechCrunch 报道了 Anthropic 的说法:公司不能否决发布,但可以要求删去范围狭窄且预先界定的类别中的内容,包括客户数据、受律师与客户保密特权保护的材料,以及模型架构信息。The Decoder 将这些类别描述为研究人员不得接触的信息,并表示 Anthropic 可以在发布前要求删减内容。METR 可以公开质疑删减是否有正当理由。

AI 根据报道生成 · 16 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. Anthropic 向 METR 提供内部访问权限,以审查其 AI 模型和安全实践

    Anthropic 为非营利组织 METR 的六名工作人员提供了公司硬件、办公空间和内部工具访问权限,以审查其 AI 模型和安全实践。客户数据、受法律特权保护的信息以及模型架构细节仍不可访问。METR 将独立发布调查结果;Anthropic 可以要求删除预先规定类别中的内容,METR 则可以公开质疑这些要求的合理性。

  2. Anthropic 向 6 名 METR 研究人员提供相当于员工级别的访问权限,以便他们独立开展安全评估

    Anthropic 正向 6 名 METR 研究人员提供相当于员工级别的访问权限,让他们独立评估其模型、安全实践和风险管理。研究人员将获得公司笔记本电脑、办公空间和内部工具,这些资源大致相当于 Anthropic 风险评估团队使用的资源。METR 可以在未经 Anthropic 批准的情况下发布评估结果,但公司可以要求进行范围严格界定的删改,METR 也可以公开质疑这些要求。

本事件热度走势

可比范围当前
10
可比范围峰值
1610月16日 22:00
近 24 小时变化
+35%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。

继续阅读

最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线

正在热议

  1. 1Meta 开放发布 Muse Spark Open,支持 Mac 和云端部署,位居美国开放权重模型榜首
  2. 2Google 在全球推出 Gemini 4 Argon,并扩大付费访问范围,基准测试结果不一
  3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
  4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议