Nathan Lambert 表示，Anthropic 请求监管帮助早于其蒸馏防护措施

发生了什么

在做这件事之前，Anthropic 大张旗鼓地请求监管帮助，我觉得很奇怪。希望这能让讨论回到正轨。 更奇怪的是，他们强调从其存在漏洞的 API 中学到有害行为所带来的安全风险。如果 API 不安全，就不要托管它。Anthropic 表示，已在降低针对 Claude 的蒸馏攻击效果方面取得进展，并说明了具体做法：https://www.anthropic.com/research/distillation-defenses

这件事到目前为止

Anthropic表示，过去几个月来，公司在降低针对Claude的蒸馏攻击效果方面取得了重大进展，并发布了一篇研究文章，说明其防御措施。 Nathan Lambert批评Anthropic在采取这些措施前就寻求监管方面的帮助。他还质疑该公司强调通过其API学习有害行为所带来的安全风险，并认为如果API不安全，Anthropic就不该提供该API。Lambert表示，他希望所报告的进展能让讨论重新开始。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议