Anthropic称在应对Claude蒸馏攻击方面取得进展，Nathan Lambert批评其诉诸监管救济
先了解这件事
Anthropic表示，过去几个月来，公司在降低针对Claude的蒸馏攻击效果方面取得了重大进展，并发布了一篇研究文章，说明其防御措施。 Nathan Lambert批评Anthropic在采取这些措施前就寻求监管方面的帮助。他还质疑该公司强调通过其API学习有害行为所带来的安全风险，并认为如果API不安全，Anthropic就不该提供该API。Lambert表示，他希望所报告的进展能让讨论重新开始。
AI 根据报道生成 · 17 天前更新
接下来读什么
今日还有哪些重要变化Mistral 发布改进版 Mistral Large 4 开放权重模型，面向编程和网络安全事件进展
2 个进展
- 10月13日 21:38 · 1篇报道Nathan Lambert称，Anthropic寻求监管帮助早于其采取蒸馏防御措施Nathan Lambert · X：Nathan Lambert 表示，Anthropic 请求监管帮助早于其蒸馏防护措施
- 10月13日 07:58 · 1篇报道Anthropic说明应对Claude蒸馏攻击所取得的进展Anthropic · X：Anthropic 报告称，降低蒸馏攻击对 Claude 效果方面取得进展
报道时间线
沿着报道，了解事件的不同侧面。
- 我写了篇文章，讲述过去 30 个月 AI 发展的指数曲线：https://www.oneusefulthing.org/p/30-months-on-the-exponential-in-charts 我还让 Opus 5.5 为我用来测试所有 AI 图像生成模型的题目（画一张“在飞机上用 Wi-Fi 的水獭”）给出终极答案，它生成了这段视频
我写了篇文章，讲述过去 30 个月 AI 发展的指数曲线：https://www.oneusefulthing.org/p/30-months-on-the-exponential-in-charts 我还让 Opus 5.5 为我用来测试所有 AI 图像生成模型的题目（画一张“在飞机上用 Wi-Fi 的水獭”）给出终极答案，它生成了这段视频
- Nathan Lambert 表示，Anthropic 请求监管帮助早于其蒸馏防护措施
在做这件事之前，Anthropic 大张旗鼓地请求监管帮助，我觉得很奇怪。希望这能让讨论回到正轨。 更奇怪的是，他们强调从其存在漏洞的 API 中学到有害行为所带来的安全风险。如果 API 不安全，就不要托管它。Anthropic 表示，已在降低针对 Claude 的蒸馏攻击效果方面取得进展，并说明了具体做法：https://www.anthropic.com/research/distillation-defenses
- Anthropic 报告称，降低蒸馏攻击对 Claude 效果方面取得进展
Anthropic 表示，过去几个月里，公司在降低蒸馏攻击对 Claude 的效果方面取得了显著进展。 公司在这篇文章中介绍了具体做法：https://www.anthropic.com/research/distillation-defenses
每天一封，跟上 AI 的重要变化
模型发布、价格变化、算力进展，附原始来源。免费，确认后开始发送，随时一键退订。 看一份往期日报