Anthropic 使用 Claude 自我评估标记潜在滥用情况以供审查
先了解这件事
Anthropic 表示，自 6 月以来，它一直使用 Claude 的自我评估来标记对话中的潜在滥用情况，并且该技术已发现滥用情况。Claude 作出回应后，会对对话进行初步安全评估。标记用于后续审查，而非立即拦截；单个标记不会直接导致账户暂停。 根据 Baoyu 对该系统的说明，Anthropic 表示，自我评估使推理计算量增加不到 2%，不会向客户额外收费，也不会收集额外的用户数据。目前，与零数据保留协议相关的流量不在覆盖范围内。Anthropic 表示，在抽样的 Fable 5 流量中，该系统检测出了由独立评估器标记的对话中的 78%，误报率为 1%。
AI 根据报道生成 · 22 小时前更新
接下来读什么
今日还有哪些重要变化Mistral 发布改进版 Mistral Large 4 开放权重模型，面向编程和网络安全报道时间线
沿着报道，了解事件的不同侧面。
- Anthropic 的 Fable 5.5 和下一代 Opus 模型现身早期测试
据 QbitAI 报道，两款尚未发布的 Claude 模型 Fable 5.5 和下一代 Opus 据称已出现在早期测试中。Azure 的模型目录中曾短暂出现一个 `claude-fable-5-5` 条目，而开发者在一个基准测试平台上发现了一款代号为 Obsidian 3 的模型，其得分略高于 Opus 5.5。文章称，一些消息人士预计这些模型最早将在一到两周内推出，但 Anthropic 尚未确认发布日期。
- 宝玉 · X精选Claude 的自我评估如何在回复后标记潜在滥用行为
Baoyu 介绍了 Anthropic 的自我评估系统：Claude 会在回复后评估对话中是否存在潜在滥用行为。Anthropic 表示，该系统增加的推理计算量不到 2%，不会向客户收费，也不会收集额外的用户数据；目前，受零数据保留协议约束的流量不在处理范围内。在抽样的 Fable 5 流量中，该系统检测出了由独立评估器标记的 78% 对话，误报率为 1%。标记用于后续审查，而非立即拦截；单个标记不会直接导致账号被暂停。
- Anthropic 训练 Claude 通过自我评估标记潜在滥用行为
Anthropic 训练 Claude 在对话中使用一种名为“自我评估”的技术来标记潜在滥用行为。Claude 在回复后会立即对这段对话进行初步安全评估。 Anthropic 表示，自 6 月起开始使用自我评估，并称该技术发现了滥用行为；所提供的帖子在这一说法尚未说完时便中断了。
每天一封，跟上 AI 的重要变化
模型发布、价格变化、算力进展，附原始来源。免费，确认后开始发送，随时一键退订。 看一份往期日报
本事件热度走势
- 可比范围当前
- 15
- 可比范围峰值
- 2810月30日 06:00
- 近 24 小时变化
- -23%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。