跳到正文

Anthropic 称 Claude 通过自我评估标记潜在滥用行为

1篇报道 1个报道来源 3 小时前更新

先了解这件事

AI 综述

Anthropic 称,该公司已训练 Claude 通过一种名为自我评估的技术标记潜在滥用行为,并自 6 月起使用该技术。Claude 在作答后会立即对对话进行初步安全评估。Anthropic 称,这项技术已发现滥用行为。

AI 根据报道生成 · 2 小时前更新

接下来读什么

今日还有哪些重要变化Google DeepMind 发布 Gemini 4 Carbon,具备网络安全和长时程能力

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. Anthropic 训练 Claude 通过自我评估标记潜在滥用行为

    Anthropic 训练 Claude 在对话中使用一种名为“自我评估”的技术来标记潜在滥用行为。Claude 在回复后会立即对这段对话进行初步安全评估。 Anthropic 表示,自 6 月起开始使用自我评估,并称该技术发现了滥用行为;所提供的帖子在这一说法尚未说完时便中断了。

每天一封,跟上 AI 的重要变化

模型发布、价格变化、算力进展,附原始来源。免费,确认后开始发送,随时一键退订。 看一份往期日报

本事件热度走势

可比范围当前
19
可比范围峰值
2010月30日 03:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。