Anthropic 的 S-1A 文件警告称，公司可能很快达到自身的 RSI 阈值

发生了什么

Anthropic 修订后的 S-1A 文件称，公司可能即将达到其《负责任扩展政策》中对“可归因于 AI 的进展显著加速”的定义，不过目前还没有任何模型越过这一阈值。文件还称，Anthropic 过去曾使用 AI 开发模型，却未能在当时意识到这些模型的能力实现了跃升；公司正在考虑更新政策，以确保人类掌控前沿模型的开发。

接下来读什么

• 今日还有哪些重要变化通过五项核心价值观解读 OpenAI 更新后的 Model Spec

2 家信源报道

这件事到目前为止

Anthropic修订后的S-1A称，其内部估算和对未来模型的预期表明，公司可能很快达到其《负责任扩展政策》中“可归因于AI的进展大幅加速”阈值。该公司尚未认定任何现有模型跨越了这一阈值，并表示仍在评估数据。 Anthropic还称，其在研发中越来越多地使用AI，可能使模型能力的进步速度超过其开发、验证和实施安全、对齐与安保措施的速度。该公司表示，即使技术上最终可行，也不认为自己能在没有实质性人工监督或理解的情况下，安全地使用Claude自主设计和构建后续几代前沿模型。