Anthropic文件警告：AI可能使研究进展快于安全措施

发生了什么

Anthropic更新了注册声明，加入第三季度财务业绩，并警告称，AI辅助研究可能使模型能力提升的速度超过公司开发和实施安全措施的速度。该公司表示，其模型可能很快达到《负责任扩展政策》中所述、AI驱动加速程度显著的门槛，同时指出，加速迹象可能滞后显现。文件还报告称，第三季度营收约为170亿美元，计算资源采购额为8954亿美元。

接下来读什么

• 今日还有哪些重要变化通过五项核心价值观解读 OpenAI 更新后的 Model Spec

2 家信源报道

这件事到目前为止

Anthropic修订后的S-1A称，其内部估算和对未来模型的预期表明，公司可能很快达到其《负责任扩展政策》中“可归因于AI的进展大幅加速”阈值。该公司尚未认定任何现有模型跨越了这一阈值，并表示仍在评估数据。 Anthropic还称，其在研发中越来越多地使用AI，可能使模型能力的进步速度超过其开发、验证和实施安全、对齐与安保措施的速度。该公司表示，即使技术上最终可行，也不认为自己能在没有实质性人工监督或理解的情况下，安全地使用Claude自主设计和构建后续几代前沿模型。