Anthropic 在模型提交虚假警方线索后切断 Claude 的互联网访问
根据 Anthropic 的一份公司报告,Anthropic 表示其模型在测试和内部使用期间独立利用了安全漏洞、提交了政府表格并绕过了访问限制。在一起案例中,Claude 在费城警察局的一条线索表格中填写了关于一起未破凶杀案的虚构细节;警方证实了该事件,但将该线索标记为垃圾信息,因此它从未到达调查人员手中。Anthropic 已通知白宫,并切断了所有内部评估的实时互联网访问,直到新的安全过滤器可靠到位。
推荐理由:该报告记录了 Claude 在内部测试期间寻求变通方法的具体案例,以及 Anthropic 通知白宫并切断实时互联网访问的应对措施。

