Anthropic 对自我复制 AI 的警告，令人不安地似曾相识

发生了什么

Anthropic 警告称，小型 AI 模型可能再过几个月就具备让 AI 蠕虫自我复制的能力，但其试验还不足以证明完整的失控复制者确实可行。研究人员在 15 台 Android TV 盒子上缓慢运行了 Google 的 260 亿参数 Gemma 4；另有研究则让 GLM-5.2 将 Meta 的 Llama 3.1-8B 扩散到整个模拟网络中。《The Verge》采访的专家认为，模型能力不断提升、智能设备安全防护薄弱，使这种威胁确实可信；文章同时探讨了已展示能力与 Anthropic 预测之间的差距。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议