我们高估了 AI 说“不”的能力

发生了什么

MIT Technology Review 刊文指出，AI 的拒绝机制正成为安全体系承重墙，却并不可靠。Anthropic 2021 年提出大语言模型应“有用、诚实、无害”，如今模型经大量拒绝训练与 AI 互训学会说“不”，但拒绝是概率性的，仍可被绕过。OpenAI 董事会成员 Zico Kolter 称“界限划在哪里是个巨大问题”，而目前由 AI 公司秘密决定，政府也将介入。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议