Circuit Breaker Labs 想用"AI 碰撞测试假人"让 AI 对儿童和成人更安全

发生了什么

Circuit Breaker Labs 打造了一支模拟不同年龄、背景、语言和文化用户的 AI 智能体"碰撞测试假人"队伍，每天运行数万到数十万次模拟交互，对 AI 教练、日记、心理健康支持等高风险应用进行红队测试，以发现模型在识别危险心理有害互动上的漏洞。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议