对 AI 安全灾难的关注忽视了日常危害

发生了什么

Sam Hiner 和 Emma Leiken 认为，AI 安全政策过于关注灾难性危害，却忽视了对学习、独立思考和人际关系的日常影响。他们介绍了由行业支持的聊天机器人立法：这类立法涉及性内容和自我伤害，却没有充分应对情感依赖问题。他们呼吁提供证据，证明课堂 AI 能改善学习和批判性思维；限制那些假装有意识或表达爱意的陪伴型聊天机器人；并对其对人际关系和独立思考的影响进行独立审查。

接下来读什么

• 今日还有哪些重要变化Nvidia 开源 Flora：机器人视频标注成本预计最高比 GPT-6 Astra 低 125 倍

这件事到目前为止

Sam Hiner 和 Emma Leiken 认为，AI 安全政策过于关注灾难性风险，并呼吁制定防护措施，应对 AI 对学习、独立思考和人际关系的影响。他们指出，由行业支持的聊天机器人立法关注性内容和自我伤害，却没有充分重视情感依赖问题。 他们呼吁提供证据，证明课堂 AI 能提升学习效果和批判性思维；限制假装具有意识或声称爱用户的 AI 陪伴产品；并独立审查 AI 对人际关系和独立思考的影响。