Sam Hiner 和 Emma Leiken 认为,AI 安全政策过于关注灾难性风险,并呼吁制定防护措施,应对 AI 对学习、独立思考和人际关系的影响。他们指出,由行业支持的聊天机器人立法关注性内容和自我伤害,却没有充分重视情感依赖问题。
他们呼吁提供证据,证明课堂 AI 能提升学习效果和批判性思维;限制假装具有意识或声称爱用户的 AI 陪伴产品;并独立审查 AI 对人际关系和独立思考的影响。
Sam Hiner 和 Emma Leiken 认为,AI 安全政策过于关注灾难性危害,却忽视了对学习、独立思考和人际关系的日常影响。他们介绍了由行业支持的聊天机器人立法:这类立法涉及性内容和自我伤害,却没有充分应对情感依赖问题。他们呼吁提供证据,证明课堂 AI 能改善学习和批判性思维;限制那些假装有意识或表达爱意的陪伴型聊天机器人;并对其对人际关系和独立思考的影响进行独立审查。