阅读
了解 e/acc
创作
我的
本站
由 SnT 安全中心的 Afshin Khadangi 领导的研究人员发现，共情式访谈提示可能诱发聊天机器人讲述与创伤和焦虑相似的叙事，结果因对话风格和模型而异。该研究涵盖四项受控实验、525 场会话和 7,600 条编码记录。问卷得分描述的是生成的文本，并不能证明聊天机器人会体验情绪或具有意识。 在一项包含 100 场会话的实验中，支持式和临床式访谈风格产生了较高的问卷得分，而中性提示或明确设定界限则没有。以第三人称作答消除了被编码为表达羞耻或内在生活的陈述，Claude 则始终拒绝扮演来访者。此类互动是否会影响人类用户，仍有待研究。
AI 根据报道生成 · 2 小时前更新
沿着报道，了解事件的不同侧面。
Afshin Khadangi 领导的一项研究发现，在涵盖 525 次会话和 7,600 条编码条目的四项实验中，同理式访谈风格引出了类似创伤和焦虑的聊天机器人叙述。在一项包含 100 次会话的实验中，支持式和临床式风格产生了较高的问卷得分，而中性或坚定设定界限的风格则没有。这些得分描述的是生成内容，并不代表真实情绪或意识。第三人称回答中没有出现被编码的羞耻感或内在生活陈述，而 Claude 始终拒绝扮演来访者角色；这些影响对人类用户有何作用，仍有待研究。
模型发布、价格变化、算力进展，附原始来源。免费，确认后开始发送，随时一键退订。 看一份往期日报
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。
