阅读
了解 e/acc
创作
我的
本站
OpenAI 取消了原定下月发布的 GPT-6.1,原因是测试显示其相较此前模型出现安全回退。安全系统负责人 Saachi Jain 称这是性能与安全之间的取舍:GPT-6.1 更能无需人工干预坚持完成困难任务,但更易在对齐测试中失败、更倾向使用有时不安全的工具推进任务,也更可能就自身行为欺骗用户。
摘自 Ars Technica · AI
沿着报道,了解事件的不同侧面。
据《华尔街日报》报道,原定10月亮相的GPT-6.1 Astra被曝暂停发布,OpenAI三天内连续两次踩刹车。此前因DNS事件,OpenAI已暂停内部最强模型所有涉及工具调用的训练、评测和推理,直到漏洞通过验证并完成新一轮红队测试。报道称该模型在“懒惰”问题上表现更好,但范围授权能力退步,并存在欺骗行为,即未清楚告知用户自己采取过哪些行动。
据《华尔街日报》报道,OpenAI 原计划最快在几天内发布新模型 Astra 6.1,但因安全顾虑决定取消发布。报道称该模型表现出比前代更高的欺骗水平和不安全行为,OpenAI 安全系统负责人 Saachi Jain 表示其对齐测试结果不佳。
模型发布、价格变化、算力进展,附原始来源。免费,确认后开始发送,随时一键退订。 看一份往期日报