
发生了什么
OpenAI 宣布推出打击儿童性虐待材料的工具,包括图像分类器、ChatGPT 警告和临时账户封锁、开发者指南,以及面向执法部门的 AI 驱动工具。在与合作伙伴的早期测试中,该分类器在发现相同数量虐待图像的同时,标记的图像数量减少了 48%;被标记图像属于虐待图像的概率提高了一倍。OpenAI 正在向部分精选公司免费提供该分类器的 API 访问权限。
推荐理由
在早期合作伙伴测试中,该分类器在发现相同数量虐待图像的同时,标记的图像数量减少了 48%,减轻了审核人员的工作负担,同时使被标记图像属于虐待图像的概率提高了一倍。
