OpenAI 推出识别 AI 生成儿童性虐待图像的分类器
OpenAI 周一在华盛顿特区的一场新闻发布会上宣布了一款分类器,称其能更有效地识别儿童性虐待图像,并判断这些图像是否由 AI 生成。该公司同时表示,将向通过审核的机构免费提供该工具,为开发者补充检测此类内容的指引,并协助培训执法人员使用 AI 辅助调查。OpenAI 未在公布中说明分类器的准确率数据、免费开放的申请门槛细节或具体上线时间,相关能力目前仅有公司自身的说法。
已证实与未证实
- 已证实: 据 The Verge 报道,OpenAI 在华盛顿特区的新闻发布会上宣布了这款面向儿童性虐待调查的分类器,并承诺向通过审核的机构免费开放、发布开发者指引以及参与执法人员培训。
- 尚未证实: 分类器检测准确率及对 AI 生成图像的识别效果仅有 OpenAI 单方面说法,尚无独立测试;“通过审核的机构”的具体资格标准、工具的实际可用时间与技术接入方式均未公布。
背景
儿童性虐待材料(CSAM)的检测长期依赖哈希比对等方式,即把文件与已知违法内容的指纹库对照,因此对从未出现过的、由 AI 新生成的图像效果有限。OpenAI 在其官方说明中称,这项新工具是在现有防护措施基础上的延伸,改看图像中的视觉特征,从而帮助调查团队识别此前未见过的疑似材料。The Hill 报道也指出,该图像分类器针对的正是包括 AI 生成内容在内的疑似 CSAM。
为什么重要
对儿童安全调查机构和平台内容审核团队而言,这类工具的价值取决于能否把有限的人力从海量举报中筛出可行动线索,但 OpenAI 目前的开放方式是“审核后免费使用”,意味着机构需要先走完资格审核流程才能评估其效果;在缺少独立基准的情况下,将其接入现有举报处理流程前应先做小规模比对测试。
评论
评论需要 GitHub 账号登录,会经过管理。 评论规则