报告称 AI 生成儿童性虐待材料举报两年增逾 8400%
爱丁堡的 Childlight Institute 报告称,AI 生成的儿童性虐待材料(CSAM)举报量从 2023 年约 4,700 起增至 2025 年逾 40 万起,两年增幅超过 8,400%。报告称施害者利用“脱衣”(nudify)类应用生成此类图像,并用于勒索。该机构 CEO Paul Stanfield 呼吁各国政府把这一问题定性为可预防的公共卫生紧急事件。需要注意,上述数字是该机构自己统计的“举报”数量,而不是已逐案确认的案件数;The Decoder 的报道没有给出这些数字的独立核实,也没有说明统计口径。
已证实与未证实
- 已证实: 爱丁堡 Childlight 研究所的报告称,AI 生成的儿童性虐待材料举报量从 2023 年的约 4,700 起升至 2025 年的逾 40 万起,增幅超过 8,400%;该所 CEO Paul Stanfield 据此呼吁各国政府将其认定为可预防的公共卫生紧急事件。上述数字与所长表态由 The Decoder 和《卫报》分别报道(tool-2-1)。同一报告还估计,全球每年有逾 3 亿儿童遭受至少一种技术辅助的性剥削或虐待(tool-2-1、tool-2-3)。
- 尚未证实: 8,400% 这一增幅完全来自 Childlight 自身的举报统计,尚无独立机构复核,且举报量上升未必等同于实际发生率上升,可能与检测手段改进、平台上报增加有关;报道未说明数据如何采集、”AI 生成”的判定标准以及覆盖哪些国家和平台。此外,各家报道引用的增速口径并不一致——另有材料给出 2023 至 2024 年间增长 1,325% 的数字(tool-2-2),其统计区间与 8,400% 不同,读者不应将两者直接对比或视为同一口径的连续数据。
背景
儿童性虐待材料(CSAM)指任何描绘未成年人性虐待行为的图像或视频,在多数司法辖区本身就是违法内容,与是否由 AI 生成无关。所谓“脱衣”类应用(nudify apps)则让用户上传真实人物照片,由生成式模型改写成裸露或性化图像——这类工具此前已因针对成年女性的滥用引发争议,如今被用于制作涉及未成年人的材料并实施敲诈。需要注意的是,文中 4,700 与 40 万这两个数字统计的是提交给举报渠道的报告条数,并不等于经执法或平台独立核实的案件数量。
为什么重要
对托管用户图片、视频的平台和提供图像生成与编辑能力的公司来说,压力体现在两个具体环节:一是“脱衣”类应用的滥用防控,二是对“新生成”合成 CSAM 的检测与上报,而不是只比对已知的违规素材,因为业内拦截 CSAM 通常依赖已知素材的指纹匹配。报告强调的勒索用途还意味着,受害者需要更快的下架与求助通道。
后续看点
值得关注的是,是否有国家政府或监管机构正式采纳“可预防的公共卫生紧急事件”这一定性,并据此提出具体的平台报告义务。
延伸阅读
- Reports of AI -related child sexual abuse material rise 8, 400 % in two…
-
[Online exploitation harms rise: 1 in 5 children in Western… LinkedIn](https://www.linkedin.com/posts/prof-michelle-mcmanus-43861125_avalanche-of-child-abuse-and-exploitation-activity-7381379247916916736-J2K0) - Experts warn of surge in AI - generated child sexual abuse material
评论
评论需要 GitHub 账号登录,会经过管理。 评论规则