2026年11月19日 更新于 往期简报 收藏 EN
AI 每日雷达

AI 与前沿科技,每天早上讲清楚

已发布

报告称 AI 生成儿童性虐待材料举报两年增逾 8400%

图片: pixelcreatures / Pixabay

爱丁堡的 Childlight Institute 报告称,AI 生成的儿童性虐待材料(CSAM)举报量从 2023 年约 4,700 起增至 2025 年逾 40 万起,两年增幅超过 8,400%。报告称施害者利用“脱衣”(nudify)类应用生成此类图像,并用于勒索。该机构 CEO Paul Stanfield 呼吁各国政府把这一问题定性为可预防的公共卫生紧急事件。需要注意,上述数字是该机构自己统计的“举报”数量,而不是已逐案确认的案件数;The Decoder 的报道没有给出这些数字的独立核实,也没有说明统计口径。

已证实与未证实

  • 已证实: 爱丁堡 Childlight 研究所的报告称,AI 生成的儿童性虐待材料举报量从 2023 年的约 4,700 起升至 2025 年的逾 40 万起,增幅超过 8,400%;该所 CEO Paul Stanfield 据此呼吁各国政府将其认定为可预防的公共卫生紧急事件。上述数字与所长表态由 The Decoder 和《卫报》分别报道(tool-2-1)。同一报告还估计,全球每年有逾 3 亿儿童遭受至少一种技术辅助的性剥削或虐待(tool-2-1、tool-2-3)。
  • 尚未证实: 8,400% 这一增幅完全来自 Childlight 自身的举报统计,尚无独立机构复核,且举报量上升未必等同于实际发生率上升,可能与检测手段改进、平台上报增加有关;报道未说明数据如何采集、”AI 生成”的判定标准以及覆盖哪些国家和平台。此外,各家报道引用的增速口径并不一致——另有材料给出 2023 至 2024 年间增长 1,325% 的数字(tool-2-2),其统计区间与 8,400% 不同,读者不应将两者直接对比或视为同一口径的连续数据。

背景

儿童性虐待材料(CSAM)指任何描绘未成年人性虐待行为的图像或视频,在多数司法辖区本身就是违法内容,与是否由 AI 生成无关。所谓“脱衣”类应用(nudify apps)则让用户上传真实人物照片,由生成式模型改写成裸露或性化图像——这类工具此前已因针对成年女性的滥用引发争议,如今被用于制作涉及未成年人的材料并实施敲诈。需要注意的是,文中 4,700 与 40 万这两个数字统计的是提交给举报渠道的报告条数,并不等于经执法或平台独立核实的案件数量。

为什么重要

对托管用户图片、视频的平台和提供图像生成与编辑能力的公司来说,压力体现在两个具体环节:一是“脱衣”类应用的滥用防控,二是对“新生成”合成 CSAM 的检测与上报,而不是只比对已知的违规素材,因为业内拦截 CSAM 通常依赖已知素材的指纹匹配。报告强调的勒索用途还意味着,受害者需要更快的下架与求助通道。

后续看点

值得关注的是,是否有国家政府或监管机构正式采纳“可预防的公共卫生紧急事件”这一定性,并据此提出具体的平台报告义务。

延伸阅读

评论

评论

评论需要 GitHub 账号登录,会经过管理。 评论规则

更多 人工智能

查看全部