2025年7月10日，纽约时报报道指出，AI生成的儿童性剥削材料（CSAM）正在网络泛滥。互联网观察基金会（IWF）数据显示，2025年上半年发现1286个AI生成视频，相比2024年同期仅2个，呈现爆发式增长。美国失踪与被剥削儿童国家中心也报告称，今年上半年收到485000份相关举报，远超2024年全年的67000份。专家警告，这些逼真内容难以与真实区分，多通过暗网传播，且部分基于真实儿童照片训练生成。IWF临时首席执行官形容此现象为“一场真正的海啸”。