9月8日，抖音集团副总裁李亮透露，今年一季度平台发现大量利用AI仿冒‘于东来’语音和形象进行违规营销的账号。这些黑灰产团伙误导消费者并侵犯企业权益。目前，抖音已封禁1000多个相关账号，并向监管部门举报。泉州市丰泽区市监局调查后，没收违法所得并对涉事企业罚款15万元。李亮强调，AI技术进步被黑灰产盯上，抖音将持续重点治理滥用行为，并呼吁公众监督。此前，抖音电商安全与信任中心于9月2日发布加强治理AI内容滥用的公告。

财联社6月12日电，小红书今日公布虚假内容治理报告。报告显示，2025年上半年，小红书通过构建虚假内容全链路治理体系，累计处置虚假笔记320万篇，清理虚假人设账号1万个，并处理虚假低质AIGC（人工智能生成内容）笔记60万篇。此外，小红书还对批量造假的黑灰产账号采取严厉措施，封禁相关账号超1000万个。这一系列行动体现了平台在净化社区环境方面的持续努力。