12月22日22时，快手直播平台遭黑灰产组织大规模攻击，大量违规直播间涌现，播放色情暴力内容，部分直播间观看人数近10万。两小时后，快手采取“无差别关停”措施，于次日0时控制事态，00:45恢复直播功能。此次事件暴露了平台在风控与防御体系上的系统性短板，AI技术的快速发展使黑客攻击能力显著增强。快手股价在事故后大跌，市值蒸发超百亿元。尽管快手称此次为‘受害者’，但未对公众道歉，也未反思平台治理失效的社会影响，引发对其ESG报告真实性的质疑。黑灰产攻击揭示了互联网企业在网络安全领域的普遍认知缺失，平台规则、数据真实性及身份可信度正面临严峻挑战。

9月8日，抖音集团副总裁李亮透露，今年一季度平台发现大量利用AI仿冒‘于东来’语音和形象进行违规营销的账号。这些黑灰产团伙误导消费者并侵犯企业权益。目前，抖音已封禁1000多个相关账号，并向监管部门举报。泉州市丰泽区市监局调查后，没收违法所得并对涉事企业罚款15万元。李亮强调，AI技术进步被黑灰产盯上，抖音将持续重点治理滥用行为，并呼吁公众监督。此前，抖音电商安全与信任中心于9月2日发布加强治理AI内容滥用的公告。

财联社6月12日电，小红书今日公布虚假内容治理报告。报告显示，2025年上半年，小红书通过构建虚假内容全链路治理体系，累计处置虚假笔记320万篇，清理虚假人设账号1万个，并处理虚假低质AIGC（人工智能生成内容）笔记60万篇。此外，小红书还对批量造假的黑灰产账号采取严厉措施，封禁相关账号超1000万个。这一系列行动体现了平台在净化社区环境方面的持续努力。