9月8日，抖音集团副总裁李亮透露，今年一季度平台发现大量利用AI仿冒‘于东来’语音和形象进行违规营销的账号。这些黑灰产团伙误导消费者并侵犯企业权益。目前，抖音已封禁1000多个相关账号，并向监管部门举报。泉州市丰泽区市监局调查后，没收违法所得并对涉事企业罚款15万元。李亮强调，AI技术进步被黑灰产盯上，抖音将持续重点治理滥用行为，并呼吁公众监督。此前，抖音电商安全与信任中心于9月2日发布加强治理AI内容滥用的公告。

微信官方1月18日宣布，近期平台已累计处理12091条违规内容，关闭3281个利用AI仿冒知名人士进行不当营销的账号。这些行为包括违规拼接和恶意博取流量。微信将继续优化技术手段，从源头遏制此类违规行为，并呼吁用户遵守法律法规，共同维护网络空间秩序。

财联社12月15日报道，微信发布公告称，近期有媒体曝光利用AI技术仿冒名人进行不当营销的现象。“微信珊瑚安全”结合用户举报和日常巡查线索，已迅速从严打击了利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为。截至目前，已处置内容532条，关闭账号209个。微信表示，未来将持续加大对这种违规行为的打击力度。