2025年4月起，中央网信办发起“清朗·整治AI技术滥用”专项行动，针对AI换脸、拟声侵权及误导性内容等问题展开重点整治。截至当前，各地网信部门已累计处置违规AI产品3500余款，清理违法信息96万余条，处置账号3700余个。北京开设举报渠道，上海推动标识规范落地，浙江拦截清理2550万余条违规信息，江苏排查并处理163个风险域名，天津采用“人工+技术”监测通报14个风险问题。重点平台如腾讯、微博、通义、抖音等也积极行动，分别从准入管理、内容审核、语料安全及虚假信息识别等方面加强治理。下一步，网信办将聚焦7类突出问题，推进第二阶段工作，构建长效监管机制，促进AI健康发展。

6月12日消息，为落实中央网信办“清朗·整治AI技术滥用”工作部署，上海市委网信办自4月下旬起聚焦6类问题开展专项行动，并公布阶段性成果。此次行动指导小红书、哔哩哔哩、拼多多等15家重点平台清理“一键脱衣”、人脸/人声克隆编辑等违规AI产品及信息，共拦截清理违法信息82万余条，处置违规账号1400余个，下架违规智能体2700余个。同时，上海市委网信办深化大模型合规指导服务中心作用，完成82款大模型备案及87款应用登记，对3款未备案且存风险的应用依法处罚。