2025年4月起，中央网信办发起“清朗·整治AI技术滥用”专项行动，针对AI换脸、拟声侵权及误导性内容等问题展开重点整治。截至当前，各地网信部门已累计处置违规AI产品3500余款，清理违法信息96万余条，处置账号3700余个。北京开设举报渠道，上海推动标识规范落地，浙江拦截清理2550万余条违规信息，江苏排查并处理163个风险域名，天津采用“人工+技术”监测通报14个风险问题。重点平台如腾讯、微博、通义、抖音等也积极行动，分别从准入管理、内容审核、语料安全及虚假信息识别等方面加强治理。下一步，网信办将聚焦7类突出问题，推进第二阶段工作，构建长效监管机制，促进AI健康发展。

据“网信中国”公众号消息，中央网信办于2025年4月启动‘清朗・整治 AI 技术滥用’专项行动，聚焦AI换脸拟声侵权、内容误导等问题，第一阶段已处置3500余款违规AI产品，清理96万余条违法违规信息，处理3700余个违规账号。北京网信办开设举报渠道，上海网信办推动标识规范落地，浙江网信办清理2550万余条违法违规信息，江苏网信办排查封堵风险域名。重点平台方面，腾讯提高小程序准入门槛，微博多渠道审核清理违规内容，通义平台完善训练语料管理，抖音优化虚假信息识别，阿里等平台推进内容标识落地，小红书提升特定领域模型理解能力。下一步，中央网信办将针对AI造谣、低俗内容等7类问题展开第二阶段工作，构建长效机制维护网络生态。

6月12日消息，为落实中央网信办“清朗·整治AI技术滥用”工作部署，上海市委网信办自4月下旬起聚焦6类问题开展专项行动，并公布阶段性成果。此次行动指导小红书、哔哩哔哩、拼多多等15家重点平台清理“一键脱衣”、人脸/人声克隆编辑等违规AI产品及信息，共拦截清理违法信息82万余条，处置违规账号1400余个，下架违规智能体2700余个。同时，上海市委网信办深化大模型合规指导服务中心作用，完成82款大模型备案及87款应用登记，对3款未备案且存风险的应用依法处罚。