2025年6月，中央网信办启动“清朗·整治AI技术滥用”专项行动，重点整治利用AI制作色情低俗内容及假冒他人侵权行为。近期，AI换脸、换装等技术被滥用，导致高校导师、白领小雅、青岛保时捷女销冠及台球运动员王思诺等人陷入诈骗或恶意造谣风波。《每日经济新闻》记者实测12款AI应用发现，5款可实现明星“一键换装”，9款生成“擦边”图片。社交平台充斥AI生成的“擦边”内容，部分账号借此吸粉变现。专家指出，技术防线薄弱源于算力成本考量和界定标准模糊，建议明确“擦边”内容标准并提高违法成本。平台虽标注“疑似AI创作”，但审核与防控仍需加强。

6月12日消息，为落实中央网信办“清朗·整治AI技术滥用”工作部署，上海市委网信办自4月下旬起聚焦6类问题开展专项行动，并公布阶段性成果。此次行动指导小红书、哔哩哔哩、拼多多等15家重点平台清理“一键脱衣”、人脸/人声克隆编辑等违规AI产品及信息，共拦截清理违法信息82万余条，处置违规账号1400余个，下架违规智能体2700余个。同时，上海市委网信办深化大模型合规指导服务中心作用，完成82款大模型备案及87款应用登记，对3款未备案且存风险的应用依法处罚。

近日，《科创板日报》报道，为推进北京‘清朗·整治AI技术滥用’专项行动，加强互联网信息服务算法治理，北京市委网信办自即日起至2025年7月25日开通专项举报渠道，接受涉及AI技术滥用相关线索的举报。此举旨在进一步规范AI技术应用，维护网络环境健康有序发展。公众可通过该渠道反映问题，共同助力专项整治行动的深入开展。

中央网信办部署开展为期3个月的“清朗·整治AI技术滥用”专项行动，分两阶段推进。第一阶段重点整治违规AI产品、训练语料问题及安全措施薄弱等6类问题；第二阶段聚焦利用AI制作谣言、不实信息、色情低俗内容、假冒他人行为及网络水军活动等7类突出问题。行动旨在规范AI服务，保障公民权益，促进行业发展。各地网信部门需加强监管，督导平台完善审核机制，提升技术能力，并普及人工智能知识，引导正确应用。行动自近期启动，将持续至未来3个月内。