2025年6月，中央网信办启动“清朗·整治AI技术滥用”专项行动，重点整治利用AI制作色情低俗内容及假冒他人侵权行为。近期，AI换脸、换装等技术被滥用，导致高校导师、白领小雅、青岛保时捷女销冠及台球运动员王思诺等人陷入诈骗或恶意造谣风波。《每日经济新闻》记者实测12款AI应用发现，5款可实现明星“一键换装”，9款生成“擦边”图片。社交平台充斥AI生成的“擦边”内容，部分账号借此吸粉变现。专家指出，技术防线薄弱源于算力成本考量和界定标准模糊，建议明确“擦边”内容标准并提高违法成本。平台虽标注“疑似AI创作”，但审核与防控仍需加强。

11月9日，科技媒体WinBuzzer报道，Mistral AI公司发布了全新内容审核API，旨在满足安全在线环境的需求。该API基于微调的Mistral 8B模型，能够将内容分类为9大类目，包括仇恨言论、暴力和个人数据泄露等。支持的语言种类丰富，涵盖中文、阿拉伯语、英语、法语、德语、意大利语、日语、韩语、葡萄牙语、俄语和西班牙语共11种语言，适用于处理原始文本和对话内容。此外，Mistral还推出了专门处理大规模数据的Mistral Batch API，能将处理成本降低25%，吸引众多希望优化运营的企业用户。此举进一步增强了Mistral在市场上的竞争力。

【字节跳动马来西亚大规模裁员】据《华尔街日报》报道，字节跳动已对马来西亚分公司裁员超过700人，此举旨在加速AI在内容审核领域的应用。受影响员工主要为内容审核人员，于周三收到解雇通知。TikTok对此回应称，这是公司加强全球内容审核运营模式的一部分。目前，TikTok在全球范围内拥有4万名审核员，其中马来西亚占比虽小，但裁员行动凸显了公司对AI审核技术的重视。 【AI审核技术的引入】TikTok强调，其内容审核已全面采用自动审核技术，运用视觉、音频、标题、描述及关键词等多种技术手段，以识别并移除违反社区准则的内容。对于不确定违规程度的情况，系统会将内容提交给人工审核员进行二次评估。此次裁员及AI技术的应用，反映了TikTok在提升内容质量、保障用户安全方面的持续努力。