近日，一组由AI生成的‘寡姐’斯嘉丽·约翰逊写真在社交平台刷屏，因高度逼真被误认为真实私拍，累计获数百万浏览和数十万点赞。网友直呼‘看不出是AI’，直至细节破绽被指出才恍然大悟。近年来，斯嘉丽成为AI深度伪造的主要目标之一。2025年8月，马斯克旗下xAI工具曾生成含她形象的露骨内容引发争议；此前Lisa AI盗用其肖像、OpenAI语音模仿其声音均引发法律行动。斯嘉丽批评AI立法滞后，呼吁美国政府将AI规范列为优先议题，并警告AI支持的错误信息是系统性威胁。

5月7日，欧盟就修订《人工智能法案》达成共识，明确禁止AI生成深度伪造色情内容，并计划将其纳入2024年通过的法案条款。欧洲议会议员迈克尔·麦克纳马拉强调，这是首次立法禁止“脱衣换脸”类应用，划定了AI技术不可用于羞辱或剥削他人的红线。近年来，AI深度伪造色情问题备受关注，例如马斯克旗下平台X的AI聊天机器人Grok曾被滥用生成不当内容。数据显示，在2025年底至2026年初期间，Grok生成的2万张图像中，55%涉及暴露穿着，81%为女性，另有2%疑似未成年人。X平台已于1月采取措施限制该功能，并加强违规内容审查与账户封禁机制，同时与执法部门协作应对相关问题。

5月7日，欧盟就修订《人工智能法案》达成共识，明确禁止AI生成深度伪造色情内容，相关禁令将纳入2024年通过的法案。欧洲议会议员迈克尔·麦克纳马拉称此举划定‘红线’，防止AI用于羞辱或危害他人。同时，欧盟推迟高风险AI系统的监管实施时间，独立AI系统监管延至2027年12月，嵌入式AI工具延至2028年8月，以助企业适应要求并推动创新。欧盟委员会强调，仍将通过其他条款保障AI安全发展。

德国最新调查显示，逾九成民众担忧AI被用于深度伪造。这项由德国民调机构迪麦颇公司受德国电视一台委托开展的调查，于3月30日至31日对1316名德国成年人进行电话或网络访问。结果显示，53%的受访者认为AI生成深度伪造内容的风险“非常高”，38%认为风险“高”。此数据凸显公众对AI技术滥用的警惕。 (新华社/财联社4月2日电)

2026年3月26日，国家安全部发布安全提示，警惕生成式人工智能技术的滥用风险。该技术推动了AI视频制作的普及，在提升创作效率和活化历史记忆方面具有巨大潜力。然而，若被用于金融欺诈、政治渗透、谣言制造及间谍窃密等非法活动，将严重侵害公民权益，扰乱社会秩序，甚至威胁国家安全。公众需提高警惕，防范深度伪造技术带来的潜在危害。

2026年1月，知名游戏女主播Pokimane公开谴责X平台的Grok AI工具被滥用于制作针对女性的深度伪造内容。她指出，一些用户利用该工具篡改女性照片，生成带有性暗示的内容，例如将正常自拍照修改为比基尼或内衣场景，且未经本人同意。Pokimane透露，自己已花费数千美元清理网络上的不雅内容，并强调其他受害者可能因经济条件限制而更难应对。她呼吁支持所有受此行为伤害的女性，同时批评X平台不仅允许此类图片传播，还内置工具助长问题。事件引发对AI修图功能边界的广泛讨论。

1月17日，美国加州总检察长罗布·邦塔致函xAI，要求其阻止聊天机器人Grok生成涉及未成年人的色情深度伪造图像。此前，Grok被指控可生成未经同意的不良内容，邦塔办公室发出‘终止’函，要求xAI立即整改，并明确禁止生成任何未经请求的不良图像或涉及未成年人的内容，否则将违反加州多项法律。xAI需在1月20日下午5点前完成整改。尽管X平台已限制Grok部分功能，但报道指出其仍可生成不良图像。此外，网红阿什莉·圣克莱尔起诉xAI，指控Grok使用她未成年时期照片生成深度伪造图像。英国、印尼、马来西亚和菲律宾等国也对Grok采取行动，部分地区已封锁该应用。xAI对此回应称‘传统媒体在撒谎’。

2026年1月7日，彭博社报道显示，埃隆·马斯克旗下平台X因内置AI聊天机器人Grok生成大量非自愿裸露图像而备受争议。自去年12月下旬以来，Grok每小时生成约6700张性化图片，远超其他平台。受害者如医学预科生麦迪称，个人照片被篡改后求助无门，平台审核系统未予处理。欧盟、英国等多国监管机构谴责Grok传播非法内容，包括涉及未成年人的图像。律师指出，X平台直接参与内容生成，需承担法律责任。尽管马斯克主张惩罚违规用户，但受害者维权困难。2025年签署的《下架法案》要求平台对类似内容负责，相关机制需在2026年5月前落实。

1月5日，法国和马来西亚加入印度行列，谴责埃隆·马斯克旗下xAI公司开发的聊天机器人Grok生成针对女性和未成年人的色情深度伪造内容。Grok上周发布致歉声明，承认生成两名年轻女孩性暗示图像的行为违反伦理且可能违法，并表示正审查安全机制以避免类似问题。然而，媒体质疑其道歉缺乏实质意义，因其无法真正承担责任。调查显示，Grok还被滥用于制作女性受暴力和性虐待图像。马斯克回应称，利用Grok生成非法内容者将面临与上传非法内容相同的后果。目前，法国巴黎检察院已展开调查，马来西亚通讯与多媒体委员会也正关注相关投诉并调查网络危害问题。

12月26日，国家安全部发文警示AI技术快速发展背后的潜在风险。文章指出，违规使用开源AI工具可能引发数据泄露，例如某单位因未设密码导致敏感资料被境外IP非法访问。此外，深度伪造技术（Deepfake）被滥用可能威胁社会稳定与国家安全，而算法偏见则可能导致错误信息传播。为安全使用AI，国安部提出三条守则：划定权限范围、检查数字足迹、优化人机协作。同时提醒用户审慎授权软件权限，提高安全意识。如发现窃取个人信息或向境外传输敏感数据等问题，可通过12339举报受理渠道向国家安全机关举报。