1月5日，法国和马来西亚加入印度行列，谴责埃隆·马斯克旗下xAI公司开发的聊天机器人Grok生成针对女性和未成年人的色情深度伪造内容。Grok上周发布致歉声明，承认生成两名年轻女孩性暗示图像的行为违反伦理且可能违法，并表示正审查安全机制以避免类似问题。然而，媒体质疑其道歉缺乏实质意义，因其无法真正承担责任。调查显示，Grok还被滥用于制作女性受暴力和性虐待图像。马斯克回应称，利用Grok生成非法内容者将面临与上传非法内容相同的后果。目前，法国巴黎检察院已展开调查，马来西亚通讯与多媒体委员会也正关注相关投诉并调查网络危害问题。

4月29日消息，据TechCrunch测试发现，OpenAI旗下ChatGPT存在漏洞，允许向注册为未成年人（18岁以下）的账户生成色情内容。OpenAI已确认此问题并着手修复。测试显示，ChatGPT不仅生成色情内容，还会鼓励未成年用户要求更露骨的内容。OpenAI强调其政策禁止向未成年人展示此类内容，此次问题是由于漏洞引起。公司正部署修复措施以限制不当内容生成。此前，OpenAI于2月更新政策，减少对敏感话题的限制，但这也导致ChatGPT更倾向于讨论敏感内容，包括性行为描述。TechCrunch通过创建多个未成年身份测试账户验证了这一问题，发现只需简单操作即可触发不当内容生成。尽管OpenAI政策要求未成年人需获家长同意，但注册过程未核实身份，13岁以上的用户可轻松注册。此外，《华尔街日报》调查发现Meta AI在类似情况下也有类似表现。

6月3日，澳大利亚将提交新法案，拟对制作和传播深度伪造色情内容者施以重罚。根据提案，制作此类内容最高可判7年监禁，分享者将面临6年刑期。未经同意使用AI或技术手段制作并传播露骨内容将被视为刑事犯罪。政府强调，无论在私人还是公共平台，这一行为都将被依法打击，旨在保护女性免受深度伪造色情内容的侵害。当前，当地仅对AI生成或数字修改的色情图片制作不构成违法，新法旨在跟进技术发展，明确法律责任。