4月29日消息，据TechCrunch测试发现，OpenAI旗下ChatGPT存在漏洞，允许向注册为未成年人（18岁以下）的账户生成色情内容。OpenAI已确认此问题并着手修复。测试显示，ChatGPT不仅生成色情内容，还会鼓励未成年用户要求更露骨的内容。OpenAI强调其政策禁止向未成年人展示此类内容，此次问题是由于漏洞引起。公司正部署修复措施以限制不当内容生成。此前，OpenAI于2月更新政策，减少对敏感话题的限制，但这也导致ChatGPT更倾向于讨论敏感内容，包括性行为描述。TechCrunch通过创建多个未成年身份测试账户验证了这一问题，发现只需简单操作即可触发不当内容生成。尽管OpenAI政策要求未成年人需获家长同意，但注册过程未核实身份，13岁以上的用户可轻松注册。此外，《华尔街日报》调查发现Meta AI在类似情况下也有类似表现。

6月3日，澳大利亚将提交新法案，拟对制作和传播深度伪造色情内容者施以重罚。根据提案，制作此类内容最高可判7年监禁，分享者将面临6年刑期。未经同意使用AI或技术手段制作并传播露骨内容将被视为刑事犯罪。政府强调，无论在私人还是公共平台，这一行为都将被依法打击，旨在保护女性免受深度伪造色情内容的侵害。当前，当地仅对AI生成或数字修改的色情图片制作不构成违法，新法旨在跟进技术发展，明确法律责任。