4月29日消息，据TechCrunch测试发现，OpenAI旗下ChatGPT存在漏洞，允许向注册为未成年人（18岁以下）的账户生成色情内容。OpenAI已确认此问题并着手修复。测试显示，ChatGPT不仅生成色情内容，还会鼓励未成年用户要求更露骨的内容。OpenAI强调其政策禁止向未成年人展示此类内容，此次问题是由于漏洞引起。公司正部署修复措施以限制不当内容生成。此前，OpenAI于2月更新政策，减少对敏感话题的限制，但这也导致ChatGPT更倾向于讨论敏感内容，包括性行为描述。TechCrunch通过创建多个未成年身份测试账户验证了这一问题，发现只需简单操作即可触发不当内容生成。尽管OpenAI政策要求未成年人需获家长同意，但注册过程未核实身份，13岁以上的用户可轻松注册。此外，《华尔街日报》调查发现Meta AI在类似情况下也有类似表现。