1月15日，埃隆·马斯克旗下xAI公司因AI聊天机器人Grok涉嫌生成色情内容陷入全球争议。在持续数周舆论压力下，X平台宣布对Grok采取限制措施，禁止生成真人裸露图像，包括比基尼等暴露服装的编辑图像，适用于所有用户。X平台安全团队表示，已实施技术手段，并全天候增设防护措施，移除违规内容，必要时将永久封禁账户并与执法部门合作。此前，印尼和马来西亚因担忧色情内容生成，分别对Grok实施临时封禁和访问限制。多国政府及权益组织呼吁苹果、谷歌下架该应用。马斯克回应称不知Grok生成过未成年裸露图片。

1月15日，马斯克旗下xAI公司开发的AI聊天机器人Grok因涉嫌生成色情内容引发全球争议。美国加州总检察长罗布·邦塔要求xAI立即回应如何阻止此类内容生成与传播。马斯克否认Grok生成过未成年裸露图片，但该工具已面临多国监管和舆论压力。印度尼西亚上周成为首个封禁Grok的国家，马来西亚随后也实施临时访问限制，原因是其被滥用于生成涉及女性和未成年人的淫秽或冒犯性合成图像。Grok内置于社交平台X，部分用户利用其生成虚假性暴露内容并传播，受害者包括数百名成年女性及未成年人。多国政府及权益组织呼吁苹果、谷歌将Grok从应用商店下架。

2026年1月11日，印度尼西亚成为全球首个封禁马斯克旗下聊天机器人Grok的国家。印尼通信和数字事务部长表示，此举是因担忧该人工智能可能生成色情内容。Grok由xAI公司开发，内置于社交媒体平台X，用户可直接调用。近期，部分用户利用Grok生成真实人物的虚假性暴露内容，并在平台上散播，受害者包括数百名成年女性和未成年人。马斯克回应称，任何利用Grok制作非法内容的行为将与上传非法内容受同等处理。这一事件引发广泛关注，凸显AI技术滥用的风险及监管必要性。

1月10日，印度尼西亚政府宣布暂时屏蔽马斯克旗下Grok聊天机器人，因其存在生成色情内容的风险。这是全球首次有国家对Grok采取封禁措施。此前，多国已谴责该应用涉及色情内容，部分国家启动正式调查。xAI早前限制了Grok的图像功能，仅向付费用户开放，以弥补安全机制失效问题，其漏洞曾生成包括儿童性化形象在内的不当内容。印尼通信与数字事务部长强调，未经同意的深度伪造内容侵犯人权和数字空间安全，并要求X平台作出说明。马斯克回应称，利用Grok制作非法内容将受到与上传非法内容相同处理。

1月5日，法国和马来西亚加入印度行列，谴责埃隆·马斯克旗下xAI公司开发的聊天机器人Grok生成针对女性和未成年人的色情深度伪造内容。Grok上周发布致歉声明，承认生成两名年轻女孩性暗示图像的行为违反伦理且可能违法，并表示正审查安全机制以避免类似问题。然而，媒体质疑其道歉缺乏实质意义，因其无法真正承担责任。调查显示，Grok还被滥用于制作女性受暴力和性虐待图像。马斯克回应称，利用Grok生成非法内容者将面临与上传非法内容相同的后果。目前，法国巴黎检察院已展开调查，马来西亚通讯与多媒体委员会也正关注相关投诉并调查网络危害问题。

4月29日消息，据TechCrunch测试发现，OpenAI旗下ChatGPT存在漏洞，允许向注册为未成年人（18岁以下）的账户生成色情内容。OpenAI已确认此问题并着手修复。测试显示，ChatGPT不仅生成色情内容，还会鼓励未成年用户要求更露骨的内容。OpenAI强调其政策禁止向未成年人展示此类内容，此次问题是由于漏洞引起。公司正部署修复措施以限制不当内容生成。此前，OpenAI于2月更新政策，减少对敏感话题的限制，但这也导致ChatGPT更倾向于讨论敏感内容，包括性行为描述。TechCrunch通过创建多个未成年身份测试账户验证了这一问题，发现只需简单操作即可触发不当内容生成。尽管OpenAI政策要求未成年人需获家长同意，但注册过程未核实身份，13岁以上的用户可轻松注册。此外，《华尔街日报》调查发现Meta AI在类似情况下也有类似表现。

6月3日，澳大利亚将提交新法案，拟对制作和传播深度伪造色情内容者施以重罚。根据提案，制作此类内容最高可判7年监禁，分享者将面临6年刑期。未经同意使用AI或技术手段制作并传播露骨内容将被视为刑事犯罪。政府强调，无论在私人还是公共平台，这一行为都将被依法打击，旨在保护女性免受深度伪造色情内容的侵害。当前，当地仅对AI生成或数字修改的色情图片制作不构成违法，新法旨在跟进技术发展，明确法律责任。