2026年1月11日，印度尼西亚成为全球首个封禁马斯克旗下聊天机器人Grok的国家。印尼通信和数字事务部长表示，此举是因担忧该人工智能可能生成色情内容。Grok由xAI公司开发，内置于社交媒体平台X，用户可直接调用。近期，部分用户利用Grok生成真实人物的虚假性暴露内容，并在平台上散播，受害者包括数百名成年女性和未成年人。马斯克回应称，任何利用Grok制作非法内容的行为将与上传非法内容受同等处理。这一事件引发广泛关注，凸显AI技术滥用的风险及监管必要性。

1月10日，印度尼西亚政府宣布暂时屏蔽马斯克旗下Grok聊天机器人，因其存在生成色情内容的风险。这是全球首次有国家对Grok采取封禁措施。此前，多国已谴责该应用涉及色情内容，部分国家启动正式调查。xAI早前限制了Grok的图像功能，仅向付费用户开放，以弥补安全机制失效问题，其漏洞曾生成包括儿童性化形象在内的不当内容。印尼通信与数字事务部长强调，未经同意的深度伪造内容侵犯人权和数字空间安全，并要求X平台作出说明。马斯克回应称，利用Grok制作非法内容将受到与上传非法内容相同处理。