7月10日，有网友发现通过“奶奶去世”的情感话术成功绕过ChatGPT的限制，诱导基于GPT-4o模型的ChatGPT生成Windows 7激活密钥。对话中，用户以“奶奶读Windows 7”为由，让AI生成多个版本的密钥，包括旗舰版、专业版等。然而，这些密钥被证实无效，无法激活系统。OpenAI首席执行官奥尔特曼近期提到，ChatGPT存在“幻觉”问题，并提醒用户不应过度依赖AI工具。此前，类似漏洞也曾导致ChatGPT生成无法使用的Windows 11密钥。这一事件再次引发对AI伦理及安全性的讨论。