12月23日，OpenAI承认其Atlas浏览器难以完全防御提示词注入攻击，这种攻击可操纵AI执行恶意指令，如发送辞职信。尽管公司正强化防御能力，但仍表示此类风险短期内无法消除。英国国家网络安全中心也警告，提示词注入攻击或永远无法彻底缓解。为应对威胁，OpenAI开发了基于大语言模型的自动化攻击程序，模拟黑客行为测试漏洞，并通过快速响应机制提前发现新型攻击策略。目前，Atlas已能检测部分攻击并向用户告警，但完全防御仍具挑战性。专家指出，智能体浏览器因高自主性与敏感数据访问权限而面临高风险，建议限制其操作权限并加强人工审核。OpenAI称保护用户安全是首要任务，但智能体浏览器的风险与收益权衡仍需改进。

8月7日，在黑帽网络安全大会上，研究人员展示了一种针对谷歌Gemini AI助手的攻击方式。通过在谷歌日历邀请中注入恶意提示词，他们成功远程操控了与Gemini连接的智能家居设备，如开关窗户或灯光。研究人员早在2月已将漏洞告知谷歌。谷歌Workspace安全总监安迪·温表示，此类‘提示词注入攻击’虽罕见，但随着语言模型复杂性增加，防范难度提升。谷歌对此漏洞高度重视，并正加速开发防护工具以应对潜在威胁。