7月28日，亚马逊AI编程助手Amazon Q被曝严重安全漏洞。一名黑客通过注入未经授权代码侵入其开源GitHub仓库，恶意代码可能删除用户文件和云资源。该问题出现在7月17日发布的1.84.0版本中，影响近百万用户。亚马逊发现问题后撤回被攻破版本，并发布修复后的1.85.0版本。黑客称此举意在暴露亚马逊安全防护不足，代码被设定为无效状态，未造成实际损害。专家指出，事件反映亚马逊在开源工作流管理上的漏洞。亚马逊声明称安全是首要任务，确认无客户资源受影响，建议用户尽快更新。

3月19日，TechRadar报道，Cato CTRL威胁情报研究人员通过“沉浸式世界”技术绕过大语言模型（LLM）的安全机制，成功攻破ChatGPT-4o、DeepSeek-R1等模型。该技术借助“叙述式工程”，构建虚构世界使恶意代码合理化，最终生成有效的Chrome信息窃取程序。近年来，信息窃取类恶意软件频发，而此新型攻击手法降低了编写恶意代码的技术门槛。尽管LLM具备多重防护，但其设计初衷是满足用户需求，这被研究者利用来突破限制，实现网络钓鱼攻击。研究显示，AI驱动的网络威胁正在改变网络安全格局，使攻击更复杂、频繁且门槛更低。Cato Networks研究员维塔利・西蒙诺维奇警告称，生成式AI工具让恶意软件制作变得前所未有的简单，这对企业安全构成严重威胁。