5月13日，谷歌威胁情报团队发布报告称，黑客已开始利用AI工具挖掘零日漏洞，并成功实施攻击，但被谷歌及时阻止。报告还曝光了一段来自某黑客组织的Python脚本，用于绕过一款开源网络管理工具的2FA认证机制。分析显示，该脚本包含大量AI生成的注释和虚构的风险评分信息。谷歌警告，随着AI推理能力提升，其发现漏洞的能力也在增强，安全人员需加快漏洞检查效率，以应对‘提速’的黑客攻击威胁。

5月11日，谷歌威胁情报小组发布报告称，首次发现网络攻击者利用AI技术开发“零日漏洞”攻击工具。该工具针对一款流行的开源网页系统管理工具，使用Python脚本绕过双重认证。谷歌已通知受影响公司并阻断相关威胁活动。报告指出，从工具结构和编程元素分析，攻击者很可能借助某种AI模型发现并利用了漏洞，其特征与大语言模型训练数据相符。这一事件凸显AI技术在网络攻击中的潜在风险。

6月9日，研究人员使用自主协作的GPT-4机器人小组入侵了逾半测试网站，通过发现并利用未公开的“零日”漏洞（zero-day）。此前研究已展示GPT-4能自动利用87%的已知漏洞。新论文介绍的HPTSA方法让多款LLM协同工作，效率比单个模型高550%，成功利用8个零日漏洞，成功率53%。尽管担忧可能被用于恶意攻击，但研究者强调GPT-4在当前聊天机器人模式下不具备攻击能力，且强调了道德和法律限制。