2026年3月，Anthropic研究员Nicholas Carlini利用Claude模型，在90分钟内发现GitHub热门项目Ghost CMS的首个高危漏洞，窃取管理员API密钥。该系统以安全性著称，拥有5万星标，此前20年未曝严重漏洞。此外，Claude还挖掘出Linux内核中自2003年起存在的多个远程可利用漏洞。研究显示，大语言模型能力正指数级增长，仅需4个月即可翻倍，预计未来普通模型也能完成类似任务。然而，这种技术可能被攻击者滥用，快速发现并利用漏洞，对全球软件安全构成威胁。Nicholas呼吁业界立即重视大模型安全问题，共同应对潜在风险。