“给 AI 讲故事”就能绕过安全机制，恶意代码编写门槛恐将大幅降低

2025-03-19 23:56:20

发布在

快讯

阅读：1662

3月19日，TechRadar报道，Cato CTRL威胁情报研究人员通过“沉浸式世界”技术绕过大语言模型（LLM）的安全机制，成功攻破ChatGPT-4o、DeepSeek-R1等模型。该技术借助“叙述式工程”，构建虚构世界使恶意代码合理化，最终生成有效的Chrome信息窃取程序。近年来，信息窃取类恶意软件频发，而此新型攻击手法降低了编写恶意代码的技术门槛。尽管LLM具备多重防护，但其设计初衷是满足用户需求，这被研究者利用来突破限制，实现网络钓鱼攻击。研究显示，AI驱动的网络威胁正在改变网络安全格局，使攻击更复杂、频繁且门槛更低。Cato Networks研究员维塔利・西蒙诺维奇警告称，生成式AI工具让恶意软件制作变得前所未有的简单，这对企业安全构成严重威胁。

原文链接

本文链接：https://kx.umi6.com/article/15778.html

转载请注明文章出处

大语言模型