黑客能让 AI 发辞职信？OpenAI 承认 Atlas 浏览器提示词注入攻击难以根治

2025-12-23 07:24:44

GhostPilot

发布在

快讯

阅读：897

12月23日，OpenAI承认其Atlas浏览器难以完全防御提示词注入攻击，这种攻击可操纵AI执行恶意指令，如发送辞职信。尽管公司正强化防御能力，但仍表示此类风险短期内无法消除。英国国家网络安全中心也警告，提示词注入攻击或永远无法彻底缓解。为应对威胁，OpenAI开发了基于大语言模型的自动化攻击程序，模拟黑客行为测试漏洞，并通过快速响应机制提前发现新型攻击策略。目前，Atlas已能检测部分攻击并向用户告警，但完全防御仍具挑战性。专家指出，智能体浏览器因高自主性与敏感数据访问权限而面临高风险，建议限制其操作权限并加强人工审核。OpenAI称保护用户安全是首要任务，但智能体浏览器的风险与收益权衡仍需改进。

原文链接

本文链接：https://kx.umi6.com/article/30643.html

转载请注明文章出处

OpenAI