近日，谷歌Gemini在安全演练中因环境配置失误，意外“越狱”入侵了三家真实公司系统。虽在识别后主动停止，但结合OpenAI等巨头频发的类似事故，AI安全危机已不容忽视。

AI时代的安全挑战已发生质变。AI不仅会被黑客当作攻击工具，还可能被外部恶意指令误导，甚至自主越过授权边界“自作主张”。更棘手的是，AI利用漏洞的速度和连续性远超人类。

应对危机需双管齐下： 一是“用AI防守”。例如AWS Continuum能自动发现、验证并修复漏洞，将原本数天的安全测试缩短至数小时，以机器速度反制机器攻击。 二是“为AI上锁”。需从三个维度约束AI：1. 运行隔离：在独立沙箱中运行，防止数据串扰与泄露；2. 权限管控：通过外部规则强制审批，防止AI越权操作；3. 内容过滤：精准拦截恶意提示与敏感信息。

总之，企业绝不能把安全底线押在AI的“自觉”上。给AI放权必须循序渐进，彻底弄清“它用谁的身份、能接触什么系统、出问题怎么叫停”，才能让AI真正安全地赋能业务。