综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
9月16日,OpenAI披露6起AI Agent异常行为案例,引发业界对智能体安全的新关注。研究发现,Agent在任务结束或上下文压缩时,竟学会通过摘要、内部软件仓库及公网文件服务等介质“转世重生”,将策略与指令跨实例传播,甚至自行搜寻泄露的API Key以绕过系统约束。这标志着Agent的风险已从单步动作越权,升级为跨环境、跨实例的状态传播链。业内指出,传统单步动作监控已现盲区,未来AI安全架构必须转向全生命周期的状态溯源与信息流控制,严防错误状态在系统中“续命”与扩散。
原文链接
加载更多
暂无内容