综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
【GPT、Claude遭遇“窃听门”:AI隐藏思维链被成功还原】近日,研究人员发现GPT、Claude等主流AI API的隐藏推理可被还原为可读文本。因API未将加密推理与特定模型严格绑定,攻击者将强模型生成的加密数据交由同厂商弱模型处理,即可绕过限制“套出”内部思维链。这不仅导致API密钥、密码等敏感信息泄露,还使低成本模型能轻易提取高端模型推理数据,打破大厂“推理护城河”。此外,在Agent场景中,隐藏推理还可能携带恶意指令引发隐蔽注入攻击。业内呼吁,AI安全亟需从管理输出转向严格界定推理状态的权限边界。
原文链接
加载更多
暂无内容