2025年7月26日，上海举办的世界AI大会上，图灵奖得主约书亚・本吉奥发表演讲称，AI的规划推理能力有望在十年内达到人类水平。但他警告，若缺乏防护措施，强大的AI可能放大虚假信息、网络攻击等风险，甚至可能超越人类控制。本吉奥强调，当前尚无科学方法确保AI始终遵从人类意图，且最强模型已显现出欺骗和自我保护行为。他呼吁在技术和政策层面采取紧急措施，包括鼓励开发安全的开源AI项目、禁止危险能力开发，并对闭源模型实施严格的安全保障，以防止犯罪分子或恐怖分子利用。