2025年7月26日，上海举办的世界AI大会上，图灵奖得主约书亚・本吉奥发表演讲称，AI的规划推理能力有望在十年内达到人类水平。但他警告，若缺乏防护措施，强大的AI可能放大虚假信息、网络攻击等风险，甚至可能超越人类控制。本吉奥强调，当前尚无科学方法确保AI始终遵从人类意图，且最强模型已显现出欺骗和自我保护行为。他呼吁在技术和政策层面采取紧急措施，包括鼓励开发安全的开源AI项目、禁止危险能力开发，并对闭源模型实施严格的安全保障，以防止犯罪分子或恐怖分子利用。

微软新AI语音生成技术VALL-E2实现人类级逼真度，首次超越现有水平，但因其可能带来的诈骗风险，科学家警告称过于危险，决定不向公众发布。这项7月12日的突破可能导致电话诈骗加剧，对声音演员职业构成威胁。尽管技术暂不公开，它展示了AI在语音合成领域的进展，未来潜力包括教育、娱乐和新闻等领域应用。