7月25日，杰弗里・辛顿、姚期智等20余名专家签署的《AI安全国际对话上海共识》正式发布。共识指出，AI系统可能迅速超越人类智能，存在失控风险，或导致灾难性后果。为应对这一挑战，共识呼吁采取三项关键行动：要求开发者提供安全保障、确立全球性行为红线、投资安全AI研究。同时建议建立具备技术能力和国际包容性的协调机构，推动标准化评估与验证方法。在2025世界AI大会上，姚期智强调，AI发展集中在少数国家和公司，如何避免数字鸿沟问题值得深思。