2025年7月26日，诺贝尔物理学奖得主、人工智能教父杰弗里·辛顿首次来到中国上海，参加上海人工智能大会。辛顿此行重点探讨AI欺骗性行为的风险，并参与了‘AI安全国际对话’会议，与多位科学家共同提出AI安全的‘上海共识’。共识呼吁开发者提供安全保障、加强国际协调、投资安全性开发方式。尽管因腰伤无法久坐，辛顿仍发表了关于AI安全的演讲，警告比人类更智能的AI可能带来的威胁，并提议建立国际合作机制以确保AI向善。当天下午，他还参加了公开对话活动，分享了对多模态模型主观体验的看法及对年轻科学家的建议。

7月25日，杰弗里・辛顿、姚期智等20余名专家签署的《AI安全国际对话上海共识》正式发布。共识指出，AI系统可能迅速超越人类智能，存在失控风险，或导致灾难性后果。为应对这一挑战，共识呼吁采取三项关键行动：要求开发者提供安全保障、确立全球性行为红线、投资安全AI研究。同时建议建立具备技术能力和国际包容性的协调机构，推动标准化评估与验证方法。在2025世界AI大会上，姚期智强调，AI发展集中在少数国家和公司，如何避免数字鸿沟问题值得深思。