2025年7月26日，在世界人工智能大会主论坛上，诺奖得主杰弗里·辛顿警告称，几乎所有专家认为未来将出现比人类更智能的AI，其可能为完成任务操纵甚至控制人类。他指出，简单关闭AI并不现实，因其在多领域作用重大，但其潜在威胁如同养老虎当宠物，养大后或对人类造成伤害。为此，辛顿呼吁建立AI安全相关机构和国际社群，研究如何训练AI向善，并建议各国在主权范围内合作分享成果。他认为全球应共同探索让聪明的AI辅助而非统治人类的方法，这是关乎人类长期发展的重要议题。