10月10日，谷歌前CEO埃里克·施密特警告称，AI模型极易被黑客利用，存在重大安全隐患。他指出，无论是封闭还是开源的AI模型，都可能被攻击者通过移除安全防护或逆向工程滥用，甚至可能学会危险技能。常见攻击方式包括提示注入和越狱，用以操控AI生成受限内容或泄露数据。施密特强调，目前尚无完善的非扩散机制来控制相关风险。尽管如此，他对AI持乐观态度，认为其价值被低估，并预测未来五到十年将证明AI能力远超人类想象。他还提到GPT系列推动的ChatGPT热潮，仅两个月便吸引一亿用户，展现了AI的巨大潜力。

2025世界人工智能大会今日开幕，谷歌前CEO施密特在会上表示，中国领先的AI模型多为开源且开放权重，而美国则相反。他赞赏中国AI近两年取得的成就，并呼吁中美加强合作，共同维护全球稳定与AI可控性。施密特强调，各国需在关键技术节点展开对话，如AI自主决策、自我复制等场景，避免技术失控。他认为，尽管未来发展红线尚不明朗，但通过国际合作可引导AI向更深度推理和先进算法迈进。他还表达了对中美逐步建立信任的乐观态度，称历史上曾实现过，未来亦可期。