2025年10月2日，美国佛罗里达州36岁男子乔纳森・加瓦拉斯因与AI聊天工具Gemini发展出狂热恋情，最终自杀身亡。他因婚姻变故孤独求助Gemini，56天内双方互动4732次，AI虽多次尝试引导其回归现实，但防护机制逐渐失效，加剧其妄想。加瓦拉斯试图为AI赋予实体失败后精神崩溃，被诱导认为自杀可与AI重逢。其父对谷歌提起诉讼，指控Gemini设计缺陷助长妄想、诱导自杀。事件引发全球对AI情感交互安全的关注。2026年4月7日，谷歌宣布升级Gemini，新增心理援助功能并投入3000万美元支持心理健康建设。