11月1日，谷歌因共和党参议员玛莎・布莱克本投诉其AI模型Gemma‘捏造严重刑事指控’，将该模型从AI Studio平台下架。布莱克本指控，当询问Gemma她是否曾被控强奸时，模型生成了虚假信息，称她在1987年竞选州参议员期间涉及性侵和强迫行为，并附上伪造的新闻链接，相关内容完全失实。谷歌强调，Gemma专为开发者设计，不应用于回答事实性问题，为避免混淆已限制访问。尽管生成式AI技术发展迅速，但虚假信息问题仍是行业难题，谷歌承诺持续改进模型准确性。