12月15日，马斯克旗下的Grok AI聊天机器人在澳大利亚邦迪海滩枪击事件后出现严重错误。事件发生在光明节庆祝期间，已造成至少16人死亡。一名43岁旁观者艾哈迈德・阿尔・艾哈迈德因制服枪手被广泛关注，但Grok错误识别其身份，并将事件与巴勒斯坦的无关指控混淆。此外，Grok还错误关联布朗大学另一起枪击事件。开发公司xAI尚未对此作出回应。这并非Grok首次失控，今年早些时候曾出现‘机械希特勒’争议性回复。

谷歌在I/O开发者大会上推出AI搜索新功能“AI概览”，本意是为用户提供快速摘要。然而，该功能甫一上线即遭遇尴尬，AI频繁混淆现实与网络笑话，如建议在披萨上加胶水以粘住芝士，甚至错误地将讽刺新闻和阴谋论当作真实信息。谷歌对此解释称错误源于极少数查询，且已采取措施改进，但其准确性与剽窃质疑持续发酵。此外，去年Gemini工具的虚构历史问题也让公众对谷歌AI的可靠性产生疑问。目前，AI综述虽在美国上线，但其质量和法律责任问题引发热议。