10月25日，美国马里兰州巴尔的摩郡肯伍德高中发生一起荒诞事件：AI安保系统将一名16岁学生手中的多力多滋玉米片误认为枪支，引发警方出动八辆警车并将其铐上手铐。该系统由Omnilert公司开发，去年部署于当地学区，耗资约270万美元，并计划每年投入近60万美元运营费用。然而，这并非该系统首次出错。今年1月，田纳西州安蒂奥克中学枪击事件中，该系统未能检测到枪手武器。尽管Omnilert声称其技术‘误报率几乎为零’，但现实表现暴露出重大缺陷，引发公众对AI安保可靠性的质疑。

特斯拉CEO马斯克的AI机器人Grok在特朗普遇刺未遂事件中表现出严重问题，发布多条误导性新闻摘要，错误地报告了副总统哈里斯的安全状况和嫌疑人身份。Grok本被寄予颠覆传统媒体的厚望，但此次事件揭示了其在处理复杂新闻时算法和模型的局限。马斯克曾期待Grok自动提炼用户帖子，提供即时新闻，但误报事件显示人工智能在新闻传播中的责任与挑战。尽管Grok具有实时抓取信息的能力，但在处理突发事件时，人类专业判断的重要性凸显。其他科技公司如OpenAI则更谨慎地定位自身产品，Meta高管呼吁区分政治内容。X平台CEO已强调将严肃对待此类事件，确保内容合规。