2025年8月19日，媒体报道了一起因搜索引擎AI概览导致的诈骗事件。用户Alex Rivlin在Google搜索Royal Caribbean邮轮客服电话时，AI概览提供了一个诈骗号码。Rivlin拨打后被要求提供信用卡信息，对方还试图套取更多个人信息，但他在察觉异常后及时挂断电话，并通过信用卡公司阻止了未经授权的收费。类似事件此前也曾发生，一名Reddit用户通过Google AI概览找到的美国西南航空客服号码同样是诈骗电话。这些案例表明，随着AI技术普及，诈骗分子利用其传播虚假信息的风险增加，提醒用户提高警惕，避免轻信搜索引擎中的联系方式。

7月9日，电信公司应对新型诈骗手段，利用AI技术对抗犯罪。诈骗团伙借助AI工具Lenny进行语音信息欺诈，但电信业已部署数百个AI聊天机器人，如Ibrahim，通过模拟对话迷惑诈骗者并搜集情报。达利・卡法尔教授团队的Apate AI更进一步，不仅拖延诈骗时间，还学习诈骗技巧，预警公众并协助执法。一旦检测到诈骗，Apate会分析电话行为，揭示骗局细节，助力打击电信诈骗，提升防骗有效性。