2023年初，Arup香港分公司一名员工收到一封邀请参会的邮件，进入会议后，他看到包括CFO在内的多位高管视频通话，讨论秘密收购事宜。随后，领导指示他将2亿港元分多次转入指定账户。五天后，他才意识到被骗。

警方调查发现，诈骗分子利用高管的音视频信息，通过Deepfake技术制作“虚拟人”，预录会议视频实施诈骗。这可能是史上最大规模的AI诈骗案。AI技术的发展使网络诈骗手段升级，从“尼日利亚王子”骗局到如今的Deepfake技术，诈骗手段愈发隐蔽。

1994年，尼日利亚诈骗邮件开启先河。随着电子商务兴起，信用卡诈骗和钓鱼网站泛滥。2003年，AOL网络钓鱼事件影响巨大。2017年，“WannaCry”勒索软件造成重大损失。社交网络兴起后，“杀猪盘”等新型诈骗频发。

AI技术进步使诈骗更高效、低成本。多模态攻击结合语音合成、图像处理等技术，使诈骗更具迷惑性。AI诈骗目标转向企业和政府机构，带来更大风险。2024年，OKX交易所遭AI诈骗团伙攻击，损失1100万美元。

生成式AI欺诈损失预计2027年达400亿美元。AI在“诈骗脚本编写”中表现突出，但仍可通过技术手段防范。中国上线国家反诈中心App，成功阻止大量诈骗。未来需多方努力，提升数字素养，加强法律监管和技术合作，共同防范AI诈骗。