近日，《科创板日报》报道指出，利用AI技术合成视频的诈骗手段频发，尤其在抖音、小红书等社交平台，对用户财产安全构成威胁。典型案例包括山东东营的刘某因仿冒抖音客服被骗16.8万元，以及山东网友贾某因跨平台导流欺诈损失27.5万元。AI技术被用于模仿亲友诈骗、伪造公职人员证件及假冒明星代言等，手段隐蔽且逼真。对此，国家相关部门联合发布《人工智能生成合成内容标识办法》，要求自9月起AI生成内容须加标识。抖音和小红书正通过技术升级加强防控，日均封禁涉诈账号超8万，拦截异常投稿超400万条。专家呼吁平台间联动协作，共同打击AI诈骗产业链。

据美联社6月11日报道，美国高等教育系统正遭受助学金诈骗潮冲击。2024年，加州高校收到约120万份涉嫌造假的申请，确认虚假注册达22.3万起，损失助学金超1110万美元。犯罪团伙利用AI聊天机器人批量创建“幽灵学生”，骗取联邦、州及地方助学金。部分高校甚至出现整班无真实学生的现象。受害者包括旧金山居民海瑟·布雷迪，其身份被冒用申请贷款9000美元。为应对危机，美国教育部要求首次申请资助者出示政府身份证明，预计影响12.5万人。然而，业内担忧监管能力不足，联邦学生资助办公室和反欺诈调查部门人手大幅缩减。此类诈骗案已蔓延至得克萨斯州、纽约及南部多州，涉案金额巨大，受害者申诉耗时漫长。

近日，美国联邦调查局（FBI）警告公众警惕升级的‘AI骗局’，不法分子正利用人工智能技术模仿美国高官的声音进行诈骗。自上月起，这些诈骗者通过短信和伪造的AI语音信息冒充高官，诱导目标点击恶意链接以获取账户访问权限。一旦成功入侵，他们可能进一步攻击官员及其关联人员。FBI提醒，若收到自称高官的消息，务必核实真实性。目前，此类诈骗主要针对现任或前任联邦及州政府官员及其联系人。此外，FBI指出，生成式AI还被用于更广泛的金融诈骗，如网络钓鱼和勒索。统计显示，2024年网络犯罪中，老年人受害最为严重，损失近50亿美元。此事件凸显AI技术滥用带来的新风险，需引起高度重视。

美国社区大学频现AI生成的“赛博学生”，通过ChatGPT等工具批量制造虚假学生身份，盗取联邦和州政府助学补贴，已导致数百万美元损失。洛杉矶海港学院和西洛杉矶学院一诈骗集团被查，窃取超110万美元；洛杉矶城市学院另一案件涉100万美元。这些AI生成的学生伪装成无家可归或寄养青年，课堂表现“完美”，但漏洞逐渐显现，如不合常理的回答或无法参与视频交流。校方为此支付高额费用应对，加州2023年申请者中25%为机器人。AI诈骗已渗透多领域，从名人到普通民众均受影响，形成“生成-传播-洗钱”完整产业链。两会代表呼吁加强法律监管。

4月17日，微软发布《网络安全信号报告》，揭示AI如何让网络诈骗更易实施。报告指出，威胁者利用深度伪造、声音克隆等技术，结合虚假员工档案和电商网站，加大欺骗力度。AI降低了犯罪门槛，使生成逼真内容成本更低、速度更快。例如，攻击者用AI扫描公司信息，伪造详细档案进行社会工程攻击，并借助假AI评论和虚假品牌误导受害者。微软建议：加强雇主身份验证，启用多因素认证；监测AI招聘诈骗，识别异常的AI生成内容；警惕完美伪装的信息和网站，检查HTTPS链接；避免向未验证来源提供敏感信息。此外，微软自家工具如Edge的拼写保护和数字指纹识别也能提升防护能力。

2月26日，刘先生通过短视频平台结识了自称‘焦女士’的网友，并与其发展成恋人关系。两个月后，刘先生发现这位‘焦女士’竟是诈骗团伙利用AI生成的虚拟人物，涉及金额超200万元。提醒公众加强个人信息安全保护，注意防范AI诈骗。避免访问不明网站，不下载未知应用，管理好生物特征数据及设备安全。面对可疑情况，多渠道确认对方身份。

近日，意大利多名富商成为AI诈骗受害者。其中包括国际米兰前主席马西莫·莫拉蒂，他转账了100万欧元。诈骗分子利用AI技术模仿意大利防长圭多·克罗塞托及其工作人员声音，要求富商们为解救被绑架的意大利公民垫款。受害者还包括奢侈品集团普拉达联合CEO帕特里齐奥·贝尔泰利、时装设计师乔治·阿玛尼及倍耐力执行副主席马可·特隆凯蒂·普罗维拉。意大利防长已要求警方和司法部门调查此事。此次事件凸显了AI技术被用于犯罪的风险，如何引导AI发展、减少犯罪风险成为关注焦点。

刘星辰是东北某市的一名警察，他发现利用AI技术进行犯罪的案件已影响普通民众生活，尤其在小城市和县城更为常见。AI诈骗主要针对空巢老人，骗子通过伪造视频或假冒身份进行诈骗。一次，一位老人因“孩子”急需用钱而急于汇款，银行职员发现视频中人脸异常，确认为AI换脸后阻止了诈骗。 此外，AI技术也被用于面部识别诈骗。一名老板手机丢失后，犯罪分子利用AI制作视频，通过人脸识别盗取资金。尽管这类犯罪较复杂，警方仍可通过监控和线索锁定嫌疑人。人脸识别和虹膜识别存在风险，但当前应用尚有限。 AI技术还被用于合成色情影像勒索，犯罪分子利用AI技术伪造视频，威胁受害人支付赎金。尽管技术门槛高，AI仍可能扩大犯罪范围。未来，AI可能取代犯罪集团中的顾问角色，进行更复杂的合同诈骗。因此，防范AI参与的新型犯罪手法已成为警方重点。

1月30日，《福布斯》报道，谷歌警告全球25亿Gmail用户警惕AI发起的新型诈骗。攻击者利用AI技术模拟真人语音，伪装成Google客服，使用带有Google来电显示的号码联系受害者，谎称账户被盗并封锁，制造恐慌情绪。攻击者提供可在google.com查询的电话号码，发送伪造的确认邮件，并诱导受害者通过Google验证码重置密码，从而窃取账户信息。Hack Club创始人Zach Latta和创业孵化器Y Combinator创始人Garry Tan均提醒公众警惕此类诈骗。微软顾问Sam Mitrovic也遭遇类似骗局，幸而及时发现。IT之家建议用户开启‘高级保护’功能，以增加账户安全性。

53岁的法国室内设计师安妮于2023年2月因下载Instagram后被假冒布拉德·皮特的诈骗团伙骗走83万欧元（约627.5万人民币）。诈骗者利用AI生成的照片和视频，以皮特需要帮助和生病为由骗取钱财。安妮甚至在2024年6月前未识破骗局。安妮曾获得77.5万欧元的财产分割，最终被骗光。骗局曝光后，她在社交媒体上受到嘲笑和网络骚扰，甚至三次尝试自杀。安妮呼吁找到这些骗子，并批评媒体忽略她的怀疑细节。