近日，日本北海道发生一起‘假偶像’诈骗案，一名50多岁女性被假冒人气偶像组合Snow Man成员目黑莲的骗子骗走约100万日元（约合人民币4.7万元）。今年5月，该女子通过社交平台被诱导添加假目黑莲的LINE账号，对方利用AI换脸技术及语音合成手段，营造出逼真的‘视频通话’场景，逐步诱使其购买Apple礼品卡并转账。直至第十次转账时，女子心生疑虑报警，骗局才被揭露。这不是日本首次发生此类事件，2024年8月也曾有人因假扮Hey!Say!JUMP成员山田凉介而行骗。这类骗局瞄准中老年群体的情感需求，利用明星光环制造信任感，最终导致受害者人财两空。专家提醒，追星需理性，切勿轻信网络诱惑，以免落入诈骗陷阱。

6月17日，谷歌发布《安全宪章》，宣布将在印度加大人工智能主导的欺诈检测和反诈骗技术研发力度。作为美国以外的最大市场，印度面临日益严重的数字欺诈问题。据印度政府数据，与UPI即时支付系统相关的欺诈金额去年同比激增85%，达110亿印度卢比（约1.27亿美元）。谷歌希望通过此举应对这一挑战，提升用户安全保障。

6月13日，工信部召开信息通信行业防范治理电信网络诈骗工作推进会。会议要求全行业从业务管理和技术防控两方面入手，重点整治虚拟运营商电话卡、中间号、短信端口等涉诈问题，堵塞管理漏洞。同时，加强反诈技术创新，提升新型诈骗手法的技术反制能力，并深化数据共享与能力联动，打好攻防对抗主动战。此外，还需通过强化反诈宣传，借助人工智能和大数据技术提高监测预警的精准度，营造全民参与的反诈氛围，持续推进群防群治持久战。

近日，《科创板日报》报道指出，利用AI技术合成视频的诈骗手段频发，尤其在抖音、小红书等社交平台，对用户财产安全构成威胁。典型案例包括山东东营的刘某因仿冒抖音客服被骗16.8万元，以及山东网友贾某因跨平台导流欺诈损失27.5万元。AI技术被用于模仿亲友诈骗、伪造公职人员证件及假冒明星代言等，手段隐蔽且逼真。对此，国家相关部门联合发布《人工智能生成合成内容标识办法》，要求自9月起AI生成内容须加标识。抖音和小红书正通过技术升级加强防控，日均封禁涉诈账号超8万，拦截异常投稿超400万条。专家呼吁平台间联动协作，共同打击AI诈骗产业链。

据美联社6月11日报道，美国高等教育系统正遭受助学金诈骗潮冲击。2024年，加州高校收到约120万份涉嫌造假的申请，确认虚假注册达22.3万起，损失助学金超1110万美元。犯罪团伙利用AI聊天机器人批量创建“幽灵学生”，骗取联邦、州及地方助学金。部分高校甚至出现整班无真实学生的现象。受害者包括旧金山居民海瑟·布雷迪，其身份被冒用申请贷款9000美元。为应对危机，美国教育部要求首次申请资助者出示政府身份证明，预计影响12.5万人。然而，业内担忧监管能力不足，联邦学生资助办公室和反欺诈调查部门人手大幅缩减。此类诈骗案已蔓延至得克萨斯州、纽约及南部多州，涉案金额巨大，受害者申诉耗时漫长。

近日，AI独角兽公司Builder.ai宣布破产并进入清算程序，这是自2022年ChatGPT发布以来，AI初创公司中规模最大的倒闭事件，其最高估值超15亿美元。调查显示，该公司实际上是一家“全是人工，没有智能”的假AI公司，后台并无真正的AI技术，而是雇佣一群印度人冒充AI写代码。从2016年成立...

5月23日消息，警惕‘AI换脸’技术被用于诈骗。不法分子利用该技术伪造明星或亲友形象实施骗局。AI换脸通过面部识别、特征提取及融合实现换脸效果，甚至可实时应用于视频通话。尽管技术成熟，但仍存破绽，如面部轮廓模糊等问题。专家建议，在收到视频借款请求时，务必多渠道核实身份，避免轻易转账；面对陌生人邀约入群或参会，需保持警惕，以免落入犯罪分子设下的圈套。

近日，美国联邦调查局（FBI）警告公众警惕升级的‘AI骗局’，不法分子正利用人工智能技术模仿美国高官的声音进行诈骗。自上月起，这些诈骗者通过短信和伪造的AI语音信息冒充高官，诱导目标点击恶意链接以获取账户访问权限。一旦成功入侵，他们可能进一步攻击官员及其关联人员。FBI提醒，若收到自称高官的消息，务必核实真实性。目前，此类诈骗主要针对现任或前任联邦及州政府官员及其联系人。此外，FBI指出，生成式AI还被用于更广泛的金融诈骗，如网络钓鱼和勒索。统计显示，2024年网络犯罪中，老年人受害最为严重，损失近50亿美元。此事件凸显AI技术滥用带来的新风险，需引起高度重视。

FBI警告，美国正出现一种新型AI骗局，黑客利用AI生成语音信息冒充美高级官员，主要针对政府官员及其联系人，意图获取个人数据。此类骗局自2025年4月起出现，形式为短信或语音信息，属于Visishing（基于Smishing的变体）。除了语音信息，诈骗者还可能发送恶意链接诱导访问账户。FBI提醒公众切勿轻信类似信息，并指出获取官员数据可能危及更多人。若存疑，应联系安全官员或FBI求助。此外，公众需留意号码、名称、网址等细节，以及语音信息的语气与措辞。据FBI数据，2024年网络犯罪中，网络钓鱼、勒索和个人数据泄露居前三位，老年群体损失近50亿美元。

5月10日消息，谷歌发布《打击搜索诈骗》报告，宣布在Chrome浏览器和搜索引擎中引入AI反诈系统。谷歌表示，其AI技术每日拦截数以亿计的诈骗性搜索结果，较三年前效率提升20倍。同时，Google Messages和Phone应用新增AI驱动的诈骗检测功能，可识别短信和通话内容中的潜在诈骗行为。在Chrome浏览器方面，桌面版引入Gemini Nano大语言模型，在设备端分析网页内容，快速识别诈骗意图并发送安全报告。该系统能有效应对新上线的未知诈骗网站。安卓用户访问可疑网站时，浏览器会弹出警告，提示谨慎操作，防止钓鱼诈骗。