2025年11月24日，韩国警方发出警告，随着AI技术发展，深度伪造视频和音频增多，婚恋诈骗案件呈上升趋势且手段更加隐蔽。据《中央日报》报道，2024年2月至2025年7月，韩国警方接到2428起婚恋诈骗报案，财务损失达1380亿韩元（约合6.7亿元人民币），较前一年同期报案数增长34.7%，损失额增加30.2%。警方呼吁民众提高警惕，谨防受骗。（财联社、新华社）

11月18日，AI技术被曝沦为‘羊毛党’骗赔工具，电商商家频遭‘AI伪造损坏图骗退款’事件。双11后此类纠纷集中爆发，部分买家通过伪造商品瑕疵图片（如水果霉斑、衣物脱线等）申请‘仅退款’。有陶瓷店主收到疑似AI生成的裂纹图，检测显示92%概率为AI生成，甚至有买家未处理AI水印。更有人收费教授伪造技巧。律师警告，该行为涉嫌诈骗，违反《民法典》诚实信用原则及《消费者权益保护法》，属民事欺诈，提醒消费者勿以身试法。

9月18日，DeepSeek发布声明称，近期有不法分子冒充“深度求索”（DeepSeek）名义，通过伪造材料在多个平台以“算力租赁”、“股权融资”等名目向用户收费实施诈骗。公司强调从未要求用户向个人或非官方账户付款，任何私下转账均为诈骗行为，并提醒用户通过官网及认证渠道获取信息，官网和App产品目前免费，API服务需通过官网充值。如遇可疑情况，请联系官方邮箱service@deepseek.com或向公安机关举报。

近日，AI独角兽公司Builder.ai宣布破产并进入清算程序，这是自2022年ChatGPT发布以来，AI初创公司中规模最大的倒闭事件，其最高估值超15亿美元。调查显示，该公司实际上是一家“全是人工，没有智能”的假AI公司，后台并无真正的AI技术，而是雇佣一群印度人冒充AI写代码。从2016年成立...

5月23日消息，警惕‘AI换脸’技术被用于诈骗。不法分子利用该技术伪造明星或亲友形象实施骗局。AI换脸通过面部识别、特征提取及融合实现换脸效果，甚至可实时应用于视频通话。尽管技术成熟，但仍存破绽，如面部轮廓模糊等问题。专家建议，在收到视频借款请求时，务必多渠道核实身份，避免轻易转账；面对陌生人邀约入群或参会，需保持警惕，以免落入犯罪分子设下的圈套。

近年来，AI速成班、理财课等精准广告瞄准中老年人，利用其渴望学习新技术的心理进行推销。曾佳的母亲报名了一门AI课程，花费980元，声称7天入门、月入过万，但课程内容简单且效果因人而异。此类课程通过夸大宣传和情感营销吸引老年人，甚至诱导其转发虚假成功案例。据黑猫投诉显示，与“AI课程”相关的投诉已超4062条，主要涉及虚假宣传等问题。一家名为“祥风启航教育”的机构备受关注，其课程内容多为重复和无关内容，且师资履历多为包装。尽管部分老年大学已尝试推出适老化课程，但仍难敌市场乱象。AI培训行业需注重内容质量和情感关怀，而非单纯逐利。

2024年国庆期间，AI配音雷军刷屏网络，引发关注。AI换脸技术门槛低至9.9元，犯罪频率逐年升高。去年，香港一跨国公司员工因AI换脸诈骗损失2亿港元；今年初，银川一经理被骗20万元，天津一市民被骗95万元。AI技术滥用形成专业化犯罪链，但现有技术仍有微表情缺失等局限。法律层面，杭州互联网法院审理的虞某案显示，赔偿与牟利不成比例致犯罪动机增强。平台责任亦受质疑，短视频平台充斥虚假AI内容，老年用户易受影响。《人工智能生成合成内容标识办法》要求标注AI生成内容，但执行力度待加强。AI谣言如近期微博上的周杰伦赌债传闻，需平台主动干预。AI换脸技术发展迅速，社会对其规范需求紧迫。

新加坡总理黄循财透露，网络上出现大量其本人的深度伪造视频（Deepfake），被用于推广加密货币、赚钱计划及永久居留申请服务等诈骗活动。黄循财在社交媒体上提醒公众警惕并避免受骗。近年来，新加坡金融诈骗和网络犯罪案件呈上升趋势。2024年，诈骗受害者损失金额达11亿新元（约59.82亿人民币），案件数量同比增长近11%。新加坡政府正考虑将鞭刑作为某些诈骗相关犯罪的惩罚手段，并已加强立法和教育宣传。

3月6日，全国政协委员靳东回应AI换脸诈骗问题，称喜爱他的观众被骗得很惨，性质恶劣，呼吁建立更好规则。AI换脸诈骗利用人们习惯通过脸确认身份的特点，通过逼真合成图像实施诈骗。识别方法包括要求对方在视频中挥手以观察面部数据变化。专家建议加强个人信息安全防护，保护人脸、声纹、指纹等生物特征数据，并注意手机、电脑安全及避免访问不明网站。

据印尼当地媒体报道，自去年10月印尼总统普拉博沃宣誓就职以来，该国出现了多起利用DeepFake技术伪造视频进行诈骗的案件。至少22个虚假账号冒充普拉博沃，以提供援助为名，诱使民众转账25万至100万印尼盾（约合人民币109.75元至438.99元）作为‘行政费’。这些虚假账号通过社交媒体行骗，其中一账号拥有7.7万名追随者，1月以来上传了100个伪造视频。目前，部分账号已被关停。