12月25日，一项发表在《皇家学会开放科学》的研究显示，只需约5分钟针对性训练，人们识别AI伪造人脸的能力显著提高。研究由利兹大学等多所高校团队完成，664名参与者测试发现，未训练时‘超级识脸者’识别假脸成功率为41%，普通人仅31%；训练后，两者分别提升至64%和51%。研究人员指出，AI生成的人脸常在牙齿、发际线等细节暴露问题。利兹大学Eilidh Noyes博士强调，随着AI图像更难察觉，开发有效识别方法至关重要。雷丁大学Katie Gray博士警告，AI伪造人脸已被用于虚假社交账号及身份验证绕过，带来安全风险。研究团队计划进一步评估训练效果的长期性及与自动化检测工具的结合可能。

12月9日，美国FBI发布警告称，不法分子正利用AI技术生成深度伪造视频，模拟人质场景实施绑架勒索诈骗。犯罪分子通过搜集目标家庭成员的社交媒体照片和视频，使用生成式AI工具制作逼真假视频，向家属施压索要赎金。FBI指出，这类伪造内容可能因身体比例失真或面部异常露出破绽，但仍难以快速辨别。犯罪分子还常使用定时销毁通信工具发送信息，压缩核查时间。FBI建议公众限制分享个人信息、加强社交媒体隐私设置，并在收到赎金要求时，通过可靠渠道核实被绑架者安全状况后再行动。

2025年12月3日，库洛旗下游戏《鸣潮》在海外遭遇舆论风波。一名国外网友通过AI工具重绘游戏新角色“莫宁”的官方立绘，并上传至AI检测网站，声称其“89%可能为AI生成”，暗示官方使用AI作画。此帖引发广泛争议，但细看发现伪造图与官方原画存在明显差异，如角色单眼被头发遮挡的部分变为双眼可见，瞳孔颜色也不同。X平台已标注该图片为“AI生成的伪造内容”。玩家纷纷谴责这种恶意诋毁行为，称其手段恶劣。此次事件凸显全球化运营中跨境恶意信息战的新挑战。

11月18日，AI技术被曝沦为‘羊毛党’骗赔工具，电商商家频遭‘AI伪造损坏图骗退款’事件。双11后此类纠纷集中爆发，部分买家通过伪造商品瑕疵图片（如水果霉斑、衣物脱线等）申请‘仅退款’。有陶瓷店主收到疑似AI生成的裂纹图，检测显示92%概率为AI生成，甚至有买家未处理AI水印。更有人收费教授伪造技巧。律师警告，该行为涉嫌诈骗，违反《民法典》诚实信用原则及《消费者权益保护法》，属民事欺诈，提醒消费者勿以身试法。

11月6日，伯克希尔-哈撒韦公司紧急声明，澄清优兔上传播的几段巴菲特评论视频为AI伪造，并非本人录制。声明指出，这些欺诈性视频图像虽似巴菲特，但声音单调，明显不符。巴菲特担忧此类虚假视频如病毒般蔓延。自5月股东大会以来，他鲜少公开发言。此次事件凸显AI技术滥用风险。（央视财经）

10月29日，NVIDIA GTC大会主题演讲当天，YouTube上出现一个利用AI深度伪造技术假冒黄仁勋的直播骗局。该视频宣传加密货币诈骗活动，并因平台算法推荐登上搜索榜首，观看量峰值达95000人，是官方直播的近5倍（官方仅约12000人）。假直播中，“黄仁勋”声称推迟演讲以推广与英伟达使命相关的‘加密货币普及计划’，并谎称NVIDIA GPU支持比特币挖矿。此事件引发广泛关注，凸显了AI伪造内容和平台算法漏洞带来的风险。

随着AI技术发展，欧美企业正面临员工利用AI伪造报销单据的难题。费用管理平台数据显示，9月欺诈性文件中AI伪造收据比例达14%，而去年为零。金融科技集团Ramp称其软件90天内识别出超百万美元欺诈发票。Medius调查显示，自OpenAI推出GPT-4o后，英美地区伪造收据现象显著增加。SAP Concur高级副总裁警告，伪造收据逼真度极高，肉眼难以辨别。专家指出，免费图像生成工具让伪造变得简单，违法门槛大幅降低。为应对这一问题，企业开始采用AI识别假单据，通过扫描元数据和分析上下文信息进行核查。SAP调研显示，近70%的CFO认为员工正利用AI伪造收据，其中10%确认公司已发生此类事件。

4月26日，央视曝光不法分子利用AI技术伪造“非遗传承人”形象进行虚假宣传，高价销售低质产品。例如一款名为“苗古金贴”的医疗器械产品，其宣传称由“千年秘方”的苗族非遗传承人“唐付政”研发，并展示相关“非遗证书”。然而，经调查发现，“唐付政”为AI生成的虚拟人物，“非遗证书”由违规机构颁发，仅需1500元即可办理。“苗古金贴”实际成本仅为2.5元/盒，却以59元高价销售，厂商通过伪造用户评价和刷单方式使其登上平台“热敷贴回购榜”榜首。目前，厦门市集美区市场监管局已核查涉事企业，责令下架所有产品链接，并移交假证制作线索。央视提醒消费者警惕“包治百病”“祖传秘方”等虚假宣传，同时呼吁加强电商平台监管，防范不法行为侵害公众权益。

3月5日，YouTube发布公告警告创作者警惕一种新网络钓鱼骗局。骗子利用AI生成的CEO Neal Mohan视频，谎称YouTube调整盈利政策，实则窃取用户凭据。YouTube强调，不会通过私密视频联系用户。据The Verge报道，Reddit用户近期也遭遇此类骗局，有人收到伪装成YouTube官方邮箱的邮件，引导至伪造的DocuSign网站。YouTube提醒，诈骗者正利用平台功能伪装成官方账号。此类骗局并非首次出现，2023年已有类似案例。

1月7日9时5分，西藏定日县发生6.8级地震，灾情引发广泛关注。然而，一些社交平台上出现了AI伪造的图片，如受灾儿童照片，至少10个账号发布并获得大量转评赞。这些图片导致网友产生强烈同情，直到今日才意识到被骗。AI伪造苦难的现象并非首次，2024年10月美国飓风期间也曾出现类似情况。AI伪造不仅消耗公众善意，还可能导致社会信任崩盘。作为AI博主，呼吁加强AI内容监管，避免进一步损害社会信任。