2026年5月26日，央视新闻曝光互联网广告乱象，涉及虚假宣传和AI伪造专家带货等问题。山东省市场监管部门查处一起直播间违规销售所谓“医用级”洗脸巾案件，主播以“无添加剂、防腐剂”为卖点吸引消费者，但该产品未达相关标准且未经广告审查备案，违反《广告法》。此外，广东省查处一起利用AI仿冒名人推销压片糖果的案件，视频中“温铁军”形象及声音均由AI合成，涉案企业未经授权构成虚假广告。这些乱象误导消费者，监管部门提醒公众警惕类似陷阱。

5月13日，美国佛罗里达州一名母亲埃里卡·安德森遭遇AI伪造视频通话骗局。她接到显示为女儿号码的来电，屏幕中‘女儿’称身体不适请求开门，但监控显示门前无人。经核实，其女儿正在考场，手机被锁在储物柜中。调查显示，这是一名青少年用AI软件生成假画面和音频恶作剧，该技术仅需3秒音频即可生成高度相似的声音复制品。安德森事后采取防范措施，包括与家人约定密码词、升级门禁系统等。警方建议用户接到可疑通话时挂断并回拨核实，同时留意视频破绽。专家推荐家庭成员间使用密码词核验身份，作为低成本防线。

2025年12月3日，库洛旗下游戏《鸣潮》在海外遭遇舆论风波。一名国外网友通过AI工具重绘游戏新角色“莫宁”的官方立绘，并上传至AI检测网站，声称其“89%可能为AI生成”，暗示官方使用AI作画。此帖引发广泛争议，但细看发现伪造图与官方原画存在明显差异，如角色单眼被头发遮挡的部分变为双眼可见，瞳孔颜色也不同。X平台已标注该图片为“AI生成的伪造内容”。玩家纷纷谴责这种恶意诋毁行为，称其手段恶劣。此次事件凸显全球化运营中跨境恶意信息战的新挑战。

11月18日，AI技术被曝沦为‘羊毛党’骗赔工具，电商商家频遭‘AI伪造损坏图骗退款’事件。双11后此类纠纷集中爆发，部分买家通过伪造商品瑕疵图片（如水果霉斑、衣物脱线等）申请‘仅退款’。有陶瓷店主收到疑似AI生成的裂纹图，检测显示92%概率为AI生成，甚至有买家未处理AI水印。更有人收费教授伪造技巧。律师警告，该行为涉嫌诈骗，违反《民法典》诚实信用原则及《消费者权益保护法》，属民事欺诈，提醒消费者勿以身试法。

11月6日，伯克希尔-哈撒韦公司紧急声明，澄清优兔上传播的几段巴菲特评论视频为AI伪造，并非本人录制。声明指出，这些欺诈性视频图像虽似巴菲特，但声音单调，明显不符。巴菲特担忧此类虚假视频如病毒般蔓延。自5月股东大会以来，他鲜少公开发言。此次事件凸显AI技术滥用风险。（央视财经）

10月29日，NVIDIA GTC大会主题演讲当天，YouTube上出现一个利用AI深度伪造技术假冒黄仁勋的直播骗局。该视频宣传加密货币诈骗活动，并因平台算法推荐登上搜索榜首，观看量峰值达95000人，是官方直播的近5倍（官方仅约12000人）。假直播中，“黄仁勋”声称推迟演讲以推广与英伟达使命相关的‘加密货币普及计划’，并谎称NVIDIA GPU支持比特币挖矿。此事件引发广泛关注，凸显了AI伪造内容和平台算法漏洞带来的风险。

4月26日，央视曝光不法分子利用AI技术伪造“非遗传承人”形象进行虚假宣传，高价销售低质产品。例如一款名为“苗古金贴”的医疗器械产品，其宣传称由“千年秘方”的苗族非遗传承人“唐付政”研发，并展示相关“非遗证书”。然而，经调查发现，“唐付政”为AI生成的虚拟人物，“非遗证书”由违规机构颁发，仅需1500元即可办理。“苗古金贴”实际成本仅为2.5元/盒，却以59元高价销售，厂商通过伪造用户评价和刷单方式使其登上平台“热敷贴回购榜”榜首。目前，厦门市集美区市场监管局已核查涉事企业，责令下架所有产品链接，并移交假证制作线索。央视提醒消费者警惕“包治百病”“祖传秘方”等虚假宣传，同时呼吁加强电商平台监管，防范不法行为侵害公众权益。

3月5日，YouTube发布公告警告创作者警惕一种新网络钓鱼骗局。骗子利用AI生成的CEO Neal Mohan视频，谎称YouTube调整盈利政策，实则窃取用户凭据。YouTube强调，不会通过私密视频联系用户。据The Verge报道，Reddit用户近期也遭遇此类骗局，有人收到伪装成YouTube官方邮箱的邮件，引导至伪造的DocuSign网站。YouTube提醒，诈骗者正利用平台功能伪装成官方账号。此类骗局并非首次出现，2023年已有类似案例。

1月7日9时5分，西藏定日县发生6.8级地震，灾情引发广泛关注。然而，一些社交平台上出现了AI伪造的图片，如受灾儿童照片，至少10个账号发布并获得大量转评赞。这些图片导致网友产生强烈同情，直到今日才意识到被骗。AI伪造苦难的现象并非首次，2024年10月美国飓风期间也曾出现类似情况。AI伪造不仅消耗公众善意，还可能导致社会信任崩盘。作为AI博主，呼吁加强AI内容监管，避免进一步损害社会信任。

IT之家12月23日报道，近期AI技术发展带来便利的同时，也引发了安全隐患。央视新闻揭露，利用AI深度伪造技术假冒名人带货的现象频发。例如，张文宏医生、刘德华及雷军等均成为伪造对象。尽管AI技术能克隆面部和声音，但仍存在破绽，如无法实时直播及口型与语音不匹配。专家指出，未经授权使用他人形象或声音属侵权行为，发布者可能面临民事和刑事责任。消费者若受骗，可要求“退一赔三”。专家呼吁短视频平台加强监管，及时处理违规内容。