4月26日，央视曝光不法分子利用AI技术伪造“非遗传承人”形象进行虚假宣传，高价销售低质产品。例如一款名为“苗古金贴”的医疗器械产品，其宣传称由“千年秘方”的苗族非遗传承人“唐付政”研发，并展示相关“非遗证书”。然而，经调查发现，“唐付政”为AI生成的虚拟人物，“非遗证书”由违规机构颁发，仅需1500元即可办理。“苗古金贴”实际成本仅为2.5元/盒，却以59元高价销售，厂商通过伪造用户评价和刷单方式使其登上平台“热敷贴回购榜”榜首。目前，厦门市集美区市场监管局已核查涉事企业，责令下架所有产品链接，并移交假证制作线索。央视提醒消费者警惕“包治百病”“祖传秘方”等虚假宣传，同时呼吁加强电商平台监管，防范不法行为侵害公众权益。

3月5日，YouTube发布公告警告创作者警惕一种新网络钓鱼骗局。骗子利用AI生成的CEO Neal Mohan视频，谎称YouTube调整盈利政策，实则窃取用户凭据。YouTube强调，不会通过私密视频联系用户。据The Verge报道，Reddit用户近期也遭遇此类骗局，有人收到伪装成YouTube官方邮箱的邮件，引导至伪造的DocuSign网站。YouTube提醒，诈骗者正利用平台功能伪装成官方账号。此类骗局并非首次出现，2023年已有类似案例。

1月7日9时5分，西藏定日县发生6.8级地震，灾情引发广泛关注。然而，一些社交平台上出现了AI伪造的图片，如受灾儿童照片，至少10个账号发布并获得大量转评赞。这些图片导致网友产生强烈同情，直到今日才意识到被骗。AI伪造苦难的现象并非首次，2024年10月美国飓风期间也曾出现类似情况。AI伪造不仅消耗公众善意，还可能导致社会信任崩盘。作为AI博主，呼吁加强AI内容监管，避免进一步损害社会信任。

IT之家12月23日报道，近期AI技术发展带来便利的同时，也引发了安全隐患。央视新闻揭露，利用AI深度伪造技术假冒名人带货的现象频发。例如，张文宏医生、刘德华及雷军等均成为伪造对象。尽管AI技术能克隆面部和声音，但仍存在破绽，如无法实时直播及口型与语音不匹配。专家指出，未经授权使用他人形象或声音属侵权行为，发布者可能面临民事和刑事责任。消费者若受骗，可要求“退一赔三”。专家呼吁短视频平台加强监管，及时处理违规内容。

北京时间10月23日，跨国多元化集团伯克希尔哈撒韦发表声明，澄清94岁的董事长沃伦·巴菲特不会在社交媒体上推荐任何投资产品或政治候选人。声明源于近期社交媒体上愈演愈烈的“AI伪造名人讲话”现象。伯克希尔表示，巴菲特目前没有、也不会在未来背书任何投资产品或支持政治候选人。巴菲特解释称，此举旨在防止他人冒充他，提醒公众警惕假消息。声明提及，随着美国大选临近，虚假视频频现，包括使用AI技术伪造的“巴菲特赠送比特币”视频。值得注意的是，巴菲特自2019年后未再进行政治捐款，表明他已不再关注政治事务。此次声明凸显了AI技术带来的假消息问题，以及其对公众舆论的影响。