2025年7月，Reddit因AI生成垃圾帖泛滥与广告商利用GEO（生成式引擎优化）操控AI推荐而引发关注。Reddit此前将用户数据出售给谷歌，导致广告商通过AI灌水宣传产品，进一步推动了GEO技术的兴起。GEO被视为SEO（搜索引擎优化）的进化版，可显著提升品牌在AI推荐中的排名。例如，某披萨店通过GEO优化后跃居纽约必吃榜首位，某补水面膜品牌也借此登上推荐榜第二名。部分公司如Bacula通过高质量内容结合权威案例成功优化AI推荐，但也有广告商滥用AI生成内容传播垃圾信息。这种现象使互联网充斥着营销噪音，用户获取真实客观信息变得愈加困难。

YouTube将于7月15日更新政策，打击通过AI批量生成低质内容牟利的行为。新政策将明确YouTube合作伙伴计划（YPP）的变现规则，重点限制非原创、批量生产的视频及其他重复性内容的收益能力。平台强调，这类内容多年来一直不符合变现标准，但随着生成式AI工具普及，AI垃圾内容激增，包括虚假新闻视频和AI配音片段。尽管官方称此次调整为‘小幅更新’，业内认为此举旨在保护平台声誉，并为清理违规创作者提供依据。部分创作者担忧影响变现能力，但YouTube表示不会对合规内容造成影响。

6月8日消息，英国英格兰和威尔士高等法院警告律师不得滥用AI技术。法官维多利亚·夏普指出，AI工具如ChatGPT生成的回答可能错误且充满虚假信息，强调律师在引用前需核实准确性。近期案例中，多名律师因引用不存在的案件被调查，其中一起案件涉及45条引证，竟有18条虚假。尽管未启动藐视法庭程序，但夏普法官明确表示，违反职业义务的律师可能面临严厉制裁，包括公开训诫、罚款及移交警方。此裁决已发送至律师公会及相关机构。

IT之家5月31日报道，谷歌上周发布的Veo 3生成式AI模型迅速走红，用户可快速生成高度真实的8秒短片，涵盖多种内容。随之兴起一种新趋势：真人“伪装”成AI生成内容吸引关注。例如，乐队Kongos将9年前的老歌包装为Veo 3生成的作品，音乐人Darden Bela和说唱歌手GameBoi Pat也通过标注Veo标签吸引流量。此外，“提示词理论”在TikTok流行，用户制作段子模拟AI角色或行为。TikTok上还出现了真假测试视频，让用户分辨AI生成与真实拍摄内容。尽管Veo视频有识别特征，但分辨难度已显著提高。专家认为，这种“真假模糊”趋势是生成式AI广泛应用的结果。

5月21日，全国首批生成式人工智能生成内容侵权责任保险在无锡落地。人保财险无锡市分公司与无锡雪浪数制科技有限公司达成合作，为后者自主研发的雪浪工业大模型提供70万元的风险保障。这是江苏首个针对工业大模型生成内容的专属保险，旨在应对AI在训练和生成内容时可能涉及的知识产权侵权风险，包括数据合法性争议及侵犯第三方著作权、肖像权、名誉权等问题。此保险的推出体现了对AI技术发展过程中潜在法律风险的关注，具有创新性和实践意义。

5月18日，《芝加哥太阳报》夏季活动指南中出现大量AI生成的虚假内容，包括虚构书籍和不存在的人物。例如，推荐的韩国作家Lee Min-Jin的《夜影市场》及芝加哥作家丽贝卡・马凯的《沸点》均为杜撰作品。此外，专栏中引用的多位“专家”和机构也查无出处。该报承认内容来自一家全国合作媒体，但未尽审核义务。高级总监Victor Lim表示深感歉意，并承诺修订政策确保内容质量。署名作者Marco Buscaglia承认未充分核实来源，称这是个人失误。目前，涉事内容已被从电子版中移除。

近日，小红书上爆火的‘伪人感’AI老奶奶账号引发关注。这些账号通过AI生成虚假老奶奶形象，配上鸡汤语录，吸引了大量用户倾诉生活困扰尽管尽管‘伪人感’明显，评论区仍充满真情实感，甚至有人将其视为情感树洞。据调查，此类账号大多采用批量复制模式，仅需10分钟即可生成，部分账号通过售卖课程、带货等方式盈利，但真实收益有限，主要依靠收徒获利。小红书已开始打击此类低质量AI内容，部分账号被限流或查封。专家指出，这种模式利用人性弱点，迎合低能量人群的需求，但其可持续性存疑。此现象AIAI低成本内容泛滥的问题，未来可能更多类似内容涌现。

标题：他们正在用AI疯狂给互联网“下毒” 正文： 先看一张图，这是AI生成视频的封面。如果你仅看这些图片就觉得不适，想象一下，如果这些视频自动播放，你会有什么反应？ 上图的每张封面背后可能是一条类似的视频。10秒左右，前几秒平淡无奇，随后画风突变，AI生成的画面极其诡异，最终定格在令人毛骨悚然的一帧...

3月12日，西班牙通过新法案，要求企业使用AI生成内容时必须标注，违者最高罚款3500万欧元或全球年营业额7%。此法案借鉴欧盟《人工智能法案》，旨在防止深度伪造及AI滥用。数字化转型部长奥斯卡・洛佩斯强调AI的双刃剑特性，呼吁警惕虚假信息传播。西班牙率先落实欧盟AI监管，而美国则依赖企业自愿和分散性州法规。法案禁止利用AI生成虚假内容、操控脆弱人群、诱导赌博及儿童危险行为，同时限制基于生物识别数据的个人分类。但为国家安全，政府机构可在公共场合进行实时生物识别监控。

3月12日，OpenAI CEO山姆·奥尔特曼在X平台发布推文，宣布公司正研发专注创意写作的AI模型。奥尔特曼称，这是他首次被AI生成的内容所打动。该AI模型根据指令创作了一篇名为《Mila与Kai》的元虚构文学短篇，描述了Mila通过AI试图“复活”Kai的声音。文章展示了AI在文学创作上的潜力，并引发了关于AI生成内容未来应用的讨论。科技媒体Neowin分析认为，该故事高度类似人类写作，表明AI生成内容正变得更加自然。然而，这也引发了对网络诈骗风险增加的担忧。