10月29日，抖音副总裁李亮就AI制造假新闻问题发表观点，强调谣言治理是抖音今年最重要的工作之一。他指出，AI技术虽可能助长谣言传播，但平台正利用AI智能体快速识别和处置谣言，并呼吁媒体、政务平台及用户共同提供辟谣线索。抖音此前发布《关于人工智能生成内容的平台规范暨行业倡议》，要求对AI生成内容显著标识，并于2025年9月升级AI内容标识功能。此外，9月16日上线的“AI抖音求真”功能，帮助用户通过跳转链接获取完整信息及辟谣内容，助力辨别虚假信息，维护平台信任环境。

7月20日，湖北宜昌江段传出‘三层游船侧翻30人坠江’的假新闻，经警方调查，系一网民为提升账号关注度利用AI工具编造，目前已被行政处罚。另一起案件中，云南大理漾濞县赵某某为吸粉引流，用AI生成逼真的交通事故视频并标注事发地为大理州，所幸传播范围被及时控制。央视通报指出，AI技术可轻松制作虚假视频，普通人难以辨别真伪，呼吁加强监管并提高公众辨别能力。

近日，AI生成假新闻引发关注。一篇关于“顶流男星豪赌10亿”的消息在社交平台疯传，最终被证实为AI生成的谣言，发布者已被行政拘留8日。类似的假新闻还包括“路易吉自杀”“梅西去世”等，这些内容看似真实，却经不起推敲。AI假新闻已渗透文娱、体育、社会生活等领域，甚至成为内容循环的源头，加剧了信息失真的风险。国外如《Il Foglio》曾推出全AI生成报纸，但因淡化种族主义问题，“Insights”功能被迫下线。目前，国家互联网信息办公室等多部门发布《人工智能生成合成内容标识办法》，要求自9月起对AI生成内容加注标识，以遏制虚假信息传播。AI作为双刃剑，需平衡技术发展与社会伦理，厘清真实与虚幻的边界。