近日，AI生成假新闻引发关注。一篇关于“顶流男星豪赌10亿”的消息在社交平台疯传，最终被证实为AI生成的谣言，发布者已被行政拘留8日。类似的假新闻还包括“路易吉自杀”“梅西去世”等，这些内容看似真实，却经不起推敲。AI假新闻已渗透文娱、体育、社会生活等领域，甚至成为内容循环的源头，加剧了信息失真的风险。国外如《Il Foglio》曾推出全AI生成报纸，但因淡化种族主义问题，“Insights”功能被迫下线。目前，国家互联网信息办公室等多部门发布《人工智能生成合成内容标识办法》，要求自9月起对AI生成内容加注标识，以遏制虚假信息传播。AI作为双刃剑，需平衡技术发展与社会伦理，厘清真实与虚幻的边界。