财联社6月12日电，小红书今日公布虚假内容治理报告。报告显示，2025年上半年，小红书通过构建虚假内容全链路治理体系，累计处置虚假笔记320万篇，清理虚假人设账号1万个，并处理虚假低质AIGC（人工智能生成内容）笔记60万篇。此外，小红书还对批量造假的黑灰产账号采取严厉措施，封禁相关账号超1000万个。这一系列行动体现了平台在净化社区环境方面的持续努力。

5月18日，《芝加哥太阳报》夏季活动指南中出现大量AI生成的虚假内容，包括虚构书籍和不存在的人物。例如，推荐的韩国作家Lee Min-Jin的《夜影市场》及芝加哥作家丽贝卡・马凯的《沸点》均为杜撰作品。此外，专栏中引用的多位“专家”和机构也查无出处。该报承认内容来自一家全国合作媒体，但未尽审核义务。高级总监Victor Lim表示深感歉意，并承诺修订政策确保内容质量。署名作者Marco Buscaglia承认未充分核实来源，称这是个人失误。目前，涉事内容已被从电子版中移除。

近日，Instagram上一家名为Ethos的餐厅账号爆红，该账号展示了精美的食物、一流的用餐环境及名流大佬调酒服务，迅速吸引了7.2万名粉丝，成为奥斯汀排名第一的餐厅。然而，硅谷投资人贾斯汀·摩尔揭露，Ethos根本不存在，其所有内容均由AI生成。这再次引发公众对AI造假的关注，尤其是在社交媒体上，生成式AI技术正以多种方式制造假信息。相比过去的手法，AI生成的内容更为逼真，普通人难以分辨，且成本更低。 此事敲响了警钟，提醒社交平台需加强监管，以维护内容的真实性。尽管Meta等平台已开始采取措施，例如使用隐形标记识别AI生成图像，但目前仍存在滞后现象，如Ethos账号持续活跃至十月才被揭露，美国大选期间的假图片亦未被及时清理。平台应更积极地引导AI技术的正确使用，避免虚假信息泛滥，维护社交环境的真实性和可信度。

谷歌DeepMind、Jigsaw和Google.org研究团队发布新论文，揭示生成式AI正滥用互联网，通过虚假内容挑战公众信任。2023年1月至2024年3月间，AI工具被用于散布伪造文本、音频、图像和视频，模糊现实与欺骗界限。研究虽未详评谷歌自身的角色，但强调了技术滥用的普遍性和对辨别能力的考验。论文提倡多方合作，包括政策制定者、行业和民间社会，共同应对生成式AI滥用问题，以维护网络环境的真实可信。