谷歌研究人员对200篇关于生成式AI滥用的新闻报道进行了深度分析，揭示生成式AI正在互联网上大规模制造虚假信息，而谷歌作为全球最大的AI技术供应商之一，其自身也成为了这一问题的关键制造者。研究指出，篡改人类肖像和伪造证据是最常见的滥用形式，这些行为旨在影响公众舆论、实施诈骗或获取非法利益。尽管生成式AI的风险尚未达到威胁人类生存的级别，但其带来的危害已不容忽视，尤其是技术的广泛可用性使得伪造内容的生成成本极低，模糊了真实与虚假的界限。 研究显示，大部分滥用案例发生在正常使用场景下，且没有涉及系统层面的入侵或操纵。人们利用生成式AI生成虚假信息，部分原因在于这些工具天生擅长此任务。值得注意的是，许多生成的内容并未明显违反工具的服务条款或内容政策，但其潜在影响巨大。谷歌的研究揭示了滥用AI的复杂性，并强调了媒体在报道这一现象时可能存在的偏见。同时，滥用行为不仅局限于已曝光的案例，大量的未报道滥用事件仍然存在。 随着生成式AI技术的普及，互联网环境正面临前所未有的挑战。信息的真实性和可信度受到严重威胁，这不仅考验着人们的辨别能力，也可能干扰社会政治现实的理解和科学共识的形成。此外，知名人士和组织有可能利用AI生成的内容作为逃避责任的手段，进一步加剧信息污染问题。谷歌的研究不仅揭示了当前的严峻形势，也提出了对这一新兴技术未来发展的警示。