标题：AI虚假信息带来的困扰为何越来越严重了？

今年十一期间，抖音、B站等平台出现了大量“雷军AI配音”的恶搞视频，给雷军本人和小米造成了困扰。这些视频中，“雷军”评论了堵车、假期等话题，甚至有不雅谩骂。视频播放量几天内破亿。雷军本人在10月底回应称，希望不要再玩这类视频。

Gartner研究副总裁高挺表示，虚假信息在大模型时代被放大了危害。信息安全从业者认为，这类恶搞视频增多是因为一家AI公司在宣传其声音克隆功能。公众知道是AI模仿，风险不大。平台治理的难点在于难以判断名人是否反对或支持这种行为。

相比之下，新闻类AI谣言的社会危害更大。近期，一篇关于山东大妈因卖水果被罚16万的文章广泛传播，但经核实是假新闻。此外，还有利用AI编造地震、运钞车抢劫等新闻，导致网友恐慌。

抖音安全中心负责人表示，平台会打击虚假信息，AI生成内容需显著标识。然而，治理AI虚假新闻的难点在于核验成本高，需要监管部门介入。虚假信息不仅影响企业声誉，还可能引发网络钓鱼或账户接管等网络安全问题。

高挺指出，生成式AI导致了更逼真的攻击，更难识别。虚假信息生产成本低，负面影响却显性化，仅靠人工核验难以解决问题。信息安全专家提出，需要更多新技术解决虚假信息治理问题。例如，利用大语言模型跟踪社交媒体内容，验证通信完整性，确保媒体真实性。

Gartner将“虚假信息安全”列为2025年十大战略技术趋势之一。加州大学研究表明，提供背景介绍和权威内容可减少虚假信息扩散。Facebook、X等平台通过AI检测标记信息，以克服人工核查局限。

针对AI带来的钓鱼诈骗等问题，360、蚂蚁金服等公司正在研发解决方案，通过数据接入、分析研判等手段识别风险。