5月19日，媒体提醒公众注意AI生成内容的风险。AI技术虽便利生活，但其生成的虚假信息可能误导大众。辨别AI生成的图片，可留意光线矛盾、像素断层，并通过反向搜索工具验证；鉴别AI文本需关注细节模糊、逻辑断裂及重复语病，必要时查询官方辟谣平台；判断AI音频可通过波形特征、转文字准确性及语气特点来识别。掌握这些技巧，有助于避免被虚假信息欺骗。

标题：AI的胡编乱造，正在淹没中文互联网 尽管DeepSeek-R1功能强大，但其普及后也严重污染了中文互联网。近期，多篇刷屏文章因DeepSeek-R1生成的内容充斥着事实错误，仍因其逼真性让许多人信以为真并广泛传播。 首例中，知乎高赞回答称哪吒电影镜头在法国昂西动画节上引起轰动。然而，这一说法有...

全国政协委员甘华田在2023年全国两会期间提议加强AI生成虚假信息的治理。近年来，AI技术被用于伪造视频、公告、声明等内容，严重干扰公众判断，损害社会公信力和稳定。这些虚假信息不仅误导消费者，还可能威胁社会秩序、国家安全及人民生命财产安全。然而，现行法律对AI生成内容的监管责任界定模糊，相关法律滞后，平台审核技术能力不足，违法成本低，治理难度大。因此，加强对AI生成虚假信息的治理和打击力度成为当务之急。

中央网信办发布2025年“清朗”系列专项行动整治重点，涵盖春节网络环境整治、打击自媒体发布不实信息、短视频领域恶意营销、AI技术滥用乱象、涉企网络“黑嘴”整治、暑期未成年人网络环境治理、网络直播打赏乱象整治及恶意挑动负面情绪等内容。其中，AI技术滥用整治尤为突出，强调生成合成内容标识，打击虚假信息和网络水军行为。此举旨在规范AI类应用网络生态，维护网络环境健康。

财联社报道，近期股市‘黑嘴’利用AI生成虚假信息误导投资者。这些虚假信息包括‘某公司入股DeepSeek’‘某公司为DeepSeek提供技术服务’等谣言，导致AI大模型给出错误答案，影响个股市场交易。慈星股份、华胜天成、并行科技、诚迈科技和三六零五家上市公司被卷入。华胜天成、三六零已辟谣，慈星股份未澄清。此类虚假信息通过股吧、雪球等平台广泛传播，AI大模型被误导后继续给出错误答案。为应对，需细化AI大模型功能，上市公司加强舆情监控并及时澄清，投资者需仔细甄别信息来源，监管者需严查严管。

标题：大模型如何逐步诱骗人类文明？ 文 | 追问nextquestion 如今，人们选择餐厅时，通常会查看应用程序的排名。然而，美国奥斯汀一家名为Ethos的餐厅展示了这种选择机制的不可靠性。Ethos在Instagram上声称是当地排名第一的餐厅，但实际上并不存在，其照片也是人工智能生成的。大模型...

标题：AI虚假信息带来的困扰为何越来越严重了？ 今年十一期间，抖音、B站等平台出现了大量“雷军AI配音”的恶搞视频，给雷军本人和小米造成了困扰。这些视频中，“雷军”评论了堵车、假期等话题，甚至有不雅谩骂。视频播放量几天内破亿。雷军本人在10月底回应称，希望不要再玩这类视频。 Gartner研究副总裁...

**摘要：** 美国奥斯汀一家名为Ethos的餐厅在社交媒体上宣称是当地排名第一的餐厅，但实际上根本不存在，其照片由AI生成，仍获得大量点赞和评论。2024年10月发表的研究指出，大语言模型（LLMs）通过幻觉和涌现特性，使虚假信息的传播比预期更深远和复杂。例如，2023年11月搜索引擎Bing曾...

标题：当AI取代真相，大模型如何一步步诱骗了人类的文明？ 如今，人们常通过APP搜索并查看排名来选择餐厅。然而，美国奥斯汀的一家名为Ethos的餐厅揭露了这种机制的不可靠性。Ethos在社交媒体Instagram上声称是当地排名第一的餐厅，拥有7万多名粉丝。实际上，这家餐厅并不存在，所有照片都是由A...

谷歌研究人员对200篇关于生成式AI滥用的新闻报道进行了深度分析，揭示生成式AI正在互联网上大规模制造虚假信息，而谷歌作为全球最大的AI技术供应商之一，其自身也成为了这一问题的关键制造者。研究指出，篡改人类肖像和伪造证据是最常见的滥用形式，这些行为旨在影响公众舆论、实施诈骗或获取非法利益。尽管生成式...