2025年8月20日，AI工具已成全球17亿至18亿人日常使用的重要资源，但其生成虚假信息的问题日益突出。例如，DeepSeek R2模型发布传闻虽被证伪，却引发社交平台热议和概念股上涨。类似事件如“三层游船倒扣江中”谣言频发，主要源于用户恶意利用或模型自身幻觉。研究表明，大语言模型因训练数据时效性和机制限制，难以杜绝幻觉问题。尽管DeepSeek等厂商通过技术优化降低幻觉率，推理模型仍存在中间步骤不可靠的风险。专家建议多方合力应对，包括用户多重验证、平台合理使用及改进信息源建设。此外，调节温度参数可缓解幻觉，但完全消除可能削弱创造性，需权衡利弊。

8月5日，国家安全部发布安全提示文章指出，人工智能训练数据中存在虚假信息、虚构内容和偏见性观点等问题，导致数据源污染，带来新的安全挑战。研究表明，仅0.01%的虚假训练文本即可使有害内容增加11.2%，凸显‘数据投毒’风险。这一警示提醒各方需加强对AI训练数据的质量管控，防止潜在的安全隐患扩散。

7月28日，微软AI for Good项目发布研究显示，人类辨别AI生成图像与真实图像的成功率仅62%，接近随机猜测水平。实验涉及1.25万名参与者和28.7万次评估，发现人像图像较易识别，而自然景观和街景的辨别成功率降至59%-61%。研究强调，随着AI技术进步，图像伪造更逼真，辨别难度加大。微软呼吁加强技术透明度，推广图像水印和AI检测工具。研究还指出，局部伪造（如图像修复技术）隐蔽性更高，或被用于虚假信息传播。微软自研AI检测工具准确率超95%，但仍非绝对可靠。研究警示需构建多层次防御体系应对AI伪造威胁。

7月23日，科技部发布《驾驶自动化技术研发伦理指引》，旨在防范技术应用中的伦理风险，推动行业健康发展。文件强调，在面对不可避免的交通事故或极端环境时，系统应最大限度降低对生命的伤害。同时明确，发布成果时不得传播与实际功能不符的虚假信息，并要求向公众清晰阐释产品功能分级、使用条件等注意事项，及时纠正误导性内容，减少公众误解。

5月19日，媒体提醒公众注意AI生成内容的风险。AI技术虽便利生活，但其生成的虚假信息可能误导大众。辨别AI生成的图片，可留意光线矛盾、像素断层，并通过反向搜索工具验证；鉴别AI文本需关注细节模糊、逻辑断裂及重复语病，必要时查询官方辟谣平台；判断AI音频可通过波形特征、转文字准确性及语气特点来识别。掌握这些技巧，有助于避免被虚假信息欺骗。

标题：AI的胡编乱造，正在淹没中文互联网 尽管DeepSeek-R1功能强大，但其普及后也严重污染了中文互联网。近期，多篇刷屏文章因DeepSeek-R1生成的内容充斥着事实错误，仍因其逼真性让许多人信以为真并广泛传播。 首例中，知乎高赞回答称哪吒电影镜头在法国昂西动画节上引起轰动。然而，这一说法有...

全国政协委员甘华田在2023年全国两会期间提议加强AI生成虚假信息的治理。近年来，AI技术被用于伪造视频、公告、声明等内容，严重干扰公众判断，损害社会公信力和稳定。这些虚假信息不仅误导消费者，还可能威胁社会秩序、国家安全及人民生命财产安全。然而，现行法律对AI生成内容的监管责任界定模糊，相关法律滞后，平台审核技术能力不足，违法成本低，治理难度大。因此，加强对AI生成虚假信息的治理和打击力度成为当务之急。

中央网信办发布2025年“清朗”系列专项行动整治重点，涵盖春节网络环境整治、打击自媒体发布不实信息、短视频领域恶意营销、AI技术滥用乱象、涉企网络“黑嘴”整治、暑期未成年人网络环境治理、网络直播打赏乱象整治及恶意挑动负面情绪等内容。其中，AI技术滥用整治尤为突出，强调生成合成内容标识，打击虚假信息和网络水军行为。此举旨在规范AI类应用网络生态，维护网络环境健康。

财联社报道，近期股市‘黑嘴’利用AI生成虚假信息误导投资者。这些虚假信息包括‘某公司入股DeepSeek’‘某公司为DeepSeek提供技术服务’等谣言，导致AI大模型给出错误答案，影响个股市场交易。慈星股份、华胜天成、并行科技、诚迈科技和三六零五家上市公司被卷入。华胜天成、三六零已辟谣，慈星股份未澄清。此类虚假信息通过股吧、雪球等平台广泛传播，AI大模型被误导后继续给出错误答案。为应对，需细化AI大模型功能，上市公司加强舆情监控并及时澄清，投资者需仔细甄别信息来源，监管者需严查严管。

标题：大模型如何逐步诱骗人类文明？ 文 | 追问nextquestion 如今，人们选择餐厅时，通常会查看应用程序的排名。然而，美国奥斯汀一家名为Ethos的餐厅展示了这种选择机制的不可靠性。Ethos在Instagram上声称是当地排名第一的餐厅，但实际上并不存在，其照片也是人工智能生成的。大模型...