2025年7月3日，网络热传DeepSeek因AI模型不当关联王一博与‘李爱庆腐败案’道歉的消息。然而，经虎嗅核查，DeepSeek官方渠道并未发布任何道歉声明，相关报道也未提供确凿证据。事件引发广泛关注，大量媒体跟进报道，甚至AI大模型也援引不实新闻生成虚假答案。此事件暴露出AI在信息核查上的短板，当网络充斥虚假信息时，AI易陷入‘垃圾进，垃圾出’的困境。专家指出，AI需借助专属知识库提升准确性，同时也警示人类在信息传播中应更谨慎。

4月3日，BBC报道称，记者本·布莱克在其社区新闻网站《Cwmbran Life》发布的愚人节假新闻被谷歌AI工具误认为真实内容并广泛传播。该假新闻称威尔士小镇Cwmbran因每平方公里环形交叉路口数量最多被《吉尼斯世界纪录》收录。尽管布莱克已标注文章为愚人节恶搞，但其内容仍被一家全国新闻网站转载且难以删除。更令人担忧的是，谷歌AI工具和一个学习驾驶网站错误引用此信息，进一步扩散假新闻。布莱克指出，此类事件揭示了假新闻在互联网上的易传播性，即使内容来自可信来源也可能失控。他还批评AI工具未经许可使用原创内容，使小型独立出版商处于不利地位。谷歌方面已对事件展开调查。

近日，AI生成假新闻引发关注。一篇关于“顶流男星豪赌10亿”的消息在社交平台疯传，最终被证实为AI生成的谣言，发布者已被行政拘留8日。类似的假新闻还包括“路易吉自杀”“梅西去世”等，这些内容看似真实，却经不起推敲。AI假新闻已渗透文娱、体育、社会生活等领域，甚至成为内容循环的源头，加剧了信息失真的风险。国外如《Il Foglio》曾推出全AI生成报纸，但因淡化种族主义问题，“Insights”功能被迫下线。目前，国家互联网信息办公室等多部门发布《人工智能生成合成内容标识办法》，要求自9月起对AI生成内容加注标识，以遏制虚假信息传播。AI作为双刃剑，需平衡技术发展与社会伦理，厘清真实与虚幻的边界。

据《科创板日报》20日报道，德国基尔大学科学家研发了一款新型AI工具，能够以高达99%的准确率识别虚假新闻。该工具在英国剑桥举行的第44届智能电网与人工智能国际学术会议（SGAI）上进行了展示，为打击在线错误信息提供了重要手段。

《科创板日报》报道，上海市人大代表、上海合合信息董事会秘书刘忱在两会中提出《关于以科技伦理为导向，科技助力生成式人工智能安全发展的建议》。刘忱建议多方协作打击AIGC虚假新闻，鼓励研发AI防御与鉴伪技术，构建伦理训练与数据集体系，并用科技强化知识产权保护。该建议旨在推动生成式人工智能的安全发展。（记者 黄心怡）

标题：AI 最可怕的不是取代人类，而是让我们不再信任真实照片 观察下面的图片，你认为它们是真实拍摄的，还是AI生成的？ 第一张图片看起来有些可疑，例如汽车的车门和堆叠的方式似乎有些拼接感。而接下来的两张图片，如果不仔细查证，你可能不会相信：它们全是真实拍摄的“真照片”。 关注AI第一新媒体，获取AI...

【云南省迪庆州】香格里拉市公安局网安大队于7月26日查处一起利用AI技术制造虚假信息的案件。接群众举报，一名网民在某网络平台发布大量无法核实的全国性事件消息，文章格式高度疑似AI合成。调查后，陈某某被锁定并传唤到案，承认其使用AI软件生成未经证实的假新闻，目的是为了吸引关注和牟利。根据《中华人民共和国治安管理处罚法》第二十五条的规定，陈某某因虚构事实扰乱公共秩序被处以行政处罚。该事件提醒公众警惕AI生成的假新闻，合法合规地使用网络平台。