标题：AI 最可怕的不是取代人类，而是让我们不再信任真实照片

观察下面的图片，你认为它们是真实拍摄的，还是AI生成的？

第一张图片看起来有些可疑，例如汽车的车门和堆叠的方式似乎有些拼接感。而接下来的两张图片，如果不仔细查证，你可能不会相信：它们全是真实拍摄的“真照片”。

关注AI第一新媒体，获取AI前沿资讯和洞察。

十月底，西班牙瓦伦西亚地区遭遇特大暴雨，一天的降雨量相当于一年。街道有许多斜坡，如此多的水量足以让汽车浮起并沿着斜坡滑落。最终，洪水退去后，出现了最初的景象。

然而，许多人怀疑这些照片的真实性，认为是AI生成的假新闻。这种情况并非无理取闹，之前美国佛罗里达州飓风期间，一张小女孩穿着救生衣、抱着小狗哭泣的照片广泛传播。仔细观察，这张图比之前的暴雨图更显“AI味”，手指和身体姿势都显得怪异。

原帖作者并不知道这张图的来源，只是想表达对受灾人民的同情。平台后来补充了背景信息，强调这是一张生成的图片，而非真实的“照片”。

在面对真假难辨的AI生成图片时，人们的怀疑精神有时能促使平台迅速反应，但在其他情况下则未必奏效。AI生成的图片越来越逼真，真假难辨，使得人们变得愈发警惕。然而，这种怀疑态度也可能导致真实信息被忽视。

AI生成的逼真图片对模型能力提出挑战：能否理解自然语言规则、常识和现实世界规律，并正确呈现上下文信息。AI生成的图片曾引发虚假新闻的传播，甚至影响股市。

例如，今年六月，社交媒体上出现西安发生特大爆炸的消息，但西安警方核实后发现并无此事。该消息是通过AI工具生成的，主犯利用AI工具生成大量虚假信息，日均收入可达1万元。

虚假照片不仅欺骗了人们的感情，还引发了市场恐慌。例如，一张五角大楼爆炸的照片迅速传播，导致股市短暂波动。最后，消防部门出面辟谣，才使事态平息。

人们对AI生成内容的普遍怀疑，虽然有助于打击假消息，但也可能导致真实信息被忽视。例如，AI生成的非法内容数量在过去半年内超过了前一年的总量。这些内容包括AI生成的儿童色情图片、视频以及融合名人照片的Deepfake视频。

当AI生成的图片过于逼真，工作人员无法轻易确定是否存在真人，是否涉及虐待儿童等问题。这类问题的处理变得极其困难，甚至可能错过干预的最佳时机。

互联网观察基金会IWF的分析师表示，他们处理的大多数AI生成的儿童性虐待材料报告，都是在明网上发现的。面对海量的生成照片，即使怀疑一切，也无法确保所有真实信息都能被识别和处理。

因此，虽然怀疑精神有助于减少谣言的传播，但一味地怀疑所有信息，可能导致真正的危机被忽视，最终失去信任。