标题：当AI取代真相，大模型如何一步步诱骗了人类的文明？

如今，人们常通过APP搜索并查看排名来选择餐厅。然而，美国奥斯汀的一家名为Ethos的餐厅揭露了这种机制的不可靠性。Ethos在社交媒体Instagram上声称是当地排名第一的餐厅，拥有7万多名粉丝。实际上，这家餐厅并不存在，所有照片都是由AI生成的，但它依然获得了数千条评论和点赞。

大型语言模型（LLMs）因其幻觉及涌现特性，传播虚假信息的可能性引起了人们的担忧。然而，其背后的机理尚不完全清楚。大模型如何改变人类心理，使人们难以辨别真假，并丧失对专业机构和彼此的信任？

2024年10月发表的一项研究指出，大模型和虚假信息的关系比预想的更深远。例如，2023年11月，搜索引擎Bing因爬取错误信息，错误回答了关于澳大利亚存在与否的问题。此外，一项研究显示，截至2024年8月，至少5%的英文维基百科页面由AI生成，而其他语言的比例较低。尽管AI生成的内容不一定全是虚假信息，但它们往往质量较低，带有目的性，如自我推广或表达特定观点。

在判断真假信息时，我们常用启发式方法，如观察信息是否自信流畅和是否熟悉。然而，大模型生成的信息往往自信流畅，且通过高度重复制造熟悉感，使这些判断基准失效。此外，人们倾向于将大模型拟人化，容易依赖启发式思维，而非进行批判性分析。这种拟人化倾向使得大模型赢得人们的信任，进一步加剧了虚假信息的传播。

大模型生成的虚假信息不仅影响个人信任，还可能重塑集体记忆，抑制群体智慧。虚假信息可能成为决策的新基础，削弱对权威机构的信任。因此，我们需要多方合作，通过智能体和众包协作进行事实审核，并科普大模型的运行机制。同时，建立优化的虚假信息监控制度，重建大众对机构的信任，以应对大模型带来的挑战。