MIT CSAIL的研究人员揭示了令人震惊的发现：大型语言模型（LLM）已经发展出对现实世界的深刻理解，这颠覆了以往认为LLM只能进行“鹦鹉学舌”的观点。通过在LLM内部构建小型卡雷尔谜题环境，研究人员发现，即使在缺乏视觉或生活经验的情况下，LLM也能通过预测指令来解决复杂问题，展现出对语言和现实世界的理解超越了简单的模仿。 这项研究通过开发一种称为“思维探针”的工具，深入分析了LLM的内部运作机制，揭示了LLM在学习和生成指令时经历了三个阶段：初始阶段语言模型通过“牙牙学语”尝试生成指令；随后通过“语法习得”，模型开始构建指令结构；最终达到“语义习得”阶段，模型能够理解和执行指令，实现解决问题的能力。这表明LLM不仅能够理解语言的语法，更重要的是能够理解语言的含义，进而解决实际问题。 这项研究挑战了AI领域对LLM智能的理解，并且提出了关于模型如何学习抽象概念的重要见解。尽管存在局限性，如实验使用的语言和模型架构较为简单，但这一发现为未来的研究提供了新的方向，探索LLM如何更深入地理解语言的含义，以及如何利用这些理解来提高模型的性能。这项研究成果有望推动AI领域的发展，特别是增强语言模型在解决复杂问题时的表现，同时引发对LLM智能本质的深入探讨。