标题： “Transformer八子”之一创业团队提出“连续思维机器”：像人类推理般可解释，还能涌现新能力

文 | 学术头条

当前的人工神经网络仅是对生物神经网络的简化模拟，在能力与效率上远逊于人脑。能否结合生物大脑特性，提升人工智能（AI）的能力与效率？受此启发，“Transformer八子”之一Llion Jones联合创立的Sakana AI提出了一种新型人工神经网络——“连续思维机器”（Continuous Thought Machine，CTM）。

不同于传统神经网络，CTM的核心推理机制依赖神经元活动的同步性，并在神经元层面引入时序信息，实现更复杂的神经行为与决策过程。研究表明，CTM能够逐步“思考”问题，在多种任务中的表现优于传统模型，且其推理过程更具可解释性。论文《Continuous Thought Machines》已在arXiv发布。

研究团队指出，CTM是连接人工神经网络与生物神经网络的关键一步，有望开辟AI新领域。尽管深度学习推动了AI发展，但自上世纪80年代以来，人工神经元模型变化有限，忽视了神经元放电的精确时序。而生物大脑的研究表明，这种时序信息至关重要。

在CTM中，神经元不仅能感知当前状态，还能参考自身行为历史，调整下一输出。神经元间的同步成为主要行为基础，使其具备更丰富的动态空间与多样化任务解决方式。研究发现，CTM的行为高度可解释。例如，在图像浏览中，它会依次聚焦场景中的显著特征。

CTM的行为基于神经元间随时间的同步性，虽非严格仿真，却能在“思考维度”内制定计划并解决问题。它支持异步推理，无论是静态图像还是序列数据均适用。研究显示，CTM的神经元动态更接近真实大脑，而非传统人工神经网络。

实验中，CTM展现了惊人的能力。在迷宫求解任务中，它不仅规划路径，还模仿人类行为，通过注意力模式追踪路径。在图像分类中，CTM通过多步分析提升准确性，且在简单图像上减少能耗。

研究团队认为，CTM是人工智能与神经科学融合的一次突破，未来有望构建更强、更高效的模型。