标题：树莓派上流畅运行大模型！让终端具备自主学习与记忆能力｜对话RockAI CEO刘凡平

2022年初，彼时OpenAI还未发布ChatGPT，RockAI已选择押注非Transformer路线。这一选择如今显现出前瞻性。他们打造的端侧大模型可在树莓派等微型设备上流畅运行，首批搭载Yan架构大模型的具身智能机器人已面世。当下AI算力竞赛激烈，他们的“低算力”“群体智能”之路备受关注。

量子位邀请RockAI CEO刘凡平，聊聊非Transformer架构背后的故事和技术愿景。刘凡平表示，2016-2017年研究Attention机制时，他发现Transformer耗算力耗数据，于是2022年初坚定走非Transformer路线。初期目标是做搜索引擎，但Transformer存在“幻觉”问题，且难以实现个性化自主学习和记忆，因此转向端侧AI和群体智能。

刘凡平解释，群体智能是指具备自主学习的智能单元，通过环境感知、互动协作解决复杂问题并提升整体智能。RockAI将其分为四个阶段：创新性基础架构、多元化硬件生态、自适应智能进化、协同化群体智能。目前，他们已完成第一阶段，并迈向第二阶段。

Yan架构大模型的核心技术MCSD可将计算复杂度从O(n²)降至O(n)，大幅提高推理效率。此外，类脑激活机制实现了动态神经元选择，模仿人脑动态激活特性，而非Transformer的静态计算。这种架构使模型能在树莓派等低端设备上运行，实现离线智能。

刘凡平认为，未来设备将更具个性化，AI能深度学习用户习惯，提供高度定制化服务。同时，端侧大模型将推动具身智能机器人产业变革，使其摆脱恶性循环。长远来看，端云协同将是群体智能的重要体现，端侧大模型将主导个性化应用场景。未来五年，基础算法、端侧AI和群体智能将成为AI发展的关键拐点。