最近，GLM-5.3-Flash等大模型的架构中，竟同时出现了Kimi和DeepSeek的招牌技术。这背后是大模型“注意力（Attention）机制”的演进。

大模型处理信息主要靠三种注意力：全局注意力“看得全”但计算成本极高；线性注意力像“做笔记”，省钱但易丢细节；稀疏注意力像“划重点”，只挑关键信息看。

为平衡成本与效果，模型架构不断调整。以MiniMax为例：早期用“线性+全局”混搭；后来模型变大，怕混搭漏掉关键推理信息，退回昂贵的“全局”兜底；如今到了AI智能体时代，处理的上下文太长，“全局”实在烧不起钱，便转向了“稀疏”机制。

如今，行业不再死磕单一技术，而是将“线性”和“稀疏”组合进同一模型：让线性负责低成本记住整体状态，稀疏负责精准查阅细节。

随着开源与人才流动，技术早已打破公司边界。未来，决定大模型胜负的不再是谁独占某种技术，而是谁能根据任务需求，像搭积木般灵活组合出最优解。