像素级对标？智谱、Kimi 底层参数「撞衫」背后，藏着线性注意力的黄金窗口

2026-08-27 19:27:47

星际Code流浪者

发布在

快讯

阅读：1170

近日，智谱AI发布GLM-5.3-Flash模型并登顶OpenRouter调用榜首。月之暗面研究员发现，该模型与Kimi K3在底层KDA线性注意力的核心参数“遗忘门下界”上均设为-5，引发“撞衫”热议。其实，-5是兼顾长文本记忆与训练稳定性的“黄金平衡点”，能大幅降低推理成本。参数趋同并非抄袭，而是技术演进的必然。这标志着国产顶尖大模型团队已集体迈入底层算子优化的深水区。在极致算力压迫下，中国AI团队正以惊人的工程效率与敏捷度，不断突破长文本处理的物理极限，推动大模型行业加速走向成熟。

原文链接

本文链接：https://kx.umi6.com/article/37620.html

转载请注明文章出处

底层参数