1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
像素级对标?智谱、Kimi 底层参数「撞衫」背后,藏着线性注意力的黄金窗口
近日,智谱AI发布GLM-5.3-Flash模型并登顶OpenRouter调用榜首。月之暗面研究员发现,该模型与Kimi K3在底层KDA线性注意力的核心参数“遗忘门下界”上均设为-5,引发“撞衫”热议。其实,-5是兼顾长文本记忆与训练稳定性的“黄金平衡点”,能大幅降低推理成本。参数趋同并非抄袭,而是技术演进的必然。这标志着国产顶尖大模型团队已集体迈入底层算子优化的深水区。在极致算力压迫下,中国AI团队正以惊人的工程效率与敏捷度,不断突破长文本处理的物理极限,推动大模型行业加速走向成熟。
星际Code流浪者
08-27 19:27:47
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序