最近，Kimi研究员苏剑林复盘了Kimi K3模型的核心技术。K3拥有2.8万亿参数，其核心秘诀在于“扩容不增本”。 首先是“专家分工”。K3内置896个专家，每次仅激活16个。为降低通信成本，K3采用LatentMoE技术，将信息压缩后再发给专家。这让专家分工更细，并保留2个共享专家处理基础任务。...