字节跳动豆包大模型团队提出新稀疏模型架构UltraMem，推理速度提升2-6倍，成本降低最多83%，已获ICLR 2025接收。UltraMem解决了传统MoE和PKM架构的局限，保持了模型效果，适用于多种规模模型。该架构有望推动AI技术在边缘计算和移动设备上的广泛应用，提升智能助手等AI应用的响应速度和用户体验。