1月1日下午，DeepSeek发布新论文，提出名为mHC（流形约束超连接）的全新架构，旨在解决传统超连接在大规模模型训练中的不稳定性问题，同时保留性能增益。该研究通过将残差连接空间投影到特定流形上，恢复恒等映射属性，并结合基础设施优化提升效率。实验表明，mHC在大规模训练中表现优异，具备卓越可扩展性。论文第一作者为Zhenda Xie、Yixuan Wei和Huanqi Cao，创始人兼CEO梁文锋亦参与其中。论文已上线Hugging Face与Arxiv平台。