2月26日，DeepSeek开源项目进展至第3/5阶段，推出支持稠密和混合专家模型(MoE)的FP8矩阵乘法(GEMM)库DeepGEMM，适用于V3/R1模型的训练和推理。DeepGEMM在Hopper GPU上可达1350+ FP8 TFLOPS性能，无复杂依赖，核心代码仅约300行。该库基于CUDA编写，采用即时编译技术(JIT)，支持稠密布局和两种MoE布局。DeepGEMM设计简洁，性能与专家优化库相当，甚至更优。更多信息：