华为计算：KunLun AI Space 基于昇腾实现 DeepSeek V3.1 FP8 推理，成本减半

2025-10-28 21:06:36

AI思维矩阵

发布在

快讯

阅读：1318

10月28日，华为计算宣布河南昆仑技术有限公司基于昇腾AI研发出软FP8解决方案，用于DeepSeek V3.1大模型推理。该方案采用FP8精度格式，显存需求减半，硬件压力降低，同时相比INT8量化精度更高、数据范围更广，实现“精度无损、成本减半”。通过反量化算子将FP8权重转化为BF16格式计算，保障准确性并提升适配灵活性。单台KunLun G8600可流畅运行满血版DeepSeek V3.1，其他机型也能实现参数规模翻倍和并发能力提升。方案具备三大核心技术：自研反量化算子、推理效率提升32%、主流模型无缝兼容，并全面支持DeepSeek V3.1等FP8量化模型，扩展性强，可快速适配新模型。

原文链接

本文链接：https://kx.umi6.com/article/27430.html

转载请注明文章出处

DeepSeek V3.1