DeepSeek开源周启动，首个项目FlashMLA聚焦于优化可变长度序列的推理服务，特别针对英伟达Hopper GPU设计。FlashMLA在H800 SXM5平台上，内存带宽可达3000GB/s，计算性能达580TFLOPS，已获全球开发者广泛关注，GitHub Star数突破5000。 Fla...

DeepSeek已成为全球开源圈的领头羊。近日，“开源周”活动首发了FlashMLA，这是专为英伟达Hopper GPU优化的高效多头潜在注意力解码内核。 FlashMLA解决了传统大模型在处理变长序列时资源浪费的问题，通过深度优化Kernel，提升内存带宽利用率和计算效率。在H800 SXM5 G...

2025年2月21日，DeepSeek宣布启动“Open Source Week”，首推的开源代码库是FlashMLA。FlashMLA是一个专为高性能GPU优化的“加速器”，尤其针对NVIDIA Hopper架构GPU如H800。 FlashMLA设计了一套“快速查找系统”，使AI模型在推理时能更...

今天，DeepSeek开源项目FlashMLA迅速走红网络，仅数小时便收获超过3.5K Star。FlashMLA是针对Hopper GPU优化的高效MLA（多头潜在注意力）解码内核，支持变长序列处理，现已投入生产。 FlashMLA通过优化MLA解码和分页KV缓存，提高了大语言模型的推理效率，尤其...

今日9:30，开源大模型平台DeepSeek开启技术分享周，发布了针对Hopper GPU优化的FlashMLA高效MLA解码内核。该成果刚在GitHub发布，短时间内便获得了超1000个星标。

DeepSeek开源周第一天，推出了降本利器FlashMLA，突破了H800的性能上限。FlashMLA是专为Hopper GPU设计的高效MLA解码内核，针对可变长度序列进行优化，现已投入生产。 MLA由DeepSeek提出，通过低秩联合压缩技术，将多头注意力的键和值矩阵投影到低维空间，显著减少了...

DeepSeek于2月24日启动“开源周”，首个开源项目为FlashMLA，这是针对Hopper GPU优化的高效MLA解码内核，适用于处理可变长度序列。FlashMLA灵感源自FlashAttention 2&3和cutlass项目。该项目要求Hopper GPU、CUDA 12.3及以上版本及PyTorch 2.0及以上版本。在CUDA 12.6环境下，H800 SXM5在内存受限配置下能达到3000 GB/s带宽，在计算受限配置下可达580 TFLOPS算力。更多信息可在其GitHub页面获取。