标题：DeepSeek研究员1200行代码复刻vLLM，H800硬件实测性能反超原版

仅用不到1200行代码，DeepSeek研究员俞星凯成功复刻了vLLM，并开源了一个名为Nano-vLLM的项目。该项目以其快速离线推理、简洁代码库和优化套件（如前缀缓存、Torch compilation、CUDA graph）备受关注。

测试结果显示，在RTX 4070硬件、Qwen3-0.6B模型环境下，Nano-vLLM略逊于vLLM，但在H800硬件、Qwen3-8B模型环境中，Nano-vLLM的吞吐量达到6731.42 tokens/s，反超vLLM的5916.89 tokens/s。这一成果得益于PagedAttention算法，该算法通过分页方式有效管理KV缓存，大幅提升了内存利用率和吞吐量。

俞星凯毕业于南京大学计算机科学与技术系，目前是LAMDA团队成员。vLLM作为一款高性能LLM推理框架，最初由加州大学伯克利分校的Sky Computing Lab开发，现已拥有超过49.5k的GitHub Star。其核心PagedAttention算法解决了传统LLM内存碎片化问题，显著提升了吞吐量，尤其在大模型和复杂解码任务中表现优异。vLLM支持多种模型和解码算法，兼容多硬件平台，并提供流式输出等功能。