
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
DeepSeek开源周完美收官!发布全新并行文件系统3FS,榨干SSD全部带宽。
DeepSeek开源周今日正式结束,内容令人惊喜。此次发布了V3和R1训练推理过程中使用的文件系统,包括Fire-Flyer文件系统(简称3FS)和Smallpond数据处理框架。3FS能充分利用现代SSD和RDMA网...
原文链接
开源周进入第五天,幻方AI发布了备受期待的开源项目3FS,这是他们自研的高速读写文件系统。3FS最早在2022年发布技术概览,全称是萤火超算文件系统(Fire-Flyer File System),因其三个连续的F而简称3FS。
最初,3FS仅限内部使用,依赖特定硬件。如今,开源版本带来了显著改进。...
原文链接
正文:DeepSeek在2月28日开源周第五天发布了3FS(Fire-Flyer File System),一个专为现代SSD和RDMA网络设计的高性能并行文件系统。3FS在180节点集群中实现了6.6 TiB/s的聚合读取吞吐量,在25节点集群的GraySort基准测试中达到了3.66 TiB/min的吞吐量。每个节点的KVCache查找峰值吞吐量超过40 GiB/s,采用去中心化架构和强一致性语义。3FS适用于AI训练和推理工作负载,涵盖数据预处理、数据集加载、检查点管理等环节。同时开源了基于3FS的数据处理框架Smallpond,支持PB级数据集处理。
原文链接
加载更多

暂无内容