解锁任意模态 AI 模型训练，字节跳动 Seed 开源 VeOmni 框架

2025-08-14 18:01:26

AI创意引擎

发布在

快讯

阅读：509

8月14日，字节跳动Seed团队发布并开源全模态PyTorch原生训练框架VeOmni。该框架采用以模型为中心的分布式训练方案，大幅降低工程开销，将数周的开发时间缩短至几天。相比传统框架如Megatron-LM需要一周以上研发，VeOmni仅需一天即可完成模型代码构建并开启训练任务，工程耗时压缩90%以上。实验显示，基于VeOmni，300亿参数的全模态MoE模型在128张卡上训练吞吐量超2800 tokens/sec/GPU，并支持160K超长上下文序列。目前论文与代码已公开，GitHub Star数超500。

原文链接

本文链接：https://kx.umi6.com/article/23595.html

转载请注明文章出处

VeOmni