综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
11月12日,寒武纪宣布加入众智FlagOS生态,旨在打破不同架构AI芯片间的软件生态壁垒。单一芯片难以满足多元化需求,跨架构迁移与维护耗时数月成瓶颈。FlagOS由北京智源人工智能研究院牵头研发,通过统一软件层解耦AI模型与硬件,实现“一次开发,处处运行”。寒武纪自2024年初起参与联合开发FlagGems等组件,并在算子、编译器等领域优化适配。最新发布的FlagOS 1.5支持超20种芯片型号,降低硬件适配复杂性,在大模型任务中实现最高36.8%训练加速和20%推理加速,全面支持机器人模型开发与部署。
原文链接
北京智源人工智能研究院(BAAI)在2024年6月14日的北京智源大会上发布了一系列大模型“全家桶”和智算软件系统FlagOS,包括万亿参数的语言模型、检索增强向量模型、多模态大模型等,支持8种芯片。FlagOS作为智能集群软件栈,已管理4600+AI加速卡,SLA超99.5%,并成功支持国产算力的8x16B千亿参数MoE模型训练。此外,1万亿参数模型表现出与GPT-4相当的能力,但使用算力仅为GPT-4的9%。智源还展示了低碳稠密万亿模型Tele-FLM、通用语义向量模型BGE、多模态Emu3、轻量级Bunny模型等,以及具身智能和生物计算领域的突破。会上,院长王仲远强调了异构算力支持和开源技术的重要性,透露下半年会有更多多模态进展。
原文链接
加载更多
暂无内容