1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

标题:Day0迁移、一键部署,华为开源的昇思MindSpore成为大模型开发的“万能钥匙”

正文:
没有一个大模型能一统天下,这已成为AI大模型时代的共识。面对众多主流大模型和技术,如何在一个框架下高效体验成为难题。华为开源的昇思MindSpore提供了解决方案。

昇思MindSpore通过“翻译神器”MSAdapter,让其他框架的代码轻松转换为MindSpore语言,实现“零损耗”迁移。例如,PyTorch代码可在MindSpore中顺畅运行,95%以上的接口自动转换。此外,它还具备动态图多级流水、JIT编译、自动策略寻优及执行序比对等技术,大幅提升效率与精度。

以DeepSeek-V3为例,只需改动4行代码即可完成迁移,精度实现Day0对齐,性能还可提升5%。推理部署方面,昇思通过vLLM-MindSpore插件,使HuggingFace模型在半小时内完成部署。对于千亿参数模型,采用三层部署模式,加载时间缩短80%,图编译延迟压缩至毫秒级。

测试显示,Pangu Pro MoE 72B在Atlas 800I A2上,时延小于100ms时单卡吞吐达1020tokens;在Atlas 300I Pro上达130tokens。更多详情可参考技术报告。

原文链接
本文链接:https://kx.umi6.com/article/20139.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
腾讯云:支持DeepSeek-R1大模型一键部署
2025-02-02 12:46:39
华为宣布昇思新增份额达30%:中国发展最快开源AI框架
2024-12-16 09:48:12
阿里云宣布支持云上一键部署DeepSeek-V3、DeepSeek-R1
2025-02-03 23:21:42
DeepSeek 登陆阿里云,支持云上一键部署 V3、R1 模型
2025-02-04 09:29:59
阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型
2025-02-07 23:07:43
OpenClaw红遍硅谷 百度智能云支持一键部署OpenClaw
2026-02-01 00:06:24
阿里更新旗舰模型Qwen3.8-Max,前端编程能力跃居全球第一
2026-09-02 14:34:23
一个模型场景通吃!它石智航AWE3.7的泛化能力有点狠
2026-09-03 11:17:59
「说 Harness 会被淘汰的,肯定没做过工程」,Kimi 前 CLI 负责人戳破了 AI 圈最大的误解
2026-08-31 16:51:39
腾讯WorkBuddy联名硬件来了!首批100多家伙伴入场
2026-09-03 19:35:43
急急急用电!马斯克开造燃气轮机叶片
2026-09-01 16:46:29
AI 读过一切,却没经历过任何事:Ropedia 发布 HOMIE Gen2,给具身智能补「经验」这一课
2026-09-01 13:39:02
VC疯了!200万现金冠军奖,又花4000万造了一座AI「创业乌托邦」
2026-08-31 22:00:38
24小时热文
更多
扫一扫体验小程序