1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

飞桨框架进阶3.0,深度学习领域的创新之作,集五大新特性于一身,引领行业潮流。

深度学习框架作为基础软件,极大地推动了人工智能技术的进展,为广泛的应用奠定了坚实基础。它们通过提供便捷、高度抽象的开发接口,让开发者能够专注于算法和模型设计,无需深究底层数据处理细节,大幅提高开发效率。自动微分功能则让开发者只需编写前向传播网络,反向传播自动完成。

飞桨,中国自主研发的深度学习平台,从1.0版本的静态图,到2.0版本的动态图与动静统一、训推一体,再到3.0版本的发布,完美融合了动态图的灵活性与静态图的高效性,支持模型混合并行训练。3.0版本专为大模型时代设计,开启新一代框架技术创新之路。

设计思想聚焦于两大核心:一是为开发者提供极致的开发体验,大幅减少学习成本和时间,同时提升便利性;二是从硬件适配角度出发,兼容并适配各种硬件设备,实现广泛的硬件适配性,同时优化硬件性能。同时,框架需适应AI技术发展趋势和产业实际需求。

技术发展方面,前沿技术如大语言模型、MOE、多模态和科学智能成为研究热点。随着模型复杂性的增加,计算瓶颈、存储瓶颈、访存瓶颈和通信瓶颈问题凸显,分布式训练和性能优化需求增强。在产业层面,框架需支持训练、压缩、推理全流程,提供完整、高效的解决方案,满足实际应用需求。

飞桨框架3.0遵循“动静统一、训推一体、自动并行、自动优化、广泛硬件适配”的设计理念,让开发者能够像写单机代码一样编写分布式代码,无需感知复杂通信和调度逻辑。它全面兼容2.x版本,推出动静统一自动并行、编译器自动优化、大模型训推一体、大模型多硬件适配四大新特性,显著提升开发效率和性能。

在架构设计上,飞桨框架由表示层、调度层、算子层和适配层构成。表示层负责计算图的表达与转换,调度层智能编排与优化代码执行,算子层由CINN和PHI组成,涵盖张量定义、算子定义、自动融合和算子内核实现,适配层实现与底层芯片的无缝对接。

飞桨3.0版本在架构上实现了高扩展中间表示PIR,通过统一中间表示,实现训练与推理一体化,支持复杂语义和大模型自动并行策略。神经网络编译器自动优化技术,通过自动融合和策略调优,显著提升模型性能。自动并行功能大幅降低大模型开发和性能优化门槛,开发者仅需少量张量切分标注,框架自动推导分布式切分状态,添加通信算子,自动寻找高效并行策略。

飞桨3.0面向大模型、异构多芯进行专属设计,向下适配异构多芯,向上一体化支撑大模型训练、推理。动静统一自动并行、编译器自动优化、大模型训推一体、大模型多硬件适配四大能力全面提升了服务产业的能力。

动静统一自动并行功能显著降低开发成本,通过少量张量切分标注,自动完成分布式信息推导和通信算子添加,自动寻找高效并行策略。编译器自动优化技术提升性能,支持多种模型高效训练与推理,显著提高生成式模型推理性能。大模型训推一体特性提供统一开发体验,大幅加速RLHF训练过程和推理量化场景。大模型多硬件适配机制优化硬件兼容性,降低接入成本,提升调度效率和端到端性能。

飞桨框架3.0面向开发者开放Beta版本,所有开发接口与2.0版本完全兼容,诚邀广大开发者参与使用和反馈,共同推动深度学习技术的发展。

原文链接
本文链接:https://kx.umi6.com/article/4376.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
飞桨新一代框架3.0正式发布:加速大模型时代的技术创新与产业应用
2025-04-02 12:18:13
飞桨框架进阶3.0!一文讲透“大模型训推一体”等五大新特性
2024-08-01 14:26:37
中国软件评测中心最新报告:文心大模型技术、产品、应用全面领跑
2024-07-06 03:10:48
24小时热文
更多
扫一扫体验小程序