标题:瘦身不降智!大模型训推效率提升30%,京东研究成果登上Nature旗下期刊
京东探索研究院关于大模型的新研究登上Nature子刊npj Artificial Intelligence。该研究提出一种在开放环境中训练、更新大模型并与小模型协同部署的方法,通过模型蒸馏、数据治理、训练优化和云边协同四大创新,使推理效率平均提升30%,训练成本降低70%。
论文介绍了一种名为《Omniforce:以人为中心的、赋能大模型的、云边协同的自动机器学习系统》的项目,解决了开放环境下大模型开发效率的难题。
具体创新包括:
- 模型蒸馏:采用动态分层技术,大幅减少资源消耗,降低部署成本。
- 数据治理:跨领域数据动态采样结合隐私保护与主动学习,提升模型泛化能力。
- 训练优化:贝叶斯优化框架提高资源利用率,尤其在离散空间表现优异。
- 云边协同:云端负责训练,边缘设备负责推理,提升协作效率。
实验表明,该平台支持多种模型蒸馏与推理,效果显著。JoyBuild平台为企业提供定制化解决方案,助力通用模型向专业模型转化,大幅缩短开发周期,降低人力与成本。
京东还结合自身业务场景,加速大模型商业化落地,为各行业提供普惠性技术支持。这一成果为大模型应用提供了普适路径,推动AI技术更广泛应用。
原文链接
本文链接:https://kx.umi6.com/article/18960.html
转载请注明文章出处
相关推荐
.png)
换一换
京东:1.4万个智能体上岗“赛跑” 数字人带货成绩超80%真人主播
2025-05-22 17:35:51
大模型刷数学题竟有害?CMU评估20+模型指出训练陷阱
2025-07-08 17:52:09
大模型玩不好数独?!Transformer作者初创公司公布排行榜:o3 Mini High“变异数独”正确率仅2.9%
2025-05-28 16:36:56
420 文章
73879 浏览
24小时热文
更多

-
2025-07-22 06:26:47
-
2025-07-22 03:25:23
-
2025-07-22 00:23:59