标题:矩阵乘法可以算得更快了!港中文10页论文证明:能源、时间均可节省
正文:天下苦大模型矩阵乘法久矣。训练或推理过程中,矩阵乘法耗尽算力。如今,香港中文大学提出新算法,能源节省5%-10%,时间节省5%。
论文作者Dmitry Rybin表示,新算法名为RXTX,基于4×4分块矩阵递归乘法,通过机器学习与组合优化结合发现。关键步骤包括分块递归调用、对称乘积计算及结果组合,最终提升XXt计算效率。
与传统Strassen算法相比,RXTX递归关系为R(n)=8R(n/4)+26M(n/4),较原算法S(n)=4S(n/2)+2M(n/2)优化5%。实验显示,当n为4的幂次时,RXTX乘法次数降低5%,总运算量优于原算法,尤其当n≥256时显著提速。在6144×6144矩阵测试中,RXTX平均运行时间比BLAS快9%,99%测试中表现更优。
算法借助机器学习与组合优化,通过强化学习生成候选乘积,MILP筛选最优子集并迭代优化,大幅降低计算复杂度。论文地址:https://arxiv.org/abs/2505.09814。
原文链接
本文链接:https://kx.umi6.com/article/18770.html
转载请注明文章出处
相关推荐
换一换
DeepSeek最新开源,比英伟达更懂如何优化英伟达?
2025-02-26 15:39:53
谷歌AlphaEvolve的数学能力,堪比AlphaGo“神之一手”?
2025-05-18 12:20:47
DeepSeek开源第三弹:V3/R1训练推理关键秘籍,核心代码仅300行
2025-02-26 11:27:05
还在为大模型洗数据熬夜?蚂蚁拿下VLDB工业最佳论文,一套宽表搞定35PB语料,效率狂飙5.6倍
2026-09-02 15:35:06
GPT-6 砍掉思考 Token,俄罗斯人砍掉通信 Token,Token 经济开始崩了?
2026-09-03 20:42:12
急急急用电!马斯克开造燃气轮机叶片
2026-09-01 16:46:29
我国首个相关国标今起实施!整治AI客服已读乱回 转人工终于不难了
2026-09-01 01:08:21
男子听AI抄近道下山被困深山 事后AI说“哈哈”
2026-08-31 18:54:24
一个模型场景通吃!它石智航AWE3.7的泛化能力有点狠
2026-09-03 11:17:59
陈大年复出,入局大模型
2026-09-03 18:32:42
不甘落后中美 欧洲推出最强AI大模型Quasar:可惜还没资格上桌
2026-09-02 22:54:27
姚班校友主导,Claude攻克费马大定理首个完整形式化证明
2026-09-05 10:04:54
常州女首富机器人转型才开始,先因裁应届生上了热搜
2026-09-04 12:14:59
708 文章
891663 浏览
24小时热文
更多
-
2026-09-06 21:14:00 -
2026-09-06 20:12:34 -
2026-09-06 20:10:47