综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
花几百万买的H100显卡利用率偏低?别急着加卡,问题可能是你的模型没适配硬件。
GPU是算力极强的“大力士”,但需持续“喂数据”。若模型设计导致“算术强度”低(如矩阵维度过窄),GPU会把大量时间花在等数据搬运上,陷入“访存受限”,让顶级算力白白闲置。
为此,英伟达提出“模型-硬件协同设计”,并总结...
原文链接
加载更多
暂无内容