综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
华为将于11月21日发布一项AI领域的突破性技术,可将GPU、NPU等算力硬件利用率从30%-40%提升至70%,显著解决算力瓶颈问题。该技术基于软件创新,实现对英伟达、昇腾及其他第三方算力资源的统一管理与调度,屏蔽底层硬件差异,为AI任务提供高效支持。在NVIDIA芯片供应紧张背景下,中国云服务提供商加速转向国产替代方案,华为昇腾系列芯片备受青睐。其中,昇腾910C作为市场首选,采用双芯片封装设计,已规模化量产,成为首款在人工智能领域大规模部署的国产芯片。
原文链接
DeepSeek近日发布R1模型,性能接近OpenAI产品且成本更低,引发行业震动。R1模型采用混合专家模型、多头潜注意力机制等技术,大幅降低算力需求和能耗。此举或引发算力需求激增,加剧杰文斯悖论效应。DeepSeek的技术突破有望推动算力生态向分布式方向发展,但也可能增加能源消耗。全球科技巨头正加大算力投资,微软与OpenAI计划共建AI超算集群。中国需探索高效、可持续的AI发展路径,兼顾算力优化和能源结构转型。
原文链接
英伟达在过去一年市值激增,得益于AI芯片在生成式AI需求旺盛下的市场追捧。面对算力荒,AI行业正聚焦于算法创新,尤其是MoE(混合专家)模型因算力效率提升而走红。MoE模型通过稀疏激活机制,有效利用计算资源,如阿里巴巴和浪潮信息的模型展示了其在性能与资源利用上的优势。尽管算力需求仍大,但MoE通过模块化设计和创新技术(如QLoRA和DeepSpeed-MoE)保持高性能,同时减少对高端GPU的依赖。AI厂商正通过不断优化来应对挑战,预示着算法与基础设施的协同成为新趋势,MoE模型有望推动AI进入新的发展阶段。
原文链接
加载更多
暂无内容