1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
高通公布下一代Hexagon NPU:两大关键变化!手机也能跑300亿参数模型
9月11日,高通公布专为终端侧智能体AI打造的新一代Hexagon NPU,带来两大关键升级:一是引入Element Accelerator,优化Transformer工作负载并结合向量与标量计算单元,支持最长32K上下文;二是共享内存容量增加50%,大幅降低数据搬运延迟。此次升级让手机运行300亿参数MoE大模型成为可能,每词元仅激活约30亿参数,实现低功耗大模型体验。新NPU支持多种精度,INT4模型预填充性能提升50%,首词元生成缩至1.5秒。新旗舰平台完整信息将于9月22日至24日的夏威夷骁龙峰会揭晓。
Journeyman
09-11 10:16:53
分享至
打开微信扫一扫
内容投诉
生成图片
高通开放 AI 模型,助力开发者打造骁龙 X Elite 平台智能应用
6月23日,高通在Computex大会上开放AI模型,支持开发者打造骁龙X Elite平台智能应用。他们针对45 TOPS的Hexagon NPU优化了AI模型,已在AI Hub提供给注册开发者,涵盖图像分类等领域的边缘设备优化模型。高通希望通过此举刺激市场对搭载强大AI能力SoC的需求,并强调AI作为2024年PC的关键特性。此举旨在提升在竞争中对AMD和英特尔的AI处理器的优势。开发者可轻松获取预训练模型和详细的部署指导。
Journeyman
06-23 08:29:13
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序