异构计算与低功耗NPU：高通推动终端侧生成式AI发展

概述

在2024全球AI芯片峰会上，高通AI产品技术中国区负责人万卫星阐述了高通在终端侧生成式AI领域的创新与贡献。高通持续在AI领域深耕，其领先SoC解决方案集成了异构计算系统与高性能低功耗NPU，以满足生成式AI应用的多样化需求与效能要求。

高算力低功耗NPU演进

高通NPU的演进路径体现了由AI应用驱动的硬件设计优化。从2015年简单的语音识别与图像分类，到2016年的计算摄影概念普及，再到2023年大模型时代的到来，NPU硬件加速单元持续升级，以适应更复杂、对算力和功耗要求更高的AI用例。

终端侧AI优势

在终端侧进行AI处理具有显著优势，包括成本控制、个性化服务、缩短时延以及保护用户隐私。终端侧处理能够减少数据泄露风险，同时利用设备产生的数据进行本地处理，确保数据安全。

高通AI硬件架构

第三代骁龙8移动平台及骁龙X Elite计算平台下的NPU，集成了张量、矢量和标量加速单元，提供强大的算力支持。片上内存优化与先进的微架构设计，确保了高效能与低功耗。

多模态AI模型

高通致力于在终端侧运行多模态大模型，如多模态语言模型，以实现AI应用的广泛覆盖。通过不断优化硬件与软件栈，高通支持更大规模模型在终端侧的运行，满足多样化的AI用例需求。

硬件与软件协同

高通的AI软件栈与硬件架构协同工作，使开发者能在不同产品形态上部署模型，享受高效算力与灵活的模型优化。

异构计算系统

高通通过构建异构计算系统，集成CPU、GPU、NPU及传感器中枢，根据不同任务需求分配资源，提供全面的AI解决方案。

AI体验与应用案例

搭载高通技术的产品已实现在终端侧提供丰富AI体验，如实时翻译、AI消除功能、智慧成片等。大语言模型与视觉助理的集成，展示了终端侧AI的潜力与实际应用。

未来展望

随着最新高通Oryon CPU的下一代移动平台即将发布，高通将持续推动终端侧生成式AI的发展，提供更强大的计算能力和更广泛的AI应用支持。

通过上述整理，原内容被简化为约500字，保留了核心观点与关键信息，旨在清晰传达高通在推动终端侧生成式AI发展方面的努力与成就。