生成式AI时代正迅速发展,影响着人们的生活方式、工作效率以及娱乐体验。未来,生成式AI将展现出更多可能性,其趋势和技术进步将在边缘侧得到深化。本文将探讨即将到来的AI趋势、赋能边缘生成式AI的关键技术,以及通向具身机器人的道路。高通技术公司则引领着端到端系统的创新,为终端侧AI的下一轮进化奠定基础。
Transformer架构在生成式AI领域展现出强大可扩展性,推动AI能力向多模态拓展。这一趋势已在多个领域显现,如汽车领域的多传感器协同应用、无线通信中融合多种信号以优化性能。生成式AI在模态和用例上的增强,以及能力和关键性能指标(KPI)的提升,预示着AI能力的全面进化。
将生成式AI引入边缘终端至关重要,它能改善时延、增强交互泛化并保护隐私。具身机器人作为AI应用的下一个前沿,要求边缘设备具备实时处理和交互能力,确保即时性和可扩展性。
高通致力于推动生成式AI在边缘平台的发展,通过优化技术如知识蒸馏、量化、高效图像和视频架构,以及异构计算等,提高AI模型在硬件上的运行效率。例如,通过量化技术将大语言模型压缩至4位整数,实现模型大小缩减4倍,同时降低内存带宽占用、存储、时延和功耗。
未来,生成式AI在边缘侧的应用将更加广泛,涵盖大语言模型及其多模态集成,如支持实时视觉大语言模型的健身教练技术,以及在存在运动和遮挡情况下的物体位置推断。尽管与情景式智能体进行开放式、异步交互仍面临挑战,高通在情景式多模态大模型方面已取得进展,实现了实时处理直播视频流并与用户进行动态交互。
高通的端到端系统理念将推动边缘侧生成式AI的创新,助力AI技术在终端侧的广泛应用,提供更佳体验。随着AI生态系统的不断进化,AI将无处不在,为用户带来更多惊喜和便利。
原文链接
本文链接:https://kx.umi6.com/article/4755.html
转载请注明文章出处
相关推荐
.png)
换一换
机构:预计AI软件市场2029年将达2180亿美元 复合年增长率 (CAGR) 为18%
2025-01-26 12:12:19
混乱、分裂、吞并:2024年AI的信仰之战
2025-01-14 14:12:35
Omdia:预计 2029 年生成式 AI 市场规模达 728 亿美元
2024-12-11 17:32:48
415 文章
73617 浏览
24小时热文
更多

-
2025-07-21 11:21:54
-
2025-07-21 11:20:45
-
2025-07-21 11:19:36