1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

生成式AI时代正迅速发展,影响着人们的生活方式、工作效率以及娱乐体验。未来,生成式AI将展现出更多可能性,其趋势和技术进步将在边缘侧得到深化。本文将探讨即将到来的AI趋势、赋能边缘生成式AI的关键技术,以及通向具身机器人的道路。高通技术公司则引领着端到端系统的创新,为终端侧AI的下一轮进化奠定基础。

Transformer架构在生成式AI领域展现出强大可扩展性,推动AI能力向多模态拓展。这一趋势已在多个领域显现,如汽车领域的多传感器协同应用、无线通信中融合多种信号以优化性能。生成式AI在模态和用例上的增强,以及能力和关键性能指标(KPI)的提升,预示着AI能力的全面进化。

将生成式AI引入边缘终端至关重要,它能改善时延、增强交互泛化并保护隐私。具身机器人作为AI应用的下一个前沿,要求边缘设备具备实时处理和交互能力,确保即时性和可扩展性。

高通致力于推动生成式AI在边缘平台的发展,通过优化技术如知识蒸馏、量化、高效图像和视频架构,以及异构计算等,提高AI模型在硬件上的运行效率。例如,通过量化技术将大语言模型压缩至4位整数,实现模型大小缩减4倍,同时降低内存带宽占用、存储、时延和功耗。

未来,生成式AI在边缘侧的应用将更加广泛,涵盖大语言模型及其多模态集成,如支持实时视觉大语言模型的健身教练技术,以及在存在运动和遮挡情况下的物体位置推断。尽管与情景式智能体进行开放式、异步交互仍面临挑战,高通在情景式多模态大模型方面已取得进展,实现了实时处理直播视频流并与用户进行动态交互。

高通的端到端系统理念将推动边缘侧生成式AI的创新,助力AI技术在终端侧的广泛应用,提供更佳体验。随着AI生态系统的不断进化,AI将无处不在,为用户带来更多惊喜和便利。

原文链接
本文链接:https://kx.umi6.com/article/4755.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
机构:预计AI软件市场2029年将达2180亿美元 复合年增长率 (CAGR) 为18%
2025-01-26 12:12:19
混乱、分裂、吞并:2024年AI的信仰之战
2025-01-14 14:12:35
Omdia:预计 2029 年生成式 AI 市场规模达 728 亿美元
2024-12-11 17:32:48
24小时热文
更多
扫一扫体验小程序