生成式AI时代正迅速发展,影响着人们的生活方式、工作效率以及娱乐体验。未来,生成式AI将展现出更多可能性,其趋势和技术进步将在边缘侧得到深化。本文将探讨即将到来的AI趋势、赋能边缘生成式AI的关键技术,以及通向具身机器人的道路。高通技术公司则引领着端到端系统的创新,为终端侧AI的下一轮进化奠定基础。
Transformer架构在生成式AI领域展现出强大可扩展性,推动AI能力向多模态拓展。这一趋势已在多个领域显现,如汽车领域的多传感器协同应用、无线通信中融合多种信号以优化性能。生成式AI在模态和用例上的增强,以及能力和关键性能指标(KPI)的提升,预示着AI能力的全面进化。
将生成式AI引入边缘终端至关重要,它能改善时延、增强交互泛化并保护隐私。具身机器人作为AI应用的下一个前沿,要求边缘设备具备实时处理和交互能力,确保即时性和可扩展性。
高通致力于推动生成式AI在边缘平台的发展,通过优化技术如知识蒸馏、量化、高效图像和视频架构,以及异构计算等,提高AI模型在硬件上的运行效率。例如,通过量化技术将大语言模型压缩至4位整数,实现模型大小缩减4倍,同时降低内存带宽占用、存储、时延和功耗。
未来,生成式AI在边缘侧的应用将更加广泛,涵盖大语言模型及其多模态集成,如支持实时视觉大语言模型的健身教练技术,以及在存在运动和遮挡情况下的物体位置推断。尽管与情景式智能体进行开放式、异步交互仍面临挑战,高通在情景式多模态大模型方面已取得进展,实现了实时处理直播视频流并与用户进行动态交互。
高通的端到端系统理念将推动边缘侧生成式AI的创新,助力AI技术在终端侧的广泛应用,提供更佳体验。随着AI生态系统的不断进化,AI将无处不在,为用户带来更多惊喜和便利。
原文链接
本文链接:https://kx.umi6.com/article/4755.html
转载请注明文章出处
相关推荐
换一换
当AI开始设计芯片
2025-10-11 10:21:25
杜克大学研究:若在工作中使用生成式 AI,同事可能会质疑你的能力
2025-05-09 19:55:25
亚投行行长金立群:生成式AI的影响将超过很多人最大胆的预期
2025-10-18 14:35:11
从一线到低线,AI下沉真实现状
2025-05-13 16:58:53
都2025年了,人们到底在用AI做什么?国外大牛总结了100个案例
2025-04-11 13:48:58
90后华人副教授突破30年数学猜想!结论与生成式AI直接相关
2025-11-26 13:44:08
4.98万就能买机器人通用基座?一机三态,多场景验证,配VLA大脑
2025-12-19 21:09:41
AWS云计算还是亚马逊的“现金牛”吗?
2025-08-02 08:12:48
机构:2025年上半年中国AI云市场规模达223亿
2025-09-09 11:16:49
生成式AI崛起,它会给移动通信带来怎样的改变?
2025-08-29 13:40:23
《最终幻想》作曲家植松伸夫:从未用过 AI,大概永远都不会使用
2025-10-20 10:04:41
千人调查揭秘:85%学生都用AI,首要目的不是偷懒
2025-09-02 20:39:09
大摩:生成式AI今年就能实现正回报 2028年收入有望突破万亿美元
2025-02-25 22:11:31
613 文章
390925 浏览
24小时热文
更多
-
2025-12-20 00:20:04 -
2025-12-20 00:19:00 -
2025-12-19 23:18:47