生成式AI时代正迅速发展,影响着人们的生活方式、工作效率以及娱乐体验。未来,生成式AI将展现出更多可能性,其趋势和技术进步将在边缘侧得到深化。本文将探讨即将到来的AI趋势、赋能边缘生成式AI的关键技术,以及通向具身机器人的道路。高通技术公司则引领着端到端系统的创新,为终端侧AI的下一轮进化奠定基础。
Transformer架构在生成式AI领域展现出强大可扩展性,推动AI能力向多模态拓展。这一趋势已在多个领域显现,如汽车领域的多传感器协同应用、无线通信中融合多种信号以优化性能。生成式AI在模态和用例上的增强,以及能力和关键性能指标(KPI)的提升,预示着AI能力的全面进化。
将生成式AI引入边缘终端至关重要,它能改善时延、增强交互泛化并保护隐私。具身机器人作为AI应用的下一个前沿,要求边缘设备具备实时处理和交互能力,确保即时性和可扩展性。
高通致力于推动生成式AI在边缘平台的发展,通过优化技术如知识蒸馏、量化、高效图像和视频架构,以及异构计算等,提高AI模型在硬件上的运行效率。例如,通过量化技术将大语言模型压缩至4位整数,实现模型大小缩减4倍,同时降低内存带宽占用、存储、时延和功耗。
未来,生成式AI在边缘侧的应用将更加广泛,涵盖大语言模型及其多模态集成,如支持实时视觉大语言模型的健身教练技术,以及在存在运动和遮挡情况下的物体位置推断。尽管与情景式智能体进行开放式、异步交互仍面临挑战,高通在情景式多模态大模型方面已取得进展,实现了实时处理直播视频流并与用户进行动态交互。
高通的端到端系统理念将推动边缘侧生成式AI的创新,助力AI技术在终端侧的广泛应用,提供更佳体验。随着AI生态系统的不断进化,AI将无处不在,为用户带来更多惊喜和便利。
原文链接
本文链接:https://kx.umi6.com/article/4755.html
转载请注明文章出处
相关推荐
换一换
AI游戏设计师问世,自学成才,无需任何先前知识
2025-02-20 10:10:25
中国内存产业迎头赶上!AI需求助推长鑫逐步缩小差距
2025-01-17 18:27:26
AWS云计算还是亚马逊的“现金牛”吗?
2025-08-02 08:12:48
百度生成式AI和大模型专利中国第一,全栈创新驱动AI应用领先
2025-07-18 16:41:37
从一线到低线,AI下沉真实现状
2025-05-13 16:58:53
研究显示生成式 AI 工具答案质量堪忧:三分之一缺乏可靠来源支持
2025-09-17 23:38:52
美团等入股硅基流动 后者为生成式AI设施提供商
2025-03-12 14:29:34
Meta将在欧盟推出生成式AI助手 仅限文本模式
2025-03-20 15:36:27
都2025年了,人们到底在用AI做什么?国外大牛总结了100个案例
2025-04-11 13:48:58
智驾暗战:全民智驾降温,L3如箭在弦
2025-05-19 12:14:28
冠军队独享200w?这波是冲大学生来的,超千支队伍已组队报名
2025-06-23 21:28:53
IDC预计2028年全球新生成数据量规模将达393.9ZB
2025-05-17 20:13:10
初级员工,生成式AI的第一批牺牲者?
2025-07-02 11:04:40
532 文章
262931 浏览
24小时热文
更多
-
2025-10-26 13:13:50 -
2025-10-26 13:12:39 -
2025-10-26 13:11:21