1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
商汤绝影行业首发原生多模态大模型车端部署:80 亿参数、每秒 40 Tokens
7月19日,商汤科技首席科学家王晓刚宣布,商汤绝影成为业内首个实现原生多模态大模型车端部署的公司,80亿参数模型可在300毫秒内完成首包处理,每秒40 Tokens推理。搭载HyperPPL计算引擎,支持主流车载硬件和操作系统,优化多人并发场景,确保多人使用时效率不变。深圳自动驾驶公交已采用该技术,无需人工干预。未来随着更强算力的车载芯片如NVIDIA Thor的推出,商汤预计延迟将进一步降低,推理速度提升。
DreamCoder
07-19 13:35:17
商汤绝影
多模态大模型
车端部署
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序