6月6日晚,面壁智能发布端侧大模型MiniCPM 4.0,该模型全面适配Intel处理器,结合英特尔加速套件与KV Cache内存增强技术,使AI PC在长文本推理上优化2.2倍。此次发布的MiniCPM 4.0系列包括8B和0.5B两种参数规模,通过“高效双频换挡”机制,可根据任务需求自动切换稀疏或稠密注意力模式,提升长、短文本处理效率。英特尔酷睿Ultra处理器已实现对该模型的Day 0支持,并利用OpenVINO工具套件优化性能。此外,MiniCPM 4.0可在vLLM、SGLang、LlamaFactory、XTuner等开源框架部署,内置CPM.cu框架,实现模型瘦身和速度提升90%,官方称其为端侧推理带来更流畅体验。
原文链接
本文链接:https://kx.umi6.com/article/20163.html
转载请注明文章出处
相关推荐
.png)
换一换
微软高通热炒的AI PC,“雷声大雨点小”?
2024-07-09 09:59:37
面壁李大海:大模型圈拼的已经不只是堆卡了
2025-03-18 18:47:33
拿来主义难撑联想的AI雄心
2024-08-30 16:26:41
电脑+AI,有搞头!但不多
2024-12-13 10:17:59
美银分析师:英伟达或将在CES 2025会展上宣布进军AI PC
2025-01-04 16:19:37
“清华系”面壁智能与华为云合作,推进大模型端云协同解决方案
2024-06-24 19:56:46
联想集团杨元庆:相信明年联想全球笔记本电脑出货量的25%都将是AI PC
2024-11-15 19:08:05
未来的PC将有多智能?AMD给出了创新样本
2025-03-28 14:49:24
英特尔目标明年出货1亿台AI PC
2024-10-29 14:33:08
1个小时 你能用AI PC做什么!七彩虹RTX AI创作挑战赛打了个样
2024-10-23 11:35:25
三星显示与英特尔签署技术合作及联合推广谅解备忘录,提升 AI PC 的功能与效率
2025-02-23 17:01:12
AI终端“6月大戏”即将开幕!英伟达、苹果、AMD动态连发 行业掀起新一轮换机潮?
2024-06-01 09:26:49
美国银行分析师:英伟达有望正式进军“AI PC”市场,小概率亲自推出 CPU
2025-01-03 15:49:36
508 文章
185820 浏览
24小时热文
更多

-
2025-09-06 11:36:18
-
2025-09-06 11:35:08
-
2025-09-06 11:33:57