6月6日晚,面壁智能发布端侧大模型MiniCPM 4.0,该模型全面适配Intel处理器,结合英特尔加速套件与KV Cache内存增强技术,使AI PC在长文本推理上优化2.2倍。此次发布的MiniCPM 4.0系列包括8B和0.5B两种参数规模,通过“高效双频换挡”机制,可根据任务需求自动切换稀疏或稠密注意力模式,提升长、短文本处理效率。英特尔酷睿Ultra处理器已实现对该模型的Day 0支持,并利用OpenVINO工具套件优化性能。此外,MiniCPM 4.0可在vLLM、SGLang、LlamaFactory、XTuner等开源框架部署,内置CPM.cu框架,实现模型瘦身和速度提升90%,官方称其为端侧推理带来更流畅体验。
原文链接
本文链接:https://kx.umi6.com/article/20163.html
转载请注明文章出处
相关推荐
.png)
换一换
国产大模型被抄袭事件告终 斯坦福团队致歉并撤下模型 面壁:知错能改,善莫大焉
2024-06-06 15:59:35
接入DeepSeek-R1联网满血版大模型,联想发布小新Pro系列新品
2025-02-19 10:45:41
面壁李大海:大模型圈拼的已经不只是堆卡了
2025-03-18 18:47:33
对话杨元庆:未来1年端侧AI提升3倍性能,“这是短期内保守估计”丨直击MWC 2025
2025-03-07 09:32:23
AI终端“6月大戏”即将开幕!英伟达、苹果、AMD动态连发 行业掀起新一轮换机潮?
2024-06-01 09:26:49
苹果市值超越微软重回第一;从微软到高通 科技公司正掀起一场名为“AI PC”的新型电脑营销热潮|AI daily早新闻
2024-07-09 10:59:56
与英特尔联合研发,联想带来了Aura Edition等多款AI PC新品
2024-09-06 19:59:08
Mac装上字节豆包,艾玛!一下变AI PC了!
2024-07-22 16:39:48
英特尔Lunar Lake「统一内存」,一切都是为了AI
2024-06-06 16:19:33
面壁智能获新一轮数亿元融资,引领端侧大模型高效发展与应用普及
2025-05-21 09:57:36
未来的PC将有多智能?AMD给出了创新样本
2025-03-28 14:49:24
联想豪赌AI,但还是靠组装
2024-06-06 16:46:45
问世一年后,AI真的改变PC了吗?
2024-08-24 11:56:57
560 文章
276946 浏览
24小时热文
更多

-
2025-10-24 05:23:38
-
2025-10-24 03:21:23
-
2025-10-24 01:20:07