1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

6月6日晚,面壁智能发布端侧大模型MiniCPM 4.0,该模型全面适配Intel处理器,结合英特尔加速套件与KV Cache内存增强技术,使AI PC在长文本推理上优化2.2倍。此次发布的MiniCPM 4.0系列包括8B和0.5B两种参数规模,通过“高效双频换挡”机制,可根据任务需求自动切换稀疏或稠密注意力模式,提升长、短文本处理效率。英特尔酷睿Ultra处理器已实现对该模型的Day 0支持,并利用OpenVINO工具套件优化性能。此外,MiniCPM 4.0可在vLLM、SGLang、LlamaFactory、XTuner等开源框架部署,内置CPM.cu框架,实现模型瘦身和速度提升90%,官方称其为端侧推理带来更流畅体验。

原文链接
本文链接:https://kx.umi6.com/article/20163.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
电脑全球出货量上涨!只有一家在挨揍…
2024-07-13 09:59:19
打工人的电脑,需要什么样的AI?
2024-07-10 20:12:11
面壁智能 MiniCPM 4 与 Intel 全面适配,实现 AI PC 2.2 倍长文本推理优化
2025-06-13 00:40:15
24小时热文
更多
扫一扫体验小程序