面壁智能发布端侧大模型“前进四”MiniCPM 4.0，号称性能大小王

2025-06-07 09:47:05

像素宇宙

发布在

快讯

阅读：788

6月7日消息，面壁智能于6日晚发布端侧大模型MiniCPM 4.0。该系列包括8B和0.5B两种参数规模，其中8B版本采用“高效双频换挡”机制，可根据任务特征自动切换注意力模式，优化长、短文本处理效率；0.5B版本则被称为“轻巧灵动的最强小小钢炮”。MiniCPM 4.0基于自研CPM.cu推理框架，支持在vLLM、SGLang、LlamaFactory等框架部署，极限场景下提速达220倍，常规场景下提速5倍。此外，官方强调其模型压缩量化创新及端侧部署优化，可实现90%的瘦身与速度提升，旨在提供流畅的端侧推理体验。

原文链接

本文链接：https://kx.umi6.com/article/19851.html

转载请注明文章出处

MiniCPM 4.0