1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
面壁智能 MiniCPM 4 与 Intel 全面适配,实现 AI PC 2.2 倍长文本推理优化
6月6日晚,面壁智能发布端侧大模型MiniCPM 4.0,该模型全面适配Intel处理器,结合英特尔加速套件与KV Cache内存增强技术,使AI PC在长文本推理上优化2.2倍。此次发布的MiniCPM 4.0系列包括8B和0.5B两种参数规模,通过“高效双频换挡”机制,可根据任务需求自动切换稀疏或稠密注意力模式,提升长、短文本处理效率。英特尔酷睿Ultra处理器已实现对该模型的Day 0支持,并利用OpenVINO工具套件优化性能。此外,MiniCPM 4.0可在vLLM、SGLang、LlamaFactory、XTuner等开源框架部署,内置CPM.cu框架,实现模型瘦身和速度提升90%,官方称其为端侧推理带来更流畅体验。
梦境编程师
06-13 00:40:15
AI PC
MiniCPM 4.0
面壁智能
分享至
打开微信扫一扫
内容投诉
生成图片
0.5B以小搏大拿下端侧模型新SOTA:4090可跑,长文本处理5倍常规加速丨清华&面壁开源
标题:0.5B以小搏大拿下端侧模型新SOTA:4090可跑,长文本处理5倍加速 正文: 端侧性价比之王,清华大学和面壁智能团队开源新模型——MiniCPM 4,提供8B、0.5B两种参数规模,仅用同级别模型22%的训练开销便达最优性能。MiniCPM4-8B是首个开源的原生稀疏模型,5%的极高稀疏度...
神经网络领航员
06-10 16:50:15
MiniCPM4
端侧模型
长文本处理
分享至
打开微信扫一扫
内容投诉
生成图片
面壁智能发布端侧大模型“前进四”MiniCPM 4.0,号称性能大小王
6月7日消息,面壁智能于6日晚发布端侧大模型MiniCPM 4.0。该系列包括8B和0.5B两种参数规模,其中8B版本采用“高效双频换挡”机制,可根据任务特征自动切换注意力模式,优化长、短文本处理效率;0.5B版本则被称为“轻巧灵动的最强小小钢炮”。MiniCPM 4.0基于自研CPM.cu推理框架,支持在vLLM、SGLang、LlamaFactory等框架部署,极限场景下提速达220倍,常规场景下提速5倍。此外,官方强调其模型压缩量化创新及端侧部署优化,可实现90%的瘦身与速度提升,旨在提供流畅的端侧推理体验。
像素宇宙
06-07 09:47:05
MiniCPM 4.0
端侧大模型
面壁智能
分享至
打开微信扫一扫
内容投诉
生成图片
面壁智能发布 MiniCPM-o 2.6 全模态模型,号称“端侧 GPT-4o”
1月16日,面壁智能发布MiniCPM-o 2.6端侧全模态模型,参数为8B,号称性能比肩GPT-4o、Claude-3.5-Sonnet。该模型支持文本、图像、音频和视频等多种数据处理,可在iPad上运行,且在OpenCompass榜单上平均得分70.2,超越了GPT-4o-202405、Gemini 1.5 Pro和Claude 3.5 Sonnet等主流模型。MiniCPM-o 2.6还支持中英双语语音对话及情感控制等功能。
DreamCoder
01-16 19:00:56
MiniCPM-o 2.6
多模态
端侧
分享至
打开微信扫一扫
内容投诉
生成图片
全球首次!国产AI开源端侧GPT-4o海外爆火,8B参数iPad就能跑
全球首次!国产AI开源端侧GPT-4o海外爆火,8B参数iPad就能跑 国产AI MiniCPM-o 2.6因仅8B参数便具备多模态能力而火爆海外。该模型可在iPad上运行,支持听觉、视觉和语言多模态交互。 MiniCPM-o 2.6能精准识别声音、图像和视频,如盲听各种声音、记忆卡片图案、理解图片...
Oasis
01-16 18:59:50
MiniCPM-o
多模态
开源
分享至
打开微信扫一扫
内容投诉
生成图片
“端侧 ChatGPT 时刻到来”,面壁智能推出小钢炮开源 MiniCPM3-4B AI 模型
面壁智能于9月5日宣布推出开源MiniCPM3-4B AI模型,标志着“端侧ChatGPT时刻”的到来。这款模型是MiniCPM系列的最新一代产品,性能超越了Phi-3.5-mini-Instruct和GPT-3.5-Turbo-0125,与多个70亿至90亿参数的AI模型相匹敌。相较于前两代产品,MiniCPM3-4B在功能集方面更加丰富,新增了函数调用和代码解释器功能,使其适用范围更广。此外,该模型具备32k上下文窗口,通过LLMxMapReduce技术,内存占用低且可处理无限上下文。面壁智能还同步发布了RAG套件MiniCPM-Embedding、MiniCPM-Reranker模型及微调版MiniCPM3-RAG-LoRA模型,以适应特定场景需求。用户可通过以下链接获取MiniCPM3-4B的开源代码:[链接]
星际Code流浪者
09-06 09:41:32
MiniCPM3-4B
端侧 ChatGPT
面壁智能
分享至
打开微信扫一扫
内容投诉
生成图片
面壁智能开源 MiniCPM-V 2.6 模型:号称端侧 AI 多模态能力对标 GPT-4V,6G 内存可用
面壁智能于8月7日宣布开源MiniCPM-V 2.6模型,该模型在端侧AI多模态能力上声称已达到与GPT-4V相匹敌的水平。MiniCPM-V 2.6在参数量仅为8B的情况下,取得了20B以下的单图、多图、视频理解的顶尖成绩。其核心亮点包括: 1. **端侧多模态融合**:首次在端侧实现了单图、多...
灵感Phoenix
08-07 12:28:53
GPT-4V
MiniCPM-V 2.6
端侧 AI 多模态
分享至
打开微信扫一扫
内容投诉
生成图片
让「GPT-4V」跑在手机上,这家中国大模型公司做到了
面壁科技发布MiniCPM-V 2.6,这款端侧大模型在多模态核心能力上实现了对GPT-4V的全面超越,包括单图、多图及视频理解能力。MiniCPM-V 2.6在端侧性能上对标GPT-4V,取得了20B以下参数下的SOTA成绩。在知识密度上,得益于视觉token数量减少30%,MiniCPM-V 2...
代码编织者Nexus
08-07 11:18:02
GPT-4V
MiniCPM-V 2.6
多模态大模型
分享至
打开微信扫一扫
内容投诉
生成图片
WAIC 最具技术想象力成果发布:新架构面壁小钢炮又一次验证并加速了面壁定律
2024年世界人工智能大会(WAIC)上,面壁智能发布MiniCPM-S高效稀疏模型,实现2.8倍推理速度提升与FFN模块84%成本降低,验证并加速了面壁定律。此外,MobileCPM推出,降低开发者门槛,支持一键集成端侧大模型至APP,无需云端GPU,显著降低成本。面壁智能CEO李大海宣布,2026年底将实现GPT-4水平的端侧模型,展示公司在AGI技术前沿的领导地位。
镜像现实MirageX
07-06 12:05:22
MiniCPM
面壁定律
高效 Scaling
分享至
打开微信扫一扫
内容投诉
生成图片
面壁智能开源“小钢炮”MiniCPM-S AI 模型,主打高效低能耗
7月5日,在2024世界人工智能大会(WAIC 2024)期间,面壁智能首席科学家刘知远宣布开源新一代高效低能耗AI模型MiniCPM-S,参数仅24亿,性能媲美GPT-3,且知识密度显著提升。MiniCPM-S采用稀疏激活技术,降低能耗,特别1.2B版本拥有87.89%的平均稀疏度,推理算力下降84%,同时在CPU环境下推理速度提升近3倍,性能强大且无损。面壁还同步发布业内首个端侧大模型工具集MobileCPM,支持快速集成到App,提供多种定制模式,包括集成MiniCPM-S 1.2B。这些开源资源旨在助力开发者轻松构建高效AI应用。
虚拟微光
07-06 08:23:43
MiniCPM-S
MobileCPM
高效低能耗
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序