
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
标题:0.5B以小搏大拿下端侧模型新SOTA:4090可跑,长文本处理5倍加速
正文:
端侧性价比之王,清华大学和面壁智能团队开源新模型——MiniCPM 4,提供8B、0.5B两种参数规模,仅用同级别模型22%的训练开销便达最优性能。MiniCPM4-8B是首个开源的原生稀疏模型,5%的极高稀疏度...
原文链接
标题:苹果AI“百亿补贴”来了:免费开放端侧模型
去年WWDC上,苹果宣传的苹果智能再次跳票,余味犹存。今年WWDC25的主演讲同样令人失望,苹果在AI上的新功能如实时翻译、快捷指令等并无太多创新,视觉智能功能也落后于Google Lens多年,交互体验不如安卓阵营。
然而,苹果宣布的一项消息将...
原文链接
2025年被视为端侧应用爆发的元年,面壁智能CEO李大海指出市场空间广阔,竞争核心已超越“堆卡”模式。DeepSeek爆火激活了端侧生态,促使众多厂商转向智能终端。面壁2024年专注于提高模型“知识密度”及端侧生态布局,其端侧模型“小钢炮”具备高效率低功耗特性,已在手机、汽车等领域推进落地。李大海强调,2025年端侧竞争将聚焦多模态能力提升及个性化落地,尤其是汽车智能座舱和手机个性化服务。他认为,技术创新与组织人才才是关键,而非单纯依赖资本。面壁计划进一步优化端侧模型性能,并深化与硬件厂商的合作,以实现更深层次的端侧产品化。尽管技术供给仍有潜力,但他提醒各厂商需专注挖掘终端场景价值,避免同质化竞争。
原文链接
《科创板日报》报道,面壁智能CEO李大海表示,大模型将在未来十年内变得“无处不在”,特别是在成本更低、尺寸更小、效率更高的端侧模型方面。随着Scaling law面临数据和算力挑战,大模型的密度定律Densing Law推动其能力密度每3.3个月翻一番。这使得大模型能在各类终端上运行,类似于从大型机到个人电脑的转变。李大海认为,大模型将进入千家万户、千行百业,成为推动各行业变革的关键力量。
原文链接
自2023年起,大模型与具身智能成为科技发展的两大趋势,推动机器人智能化进程。然而,机器人端侧模型的落地面临多重挑战,包括芯片适配、数据积累及算力限制。目前,国内机器人厂商大致分为视觉感知、强化学习和语言模型三大技术派别。尽管大模型在提升机器人智能方面具有潜力,但在具体操作上,仍限于简单任务理解和短...
原文链接
标题:面壁者决心“破壁”
近日,面壁智能首席科学家刘知远在2024中国人工智能大会上表示,大模型不应局限于少数几个,未来将如CPU般普及。他强调降低成本的重要性,使每个人都能拥有大模型,改善生活、学习和工作。
刘知远指出,当前数据接近耗尽,模型训练面临瓶颈,但他认为通过强化学习或合成数据仍可突破。一...
原文链接
苹果智能(Apple Intelligence)于今日正式在海外市场上线,计划于12月推出新一批AI功能,包括将ChatGPT集成到Siri中及推出更强的图像生成工具。然而,其在中国市场的具体上线时间尚未确定。
与此同时,国内安卓阵营厂商纷纷发布一系列端侧AI和操作系统升级。OPPO最新发布的Fi...
原文链接
**摘要:**
10月23日,《科创板日报》报道,OPPO已收购位于杭州的AI创业公司波形智能,近期完成收购谈判。波形智能成立于2023年3月,专注于长内容生成领域,包括小说、剧本及视频创作。该公司拥有自研的Agents框架和Weaver大模型,能生成大量内容并具备多模态生成能力。创始人姜昱辰本科...
原文链接
《手机厂开卷AI这一年:端侧大模型尺寸减小,催生新硬件》
随着AI大模型席卷手机圈,vivo、OPPO、华为、荣耀等国内手机厂商纷纷在生成式AI领域发力。历经一年发展,云端运行AI大模型成本显著降低,端侧模型尺寸缩小趋势明显,30亿参数端侧模型有望成为标配。AI有望推动智能眼镜等新硬件品类的诞生,...
原文链接
微软亚洲研究院开源新技术T-MAC,该技术专为优化模型端侧部署而设计,主打性价比,能在CPU上高效部署低比特大语言模型,性能甚至超越NPU/GPU。T-MAC通过基于查找表(LUT)的计算范式,无需反量化操作,直接支持混合精度矩阵乘法,显著提高了推理性能,使模型更加统一和可扩展,尤其适合资源受限的端侧设备。在配备最新高通Snapdragon X Elite芯片组的Surface AI PC上,T-MAC实现了3B BitNet-b1.58模型每秒48个token的生成速率,2bit 7B llama模型每秒30个token,4bit 7B llama模型每秒20个token的生成速率,超越了NPU性能。T-MAC技术现已开源,提供代码和论文链接供进一步研究。
【发布日期】2024年8月
原文链接
加载更多

暂无内容