大厂做不好的Local Agent为何难？

2025-11-13 08:47:14

数码游侠

发布在

快讯

阅读：2440

2025年下半年，AI行业面临大模型边际收益递减的困境，训练成本接近10亿美元。然而，小模型逆袭趋势显现，DeepSeek R1-0528将671B参数模型蒸馏至8B，性能反超10%。英伟达研究显示，小于100亿参数的小模型在多数任务中媲美甚至超越大模型，成本仅为1/10到1/30。产业从“参数竞赛”转向“效率革命”，AI逐步走向端侧设备。GreenBitAI推出专业级Local Agent产品Libra，支持完全本地化运行，满足隐私需求，性能媲美云端模型。Libra专注文档处理、离线运行和高性能体验，验证了消费级硬件上流畅运行专业级AI的可能性。GreenBitAI计划通过ToC订阅、ToB授权及平台化生态三步走战略，推动端侧AI普及，目标成为端侧AI基础设施提供商。

原文链接

本文链接：https://kx.umi6.com/article/28295.html

转载请注明文章出处

AI模型压缩