标题:大模型商用格局雏形初现:Tokens用量决高下,火山引擎问鼎2024
大模型应用落地元年,关注哪些业务?答案在于Tokens使用量。2024下半年,国内大模型商用落地日均Tokens消耗量从1000亿增至10000亿,月复合增长率达45%。火山引擎表现尤为突出,其日均Tokens消耗量从5月的百亿级跃升至12月的5000亿以上,市场份额超50%。
这意味着平均每秒并发Token数约为750万,即每秒处理7500个用户请求。增长背后的核心因素是AI原生应用的爆发。豆包大模型日均Tokens使用量从7个月前的1200亿增至4万亿,增长33倍。截至2024年10月,中国AI原生应用累计下载量达1.8亿,豆包以5998万月活位居第二,增速超10%。
Token作为最小意义单位,连接自然语言与模型,确保文本连贯性和一致性。随着多模态领域的发展,Token还能处理视频、图像、文本和音频等信息。Token量不仅反映模型预训练规模、上下文理解和推理算力,还成为大模型API定价标准。
2024下半年,中国生成式AI日均Tokens处理规模从35亿增至1.12万亿,增长320倍。技术进步和应用落地场景扩大是主要原因。RAG、智能体、多模态AI拓宽了大模型的应用范围,加速了落地进程。同时,标杆案例的出现也加速了大模型的普及,预计未来一年将帮助企业降低成本、增加收入、提高效率。
火山引擎力推多模态大模型,价格仅为行业平均水平的15%。其豆包大模型已与八成主流汽车品牌合作,接入多家智能终端,覆盖3亿台设备。信息处理、客服、销售、硬件终端等场景的调用量显著增长。
未来,Token成本有望进一步下降,规模化增长无瓶颈。大模型训练成本增速放缓,GPU算力提升,云厂商模式成熟,将推动大模型应用进一步普及。预计2027年,豆包每日Token消耗量将超100万亿,标志着大模型应用的全面爆发。
.png)

-
2025-07-21 09:17:04
-
2025-07-21 09:16:17
-
2025-07-21 09:16:00