8月6日,摩尔线程宣布其MUSA架构成功适配llama.cpp,进一步融入全球AI生态圈。llama.cpp是一个纯C/C++实现的项目,旨在简化大语言模型推理,并在多种硬件环境下提供高性能支持。该工具大幅降低了大语言模型推理门槛,支持包括LLaMA、Mistral、Qwen等主流模型及多模态模型。摩尔线程的MTT S80/S3000/S4000 GPU用户可通过官方容器镜像使用llama.cpp。此外,今年4月MUSA SDK升级至4.0.1版本,扩展了对Intel处理器+Ubuntu系统及海光处理器+麒麟系统的支持。
原文链接
本文链接:https://kx.umi6.com/article/23125.html
转载请注明文章出处
相关推荐
换一换
摩尔线程:与师者 AI 完成 70 亿参数教育大模型训练测试
2024-06-14 14:15:12
估值255亿!“中国英伟达”GPU独角兽摩尔线程启动IPO上市辅导
2024-11-13 07:26:24
“中国英伟达”投资人,赚翻了
2025-09-26 17:32:45
英伟达中国一把手造国产GPU,冲刺IPO了
2025-06-19 17:51:43
摩尔线程新方法优化AI交互:显存节省最多82%
2025-03-04 19:31:51
市值3055亿!摩尔线程敲钟,国产通用GPU第一股来了
2025-12-05 12:24:49
摩尔线程、国家信息中心战略合作!国产GPU空前新机遇
2025-10-23 20:13:57
国产GPU历史性时刻!摩尔线程、沐曦同日获IPO受理
2025-07-01 16:26:02
摩尔线程科创板IPO将于9月26日上会
2025-09-19 19:20:38
国产GPU跑满血DeepSeek,已经可以100 tokens/s了!
2025-07-26 18:43:48
投资界24h|Cursor获23亿美元D轮融资;源码资本募集6亿美元,周期25年;摩尔线程启动IPO发行,月底申购
2025-11-14 09:46:24
摩尔线程支持 DeepSeek 开源周“全家桶”
2025-03-02 10:30:14
寒武纪、摩尔线程完成对智谱 GLM-4.6 的适配,国产大模型与国产芯片协同进入新阶段
2025-09-30 18:30:45
569 文章
326200 浏览
24小时热文
更多
-
2025-12-08 23:53:52 -
2025-12-08 22:52:38 -
2025-12-08 22:51:57