8月6日,摩尔线程宣布其MUSA架构成功适配llama.cpp,进一步融入全球AI生态圈。llama.cpp是一个纯C/C++实现的项目,旨在简化大语言模型推理,并在多种硬件环境下提供高性能支持。该工具大幅降低了大语言模型推理门槛,支持包括LLaMA、Mistral、Qwen等主流模型及多模态模型。摩尔线程的MTT S80/S3000/S4000 GPU用户可通过官方容器镜像使用llama.cpp。此外,今年4月MUSA SDK升级至4.0.1版本,扩展了对Intel处理器+Ubuntu系统及海光处理器+麒麟系统的支持。
原文链接
本文链接:https://kx.umi6.com/article/23125.html
转载请注明文章出处
相关推荐
换一换
摩尔线程率先支持腾讯混元-A13B 模型,完成全功能 GPU 深度适配
2025-06-29 18:32:47
摩尔线程及中介机构回复第二轮审核问询函
2025-09-18 15:58:01
摩尔线程科创板IPO将于9月26日上会
2025-09-19 19:20:38
摩尔线程:与师者 AI 完成 70 亿参数教育大模型训练测试
2024-06-14 14:15:12
“中国版英伟达”闪电过会,从受理到过会仅用时88天
2025-09-28 13:54:28
树莓派 Zero“硬核改造”:8 年老设备实现本地运行大语言模型
2025-02-18 09:08:05
摩尔线程算力专区正式上线 AutoDL 平台,首次将国产 GPU 算力开放至 AI 开发一线
2025-05-22 08:21:47
英伟达中国一把手造国产GPU,冲刺IPO了
2025-06-19 17:51:43
国产GPU历史性时刻!摩尔线程、沐曦同日获IPO受理
2025-07-01 16:26:02
摩尔线程还没上市,“概念股”已经抢飞了
2025-09-23 19:21:44
摩尔线程 MTT S4000 训推一体计算卡通过中国信通院 AI 芯片和大模型适配验证
2025-05-08 10:25:57
摩尔线程:MUSA 成功适配 llama.cpp,直通全球 AI 生态圈
2025-08-06 17:36:40
摩尔线程新方法优化AI交互:显存节省最多82%
2025-03-04 19:31:51
522 文章
242061 浏览
24小时热文
更多
-
2025-10-24 09:34:47 -
2025-10-24 09:33:43 -
2025-10-24 09:32:35