8月6日,摩尔线程宣布其MUSA架构成功适配llama.cpp,进一步融入全球AI生态圈。llama.cpp是一个纯C/C++实现的项目,旨在简化大语言模型推理,并在多种硬件环境下提供高性能支持。该工具大幅降低了大语言模型推理门槛,支持包括LLaMA、Mistral、Qwen等主流模型及多模态模型。摩尔线程的MTT S80/S3000/S4000 GPU用户可通过官方容器镜像使用llama.cpp。此外,今年4月MUSA SDK升级至4.0.1版本,扩展了对Intel处理器+Ubuntu系统及海光处理器+麒麟系统的支持。
原文链接
本文链接:https://kx.umi6.com/article/23125.html
转载请注明文章出处
相关推荐
.png)
换一换
国产GPU历史性时刻!摩尔线程、沐曦同日获IPO受理
2025-07-01 16:26:02
摩尔线程支持 DeepSeek 开源周“全家桶”
2025-03-02 10:30:14
估值255亿!“中国英伟达”GPU独角兽摩尔线程启动IPO上市辅导
2024-11-13 07:26:24
英伟达中国一把手造国产GPU,冲刺IPO了
2025-06-19 17:51:43
首个国产全功能GPU的万卡集群来了!“中国英伟达”出品
2024-07-04 20:43:24
摩尔线程:与师者 AI 完成 70 亿参数教育大模型训练测试
2024-06-14 14:15:12
摩尔线程开源 MT-MegatronLM 和 MT-TransformerEngine 两大 AI 框架
2025-03-17 18:54:18
摩尔线程新方法优化AI交互:显存节省最多82%
2025-03-04 19:31:51
摩尔线程:MUSA 成功适配 llama.cpp,直通全球 AI 生态圈
2025-08-06 17:36:40
国产GPU跑满血DeepSeek,已经可以100 tokens/s了!
2025-07-26 18:43:48
树莓派 Zero“硬核改造”:8 年老设备实现本地运行大语言模型
2025-02-18 09:08:05
摩尔线程率先支持腾讯混元-A13B 模型,完成全功能 GPU 深度适配
2025-06-29 18:32:47
摩尔线程算力专区正式上线 AutoDL 平台,首次将国产 GPU 算力开放至 AI 开发一线
2025-05-22 08:21:47
434 文章
70220 浏览
24小时热文
更多

-
2025-08-06 19:37:26
-
2025-08-06 19:37:05
-
2025-08-06 19:36:17