1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

标题:DeepSeek玩家能提前拿苹果新品!只要15万元,在家跑满血版R1

正文:
号称地表最强的M3 Ultra,本地跑满血版DeepSeek R1效果如何?已有DeepSeek玩家提前实测。例如Alex老哥,他用两台搭载M3 Ultra的Mac Studio(每台32核CPU、80核GPU、32核神经引擎、512GB统一内存、1TB SSD)通过Thunderbolt 5设备运行完整DeepSeek R1(671B、8-bit),实际速度达11 tokens/秒,理论上可达20 tokens/秒。

相比在线使用DeepSeek R1,在本地运行速度已相当接近。而此前需6-7张A100显卡(约100万元)才能实现类似功能,因此搭载M3 Ultra的Mac Studio被部分网友称为“性价比最高的大模型一体机”。

其他测评显示,B站博主“虽然但是张黑黑”测试中,采用Ollama的GGUF格式速度为15.78 tokens/秒,MLX格式达19.17 tokens/秒。外网博主Xcreate对比M3 Ultra版Mac Studio与M4 Max版MacBook Pro,M3 Ultra在CPU性能上稍优于M4 Max,且在运行DeepSeek R1 70B模型时速度为11.3 tokens/秒,M4 Max为10.69 tokens/秒。

成功运行满血版DeepSeek R1(671B)的关键在于其分片为“专家混合体”,实际运行时切换模型,类似30B规模。不过,有评测显示运行8bit量化版速度为9-21 tokens/秒,4bit量化版为16-18 tokens/秒。

值得注意的是,苹果似乎有意让DeepSeek玩家提前测试M3 Ultra,因其发布时即强调可运行超6000亿参数大模型。此外,网传苹果将在今年WWDC推出M4 Ultra,未来可能更具吸引力。

原文链接
本文链接:https://kx.umi6.com/article/15371.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
DeepSeek 开源新模型 V3.1:约 685B 参数,上下文长度拓展至 128K
2025-08-20 10:11:16
黄仁勋力赞 DeepSeek,称中国创新的步伐不可能被阻挡
2025-07-21 09:13:49
R2来之前,DeepSeek又放了个烟雾弹
2025-05-16 13:58:25
DeepSeek数月来首次在领英上发布招聘信息
2025-07-04 14:48:41
李想回应DeepSeek爆火时自己怎么过的春节:带孩子看了哪吒2
2025-05-07 21:18:12
DeepSeek 下一代技术提前曝光,梁文锋署名论文获 ACL 2025 最佳论文奖
2025-08-01 17:03:23
宝马中国宣布接入DeepSeek
2025-04-27 13:17:25
DeepSeek:已在平台内对 AI 生成合成内容添加标识,用户不得恶意删除
2025-09-01 18:24:35
西门子 CTO 大夸 DeepSeek:预计三五年后西门子的所有产品都将融入 AI 元素
2025-06-25 15:32:02
DeepSeek下一代技术提前曝光,梁文锋署名论文获ACL2025最佳论文奖
2025-07-31 09:00:51
证监会主席吴清:全球科技创新进入密集活跃期 诸多领域都迎来了Deepseek
2025-06-18 11:39:02
郑州:深化与DeepSeek等人工智能头部企业的合作
2025-06-24 20:22:15
DeepSeek式的AI味,越来越让人受不了了
2025-06-30 16:43:50
24小时热文
更多
扫一扫体验小程序