【2023年2月2日】私募巨头幻方量化旗下新组织"深度求索"宣布采用上下文硬盘缓存技术,旨在优化大模型API的使用效率。该技术将预估需重复使用的数据存储于分布式硬盘阵列,以减少不必要的计算过程。在具体应用中,当输入内容重复时,只需从缓存中读取,无需重新计算,此举有望使大模型成本降低一个数量级。目前,缓存命中部分的费用设定为每百万tokens 0.1元。这一创新策略不仅提高了大模型的运行效率,也为降低成本开辟了新路径。
原文链接
本文链接:https://kx.umi6.com/article/4481.html
转载请注明文章出处
相关推荐
换一换
幻方量化相关人士回应“DeepSeek-R2 模型提前发布”:以官方消息为准
2025-02-26 08:21:28
DeepSeek等大模型集体“打标”,从此告别AI造假?
2025-09-02 17:35:56
DeepSeek母公司去年进账50亿,够烧2380个R1
2026-01-13 16:43:30
中央网信办总工程师孙蔚敏:国内数十家大模型厂商已在政务领域展开探索
2024-05-24 23:19:47
英伟达的最大空头出现了
2024-12-31 15:46:07
中兴通讯相关人士:目前已收到部分大模型厂合作邀约 相关沟通正在推进
2025-12-24 16:52:26
幻方量化旗下大模型厂商启用硬盘缓存技术 大模型价格再降一个数量级
2024-08-02 22:07:33
梁文锋旗下幻方量化去年收益率56.6% 管理规模已超700亿元
2026-01-14 19:55:39
幻方量化旗下DeepSeek发布V2.5模型
2024-09-06 18:17:45
华为发布千元机畅享90系列
2026-03-23 15:25:54
亚马逊据悉开发新型AI智能体以自动执行部分部门职能
2026-03-25 08:10:59
国家数据局局长刘烈宏:今年3月中国日均Token调用量已突破140万亿 两年增长超千倍
2026-03-23 18:37:57
国家数据局:将深入实施新一轮高质量数据集建设行动计划
2026-03-24 12:51:29
713 文章
496777 浏览
24小时热文
更多
-
2026-03-25 12:30:36 -
2026-03-25 12:29:31 -
2026-03-25 12:28:26