综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
8月17日,DeepSeek调整V4 Pro API价格,缓存命中价格在空闲时段涨5倍,高峰期暴涨11倍至0.3元/百万Token。此次涨价源于长上下文需求暴涨,导致高峰期服务器出现“缓存颠簸”,GPU算力在数据搬运中空转,存储与调度成本激增,涨价实为收取“存储税”。这标志着大模型成本结构正从算力计算向状态保存与数据搬运转变。面对涨价,建议开发者优化Prompt结构,确保前缀完全匹配以提高缓存命中率。大模型应用已迈入精耕细作时代,开发者需学会做好“数据管理员”。
原文链接
加载更多
暂无内容