5月10日消息,谷歌为其Gemini 2.5 API推出“隐式缓存”功能,自动识别并重用API请求中的常见前缀,使开发者的成本最高降低75%。该功能适用于Gemini 2.5 Pro和Gemini 2.5 Flash模型。与2024年5月发布的“显式缓存”不同,“隐式缓存”无需开发者手动配置,系统默认开启,简化了操作流程。谷歌建议开发者在构建提示词时,将稳定内容置于开头,用户特定变量放于后方以提升缓存命中率。同时,Gemini 2.5 Flash需至少1024个Token,Pro需2048个Token,API响应新增“cached_content_token_count”字段展示缓存Token使用及计费详情。显式缓存仍作为可选方案支持Gemini 2.5及2.0模型,开发者可自定义缓存内容和TTL(默认1小时)。尽管谷歌声称成本节省可达75%,但具体效果还需第三方验证,且可能因使用模式不同而有所差异。
原文链接
本文链接:https://kx.umi6.com/article/18404.html
转载请注明文章出处
相关推荐
换一换
阿里云百炼宣布DeepSeek-V4-Pro模型隐式缓存降价
2026-04-29 21:43:37
GPT-6.2 Astra/Sol来了!首破自进化红线,OpenAI历史性一夜
2026-11-18 10:09:23
英伟达上演“奥特曼2.0”,员工集体请愿:让老黄回家!
2026-11-14 18:54:43
MEET2027含金量再加码:AI4S/量子计算/AI Infra…第二批嘉宾强势来袭!
2026-11-13 16:18:46
安谋科技深度解析Arm Cortex-M42,发布“星辰100e”AIoT原型平台,助力打造AI性能更强的嵌入式设计
2026-11-19 12:30:36
阿里正式发布Qwen4,智能体及编程能力进阶,迈向真实全场景
2026-11-16 21:01:05
潜伏小红书48h:AI时代,顶尖技术人才都在聊什么?
2026-11-18 11:10:48
一张图吓得研究员当场辞职!Anthropic最疯神图流出
2026-11-16 10:20:00
英伟达推出Vera CPU机架级平台:能效比x86 CPU提升超一倍
2026-11-17 07:47:08
SuperLink2026开启创投行业超级链接时刻,12月北京见
2026-11-16 21:02:41
冲击x86/ARM护城河5年内AI将直接翻译二进制代码:马斯克已做出判断
2026-11-16 23:13:54
日本网友免费公开近1500张AI美女写真!高清无水印:商用也不花钱
2026-11-17 16:17:33
反超谷歌王牌模型!决策新王拿下全球榜首,全尺寸开源
2026-11-17 17:16:55
805 文章
1177699 浏览
24小时热文
更多
-
2026-11-20 00:11:17 -
2026-11-19 22:05:46 -
2026-11-19 17:55:15