提示缓存盈亏平衡计算器

缓存较长的共享前缀并不总是更便宜。Anthropic 等提供商对写入缓存额外收费（5 分钟为输入价 1.25 倍，1 小时为 2 倍），请求间隔过长时缓存会过期。输入前缀大小和流量，即可查看最便宜的方案。

方案缓存命中概率每次请求每月划算条件

计算方法

假设请求在活跃时段内随机到达。若上一个请求在缓存有效期内，则读取缓存（每次读取都会续期），命中概率为 1 − e^(−每分钟请求数 × 有效期分钟数)。未命中的请求按写入价计费。超过长上下文阈值的提示使用长上下文价格。无写入价的自动缓存（OpenAI、Google 等）按 5 分钟有效期计算。

缓存 · 计算器

常见问题

为什么开启提示缓存后账单反而更高？

在 Anthropic 模型上，写入缓存比普通输入更贵。如果请求间隔超过缓存有效期，大多数请求都在重新写入而很少读取，于是只付了溢价却没拿到折扣。

该用 5 分钟还是 1 小时缓存？

1 小时缓存写入更贵，但能在长达一小时的空档中保持有效。请求间隔为几分钟到几十分钟时通常更划算；若每分钟都有稳定请求，5 分钟缓存更便宜。