API Cost Check
Calculadora de equilibrio de caché de prompts
Cachear un prefijo largo no siempre ahorra. Proveedores como Anthropic cobran por escribir la caché (1,25× la entrada para 5 minutos, 2× para 1 hora) y la caché caduca si las solicitudes están muy separadas. Introduce el tamaño del prefijo y tu tráfico para ver la opción más barata.
| Opción | Probabilidad de acierto | Por solicitud | Mensual | Compensa si |
|---|
Cómo se calcula
Se supone que las solicitudes llegan al azar durante tus horas activas. Una solicitud lee la caché si la anterior llegó dentro de su vida útil (cada lectura la renueva), así que la probabilidad de acierto es 1 − e^(−solicitudes por minuto × TTL en minutos). Los fallos pagan el precio de escritura. Los prompts por encima del umbral de contexto largo usan esas tarifas. La caché automática (OpenAI, Google y otros sin precio de escritura) se modela con una vida de 5 minutos.
Preguntas frecuentes
¿Por qué la caché puede subir mi factura?
En los modelos de Anthropic escribir la caché cuesta más que la entrada normal. Si las solicitudes llegan más separadas que la vida de la caché, casi todas vuelven a escribir y pocas leen: pagas el recargo sin el descuento.
¿Caché de 5 minutos o de 1 hora?
La caché de 1 hora cuesta más al escribir pero aguanta pausas de hasta una hora. Suele ganar con solicitudes cada pocos minutos o decenas de minutos; con tráfico constante cada minuto o menos, la de 5 minutos es más barata.