프롬프트 캐싱 손익분기 계산기

긴 공통 앞부분을 캐시한다고 항상 싸지는 않습니다. Anthropic 등은 캐시 쓰기에 추가 요금(5분 캐시는 입력가의 1.25배, 1시간 캐시는 2배)을 받고, 요청 간격이 길면 캐시가 만료됩니다. 앞부분 크기와 트래픽을 넣으면 가장 싼 방식을 알려 줍니다.

방식캐시 적중 확률요청당월이득 조건

계산 방식

요청은 활동 시간 동안 무작위로 들어온다고 가정합니다. 직전 요청이 캐시 유지 시간 안에 있었다면 캐시를 읽고(읽을 때마다 유지 시간이 연장), 적중 확률은 1 − e^(−분당 요청 수 × 유지 시간(분))입니다. 적중하지 못한 요청은 쓰기 요금을 냅니다. 롱컨텍스트 기준을 넘는 프롬프트는 해당 할증 요금을 씁니다. 쓰기 요금이 없는 자동 캐싱(OpenAI, Google 등)은 유지 시간 5분으로 계산합니다.

캐싱 · 계산기

자주 묻는 질문

프롬프트 캐싱을 켰는데 왜 비용이 늘 수 있나요?

Anthropic 모델은 캐시 쓰기가 일반 입력보다 비쌉니다. 요청 간격이 캐시 유지 시간보다 길면 대부분의 요청이 다시 쓰기만 하고 읽지는 못해, 할인 없이 할증만 내게 됩니다.

5분 캐시와 1시간 캐시 중 무엇을 써야 하나요?

1시간 캐시는 쓰기가 더 비싸지만 최대 1시간 공백에도 유지됩니다. 요청이 몇 분~수십 분 간격일 때 보통 유리하고, 1분 이내로 꾸준히 들어오면 5분 캐시가 더 쌉니다.