추론 토큰은 얼마나 드나

추론 모델은 답하기 전에 생각합니다. 그 사고 토큰은 다른 출력과 똑같이 생성되고, API가 숨기더라도 출력 가격으로 청구됩니다. 그래서 짧게 보이는 답에도 보이지 않는 토큰이 수천 개 붙을 수 있습니다. 보이는 답변 길이로는 청구액을 알 수 없고, 응답의 usage(출력 토큰 수)가 예산의 기준입니다.

추적 중인 모델 가운데 108개가 추론을 지원합니다. 대부분은 추론 여부와 관계없이 같은 출력 가격을 받고, Qwen Turbo는 더 높은 사고 모드 출력 가격이 따로 있어 계산기의 출력 가격을 사고 모드로 두면 적용됩니다. 그 외 모델에서는 답변당 출력 토큰 수가 유일한 변수입니다.

보이는 답변 500 토큰 기준, 숨은 추론 토큰별 답변 1,000건 비용

공개된 토큰 단가 기반 추정치입니다. 예산을 세우기 전에 공식 가격을 확인하세요. LiteLLM 가격 목록 동기화 2026-10-12 08:00 UTC.

추론 비용을 낮추는 법

일상 요청에는 가장 낮은 추론 강도나 비추론 모델을 쓰고, 깊은 추론은 품질 검사에 실패한 질문에만 쓰세요. 출력 토큰을 제한하고, 실제 트래픽의 출력 토큰 수를 기록해 보이는 답변 길이 대신 그 평균을 계산기에 넣으세요. 프롬프트는 토큰 카운터로 재고, 여러 단계의 에이전트는 에이전트 비용 계산기로 작업 전체를 모델링하세요.