RAG 비용 계산기
RAG 비용은 네 부분입니다. 문서를 한 번 임베딩, 질문마다 임베딩, 검색 청크로 답변 생성, 벡터 DB. 문서량과 트래픽을 넣으세요. 임베딩 가격은 임베딩 가격표, 생성 가격은 모델 데이터에서 가져오고, 벡터 DB는 쓰는 서비스의 청구액을 직접 넣습니다. 배경 설명: RAG API 비용 안내.
| 항목 | 월 |
|---|
이 작업량의 생성 모델 순위
| 모델 | 제공사 | 월 | 질문당 |
|---|
질문당 비용 = (쿼리 임베딩 + 생성 + 벡터 DB) / 월 질문 수. 프롬프트가 컨텍스트를 넘는 모델은 제외.
계산 방식
색인 비용 = 쪽수 × 쪽당 토큰 × 임베딩 단가. 한 번 내고, 바뀐 문서만 다시 냅니다. 질문마다 약 100토큰을 임베딩하고, 시스템 프롬프트 + k × 청크 토큰 + 질문을 입력으로 보냅니다. 캐시 적중률은 메인 계산기처럼 이 입력에 적용됩니다. 벡터 DB 칸은 단순 월 금액입니다. 관리형 서비스는 저장량과 읽기로, 자체 호스팅은 서버 시간으로 청구되니 쓰는 서비스의 숫자를 넣으세요.
자주 묻는 질문
임베딩 비용이 정말 이렇게 작나요?
보통 그렇습니다. 임베딩 단가는 100만 토큰에 몇 센트라 큰 문서도 한 번에 몇 달러입니다. 바뀔 때마다 전체를 다시 임베딩하거나 질문마다 긴 앞부분을 붙여 임베딩하면 커집니다. 거의 모든 구성에서 생성이 주된 비용입니다.
질문당 비용을 낮추려면?
검색 입력부터 줄이세요. 청크를 작게 하거나 k를 낮추고, 시스템 프롬프트를 줄이고, 고정 앞부분을 캐시합니다. 그다음 순위표에서 더 싼 생성 모델을 골라 설정마다 답변 품질을 확인하세요.