셀프호스팅 LLM vs API 손익분기 계산기
121개 중 100개 공식 페이지 일치, 96개 models.dev 일치2026-11-19 01:00 UTC 동기화 · 확인 방법
빌린 GPU 서버는 바쁘든 놀든 매시간 같은 비용이 들고, API는 보낸 토큰만큼만 청구합니다. 서버와 작업량을 넣어 어느 쪽이 싼지, 하루 몇 건부터 셀프호스팅이 이득인지 확인하세요.
API 모델 vs 내 서버
| 모델 | 제공사 | API | 셀프호스팅 | 손익분기 요청/일 |
|---|
서버 비용 = GPU 시간당 가격 × GPU 수 × 하루 가동 시간 × 30. 서버 1대가 처리하는 월 토큰 = 처리량 × 가동 초 × 가동률(입력 + 출력). 손익분기 = API 비용이 서버 1대 비용과 같아지는 하루 요청 수. —는 서버를 꽉 채워도 API가 토큰당 더 싸다는 뜻입니다.
계산 방식
결과는 입력한 처리량에 크게 좌우됩니다. 실제 모델, GPU, 서빙 스택(예: vLLM)과 실제 프롬프트 길이로 측정한 값을 넣으세요. 피크를 감안해 가동률을 낮게 잡고, 서버 가격에 들어 있지 않은 운영 인건비도 더하세요.
자주 묻는 질문
LLM 셀프호스팅이 API보다 싼 건 언제인가요?
서버가 계속 바쁠 때입니다. GPU는 매시간 과금되므로 가동률이 오를수록 토큰당 비용이 내려갑니다. 사용량이 적으면 저렴한 API 모델이 거의 항상 유리하고, 작은 API 모델 상당수는 어떤 GPU를 빌려도 토큰당 더 쌉니다.
처리량은 얼마로 넣어야 하나요?
여러 요청을 동시에 처리할 때 서버 전체가 유지하는 초당 총 토큰(입력 + 출력)으로, 실제 모델과 프롬프트 길이로 측정한 값입니다. 입력 토큰은 출력보다 훨씬 빨리 처리되므로 프롬프트가 길고 답이 짧으면 값이 커집니다.