LLM API 가격 페이지를 안 헷갈리고 읽는 법

단위는 항상 "1M 토큰당"으로 정규화하세요

모든 주요 LLM 가격 페이지는 100만 토큰(1M) 단위로 가격을 표기합니다. 일부 페이지는 1,000 토큰당으로도 표시해 헷갈리게 만들지만, 단위는 곱셈 차이일 뿐이며 100만 토큰 단위로 정규화하면 공급자 간 직접 비교가 가능합니다. 가격을 시트에 옮길 때는 반드시 같은 단위로 통일하세요 — 1K 단위와 1M 단위를 섞으면 3자리 오차가 발생합니다.

토큰은 단어가 아닙니다. 영어 산문 기준 토큰 1개는 약 3~4 문자, 단어로는 약 0.75개에 해당합니다. 한국어, 일본어, 중국어, 아랍어 같은 비라틴 문자는 영어보다 토큰을 훨씬 많이 소비합니다 — 한국어 문장은 동일 길이 영어 대비 약 1.5~2배 토큰을 쓰는 경우가 흔합니다. 비영어 사용자에게 LLM을 노출한다면 이 가중치를 비용 모델에 반영해야 합니다.

입력과 출력은 별도 청구 — 출력이 더 비쌉니다

LLM은 입력과 출력 토큰을 다른 단가로 청구합니다. 입력은 병렬화 가능한 어텐션 메커니즘으로 한 번에 처리되지만, 출력은 토큰마다 별개의 forward pass가 필요해 연산 비용이 훨씬 큽니다. 결과적으로 대부분 플래그십 모델은 출력 단가를 입력의 3~6배로 책정합니다 — Claude Opus 4.7은 5배($5 → $25), GPT-5.5는 6배($5 → $30), Gemini 2.5 Pro는 8배($1.25 → $10) 수준.

이 비대칭은 비용 모델에 큰 영향을 미칩니다. 짧은 요약 작업(긴 입력 → 짧은 출력)은 출력 비용이 비대해도 영향이 작지만, 장문 생성 작업(짧은 입력 → 긴 출력)은 출력 단가가 총 비용의 80% 이상을 차지할 수 있습니다. 따라서 단순히 "입력 단가가 더 싼 모델"이 아니라 "내 워크로드의 입력/출력 비율을 반영한 가중 평균이 더 싼 모델"을 골라야 합니다.

실용적 휴리스틱: 일반 챗봇은 입력 약 70% / 출력 약 30% 토큰 비율이지만, 청구액 비율은 출력이 약 75%를 차지합니다. 코드 생성기는 입력 약 30% / 출력 약 70%이며 청구액의 약 90%가 출력입니다. 따라서 코드 생성 워크로드에서 모델을 비교할 때는 출력 단가가 거의 유일한 변수입니다.

배치 API 할인 — 50% 절감, 단 최대 24시간 지연

OpenAI와 Anthropic은 둘 다 비동기 처리를 위한 별도 엔드포인트를 운영하며 표준 가격 대비 50% 할인을 제공합니다. 트레이드오프는 결과가 최대 24시간 안에 반환된다는 점 — 실시간 채팅이나 스트리밍 완성에는 부적합하지만, 야간 분석, 콘텐츠 모더레이션 큐, 임베딩 생성, 벌크 데이터 라벨링에는 거의 항상 사용해야 합니다.

가격 페이지에 "Batch" 또는 "Batch API"라는 별도 컬럼이 표시되면 그것이 할인된 가격입니다. 표준 가격만 인용하면서 워크로드의 일부를 배치로 옮길 수 있다면, 즉시 가능한 50% 절감을 놓치고 있는 것입니다. 일부 공급자(Google Gemini)는 공식 배치 API 없이 동등한 효과를 제공하지 않으므로, 비교할 때는 "표준 가격"과 "유효 가격(배치 활성화 시)"을 따로 표시하는 것이 좋습니다.

주의: 모든 모델이 배치를 지원하지는 않습니다. Claude Haiku, Claude Sonnet, GPT-5.4 mini 등 주요 워크호스 모델은 지원하지만, 일부 신규 또는 특수 모델(o1 추론 모델 등)은 출시 시점에 배치를 제공하지 않을 수 있습니다. 자신의 워크로드에 사용 중인 모델이 배치를 지원하는지 가격 페이지의 모델별 표를 직접 확인하세요.

프롬프트 캐싱 — 큰 시스템 프롬프트는 90%까지 절감

프롬프트 캐싱은 자주 반복되는 prefix(시스템 프롬프트, 컨텍스트 블록)를 한 번 처리해 KV 매트릭스를 캐시에 저장하고, 이후 요청에서 재사용해 입력 비용을 극적으로 낮추는 기능입니다. Anthropic은 명시적(cache_control 브레이크포인트 지정)으로 동작하며 캐시 읽기 단가가 표준 입력 단가의 약 10%입니다 — Claude Sonnet 4.6 기준 표준 $3 → 캐시 읽기 $0.30. OpenAI는 자동(요청 변경 없음)으로 동작하며 캐시 적중 토큰을 50% 할인 단가로 청구합니다.

경제성은 시스템 프롬프트가 크고 자주 재사용될수록 압도적입니다. 5만 토큰 지식베이스 시스템 프롬프트를 일일 1만 번 재사용하는 파이프라인의 경우, 캐싱 없이는 약 $150/일이지만 Anthropic 캐싱을 적용하면 약 $15/일로 줄어듭니다 — 월 약 $4,000 절감. 단 Anthropic은 캐시 쓰기 비용(표준 단가의 1.25배)이 별도이므로, 캐시 적중률이 낮은 워크로드(prefix가 자주 바뀌는)에서는 오히려 비용이 늘 수 있습니다. 손익분기점은 보통 prefix당 2~5회 재사용입니다.

최소 prefix 크기 요구사항도 확인하세요. Anthropic은 1,024 토큰 이상이어야 캐싱 자격이 됩니다 — 짧은 prefix에서는 cache_control이 조용히 무시됩니다. OpenAI도 비슷한 최소 임계값이 있습니다. 요청 응답의 사용량 메타데이터에서 cache_creation_input_tokens, cache_read_input_tokens 필드를 확인해 캐시가 실제로 적중하는지 검증하세요.

컨텍스트 윈도우 — 가격 페이지의 작은 글씨 주의

대부분 가격 페이지는 모델당 "Context window: 200K" 같은 한 줄로 컨텍스트 길이를 표시하지만, 긴 컨텍스트 요청에 별도 단가가 적용되는 모델도 있습니다. 예를 들어 Google Gemini의 일부 티어는 128K 이하와 그 이상에서 단가가 다르고, OpenAI의 일부 모델도 32K, 128K, 200K 사이에 차등 단가가 존재했습니다. 200K 컨텍스트로 요청을 자주 보낸다면 표준 가격이 아닌 "long context" 단가가 적용되어 청구액이 예상보다 30~50% 높을 수 있습니다.

가격 페이지에서 "$3 per 1M input tokens (≤ 128K context)"처럼 조건이 명시된 줄을 찾으세요. 조건이 없으면 모든 컨텍스트 길이에 동일 단가입니다. 비용 예측에서는 95퍼센타일 요청의 컨텍스트 길이를 추정해, 그 길이의 단가로 청구액을 계산하세요 — 평균값으로 추정하면 long-context 요청의 비용을 과소평가합니다.

추가로 청구되는 숨은 비용 — 무시하면 안 되는 항목들

가격 페이지의 메인 표에는 안 나오지만 청구서에 나타나는 항목들:

• 이미지/오디오 입력: Vision API와 오디오 입력은 토큰이 아닌 별도 단위(이미지당, 오디오 초당)로 청구되거나, 토큰으로 변환되어 추가 청구됩니다. GPT-4o vision은 이미지를 약 765~2,048 토큰으로 처리합니다 — 한 이미지가 시스템 프롬프트 한 페이지에 해당하는 비용.
• 도구 호출(Function calling): 도구 정의 자체가 매 요청마다 시스템 프롬프트에 포함되어 토큰을 소비합니다. 도구 10개를 등록하면 요청당 약 1,500~3,000 토큰을 추가로 소비할 수 있습니다 — 캐싱하지 않으면 큰 비용.
• 추론(Reasoning) 토큰: OpenAI o1/o3 계열은 "reasoning_tokens"라는 내부 추론 토큰이 별도 청구됩니다. 사용자는 이 토큰을 볼 수 없지만 출력 단가로 청구됩니다. 단일 o1 요청의 reasoning_tokens이 10,000을 넘는 경우도 흔합니다.
• 스트리밍 vs 비스트리밍: 단가는 동일하지만 스트리밍은 부분 응답마다 네트워크 호출이 일어나 일부 인프라(특히 Azure 라우팅)에서 추가 지연이 청구될 수 있습니다.
• 리전별 차등: Azure OpenAI Service의 EU/US 데이터 거주 리전, Google Vertex AI의 특정 리전은 표준 OpenAI/Gemini 가격보다 5~15% 높을 수 있습니다.

실전 체크리스트

새 모델을 가격 페이지에서 평가할 때 반드시 확인할 항목:

1. 단위 확인 — 1K 토큰당인가 1M 토큰당인가? 단위가 다르면 1M로 정규화.
2. 입력/출력 별도 단가 확인 — 비율이 1:5인지 1:3인지 1:6인지?
3. 배치 API 단가 — 워크로드 일부를 배치로 옮길 수 있다면 절감 잠재력 확인.
4. 캐싱 단가 — 시스템 프롬프트가 크고 재사용 빈도 높으면 캐싱 ROI 모델링.
5. 컨텍스트 윈도우별 단가 변동 — 32K/128K/200K 사이 차등이 있는가?
6. 비전/오디오/도구 호출 별도 단가 — 멀티모달 사용 시 추가 비용.
7. 월간 약정 할인 — 일정 사용량 이상에서 자동 할인되는가?
8. 가격 변경 알림 구성 — 공급자 가격 페이지/API를 매일 모니터링.

이 모든 항목을 반영한 실시간 비용 예측은 Claude Opus 4.7 vs GPT-5.5 비교나 다른 비교 페이지에서 직접 시뮬레이션할 수 있습니다.

자주 묻는 질문