GPT-5.4로 월 500만 분류, 연 $330k. 배치할까, 모델을 바꿀까?

이 판단의 근거

먼저 월 $27,500가 실제로 어디서 발생하는지부터 짚어보자. 각 요청은 입력 토큰 1,000개와 출력 토큰 200개를 청구하므로, 겉보기에는 입력이 더 큰 비용 항목처럼 보인다. 그런데 그렇지 않다. GPT-5.4 기준으로 입력은 5,000M 토큰 × $2.50/M = $12,500인 반면, 출력은 1,000M 토큰 × $15.00/M = $15,000이다. 출력은 토큰 수가 5분의 1에 불과한데도 더 큰 절반을 차지하는데, 여기서는 출력 단가가 입력의 6배이기 때문이다. 이 한 가지 사실이 이후의 모든 것을 결정한다. 출력 토큰당 단가를 건드리는 어떤 수단(더 작은 모델, 또는 배치의 50% 할인)이든 입력을 깎는 것보다 청구액을 훨씬 크게 움직인다. 또한 이 프롬프트는 캐싱 후보로는 부적합하다. 문서당 1,000개의 대부분 가변적인 토큰으로는 분할 상환할 만한 큰 재사용 프리픽스가 없으므로, 이 워크로드에서 프롬프트 캐싱은 반올림 오차 수준이며 비교에서 제외한다.

품질 위험이 전혀 없으면서 가장 저렴한 유효 수단은 이미 운영 중인 모델에 배치 API를 적용하는 것이다. 동일한 GPT-5.4 가중치, 동일한 출력, 동일한 OpenAI SDK다. 요청을 담은 JSONL을 제출하고 24시간 이내에 결과 파일을 수거하기만 하면, 양방향 모두 50% 할인을 받는다. 모델이 바뀌지 않았으므로 검증할 것 없이 청구액이 월 $13,750($165,000/년)으로 절반이 된다. 이미 수 시간의 윈도우를 허용하는 야간 작업이라면, 유일한 실비용은 호출 경로를 비동기로 다시 쓰는 것뿐이다. 이것이 바닥선이다. 다른 건 아무것도 안 하더라도 이것만은 하고, 더 위험한 모든 옵션을 측정하는 정직한 기준선으로 삼는다.

그런데 이 정도로 단순한 작업—라벨 하나와 작은 JSON 객체를 출력하는—에는 프런티어급 성능이 과잉이며, 바로 거기에 진짜 돈이 있다. 배치 기준 GPT-5.4 mini는 입력을 $0.375/M, 출력을 $2.25/M로 청구한다. 5,000M × $0.375 = $1,875에 1,000M × $2.25 = $2,250를 더하면 월 $4,125, 즉 연 $49,500이다. 이는 연간 $280,500 절감, 85% 할인이며, OpenAI를 벗어나지 않고도 두 개의 독립적인 수단—70% 더 저렴한 모델과 50% 배치 할인—을 쌓는다. 새 인증도, 토크나이저 변경도, 데이터 경로에 두 번째 벤더를 들이는 일도 없다. 차이는 모델 문자열 하나와 배치 래퍼뿐이다. 단순히 GPT-5.4를 배치 처리하는 것과 비교하면, mini로의 전환은 사실상 동일한 엔지니어링 노력으로 연간 약 $115,000를 추가로 확보한다. 이것이 안전하지만 더 작은 배치 전용 전략 대신 이 방안을 권장하는 이유다.

약 96% 옵션 두 가지는 실재하며, 숨기지 않는다. Gemini 2.5 Flash-Lite는 월 $900($10,800/년, 96.7% 할인), DeepSeek V4 Flash는 월 $980($11,760/년, 96.4% 할인)에 도달한다. 스프레드시트상으로는 GPT-5.4 mini를 연간 약 $38,000–$39,000 차이로 압도한다. 이들이 기본값이 아닌 이유는 한계 절감액이 절대 금액으로는 작은 반면 한계 위험은 작지 않기 때문이다. $49,500에서 약 $11,000로 가면 연 약 $38k를 절약한다—의미 있는 금액이지만, 이제 새 프로바이더 스택을 세우게 된다. 다른 SDK와 인증, 다른 요청/응답 형태, 다른 토크나이저, 그리고 DeepSeek의 경우 해외로 보낼 수 없을지도 모르는 문서에 대한 데이터 거주지 검토까지 포함된다. 그 추가 약 $38k는 이미 이들 프로바이더 중 하나를 운영 중이거나, 볼륨이 증가하고 있거나, 컴플라이언스가 승인한 경우에만 쫓을 만하다. 배치 기준 Claude Haiku 4.5(월 $5,000, $60,000/년, 82%)는 그 중간에 위치한다—경쟁력 있는 가격에 배치도 가능하지만, GPT-5.4 mini보다 약간 적은 절감액에 여전히 크로스 프로바이더 이식이 필요하므로, 라벨 품질 면에서 Claude를 특별히 선호하는 경우에만 우위를 점한다.

정직하게 단서를 달자면, 이 숫자들 중 어느 것도 더 저렴한 모델을 당신의 라벨링된 데이터에 직접 돌려보기 전까지는 아무 의미가 없다. 우리는 품질 동등성을 주장하지 않으며, 벤치마크 점수를 지어내지도 않는다. 더 작은 모델은 GPT-5.4가 처리하던 어떤 문서 클래스를 조용히 오분류할 수 있고, 분류 파이프라인에서는 그 오류가 복리로 불어난다. 가격표가 할 수 없는 산수를 해보라. GPT-5.4 mini가 연 $280,500를 절감하더라도 오분류율을 단 2–3 포인트라도 높이고, 잘못된 라벨 하나가 하류의 사람 검토나 값비싼 정정을 유발한다면, 그 재작업이 절감액을 다 갉아먹고도 남을 수 있다. 그러므로 이 권장안은 단 하나의 실험을 조건으로 삼아야 한다. 별도로 떼어둔 사람-라벨링 평가 세트를 뽑아, 실제 프로덕션 분포에서 GPT-5.4 mini(궁금하다면 Haiku도)를 채점하고, 정확도가 유지될 때만 승자를 승격하라. 손익분기점이 정확히 어디로 이동하는지 보려면, 당신의 볼륨, 토큰 수, 허용 가능한 오류 허용치를 마이그레이션 ROI 시뮬레이터에 직접 넣어보라. 산수는 배치 처리된 GPT-5.4 mini에 대해 GO라고 말한다. 결정표는 당신의 평가 세트가 던진다.