2026년 9월 22일 갱신 — 이 글의 o3 요금이 틀려 있었습니다. 발행 당시 기준으로 적은 100만 토큰당 10달러·40달러를 그대로 두었는데, 그 뒤 OpenAI 가 o3 가격을 크게 내렸습니다. 현재 공식 가격표는 2달러·8달러입니다. 아래 요금은 전부 공식 가격 페이지에서 다시 확인해 고쳤고, Flex 가 지원하는 모델 범위도 바뀌어 함께 반영했습니다.
OpenAI가 AI 사용 방식에 새로운 실험을 도입했습니다. 느리지만 훨씬 저렴하게 AI 모델을 사용할 수 있는 ‘Flex Processing’이라는 옵션을 선보인 것인데요. 이 글에서는 Flex Processing이 어떤 기능이며, 왜 기업들에게 중요한 선택지가 될 수 있는지, 실제 어디에 적용할 수 있는지를 사례와 함께 설명해드리겠습니다.
Flex Processing이란 무엇인가?
Flex Processing은 속도는 느리지만, 그만큼 저렴한 비용으로 AI 모델을 사용할 수 있는 OpenAI의 새로운 API 옵션입니다. 처음에는 reasoning 모델 ‘o3’와 ‘o4-mini’에만 붙은 베타 기능이었지만, 2026년 9월 22일 기준으로는 gpt-5 계열과 gpt-6 계열까지 17개 모델이 Flex 요금을 지원합니다. 속도를 다소 포기하는 대신 비용을 줄이는 선택지입니다 (OpenAI 가격 페이지).
일반 API 요금의 절반 수준으로 AI를 사용할 수 있지만, 불규칙한 응답 지연이나 간헐적인 사용 불가 문제가 발생할 수 있습니다. 그렇기 때문에, 빠른 응답이 필수적이지 않은 작업에는 매우 유리한 선택입니다.
요금 구조: 절반의 비용으로 AI를 활용한다
Flex 의 가격은 표준 요금의 정확히 절반입니다. OpenAI 는 이를 “토큰이 Batch API 요금으로 계산된다”고 설명합니다. 숫자로 보면 이렇습니다.
| 모델 | 표준 (입력 / 출력) | Flex (입력 / 출력) | 절감 |
|---|---|---|---|
| o3 | $2.00 / $8.00 | $1.00 / $4.00 | 50% |
| o4-mini | $1.10 / $4.40 | $0.55 / $2.20 | 50% |
Flex 가 붙는 모델은 이 둘만이 아닙니다. 같은 가격표에 gpt-6-astra, gpt-5.6 계열, gpt-5.5, gpt-5.4 계열, gpt-5·gpt-5-mini·gpt-5-nano 등이 Flex 요금과 함께 올라 있습니다. 예를 들어 gpt-5-nano 의 Flex 요금은 100만 토큰당 입력 $0.025 · 출력 $0.20 입니다. 모델별 표준 요금은 자주 바뀌므로 가격 페이지에서 직접 보십시오.
같은 예산으로 두 배를 처리할 수 있다는 뜻입니다. 같은 예산으로 처리 가능한 데이터 양이 두 배가 되기 때문에, 방대한 데이터를 주기적으로 가공해야 하는 기업에게는 매우 중요한 절감 요인이 될 수 있습니다.
어떻게 켜는가 — 파라미터 하나
요청에 service_tier 를 "flex" 로 주면 끝입니다. 다만 공식 문서가 짚는 운영상 주의가 세 가지 있습니다.
| 상황 | 동작 | 대응 |
|---|---|---|
| 용량이 없을 때 | 429 Resource Unavailable 반환. 이때는 요금이 부과되지 않습니다 | 지수 백오프로 재시도하거나 service_tier 를 "auto" 로 바꿔 표준 처리로 넘깁니다 |
| 응답이 느릴 때 | 기본 타임아웃 10분으로는 부족할 수 있습니다 | 공식 예제는 15분(900초)으로 늘려 잡습니다 |
| 408 타임아웃 | OpenAI SDK 가 자동으로 2회 재시도한 뒤 예외를 던집니다 | 재시도 로직을 중복으로 짜지 않아도 됩니다 |
429 에 요금이 붙지 않는다는 점이 실무에서 중요합니다. 용량이 없어 튕긴 요청까지 돈을 내야 한다면 대량 배치에서 비용 예측이 불가능해집니다. 튕기면 공짜이므로, 재시도 전략을 마음 편히 짤 수 있습니다.
어떤 작업에 적합할까?
OpenAI는 Flex Processing을 ‘비생산성(non-production)’ 작업에 적합하다고 이야기합니다. 다시 말해, 사용자가 즉각적인 반응을 기대하지 않는 작업에 적합하다는 뜻인데요. 예를 들어 다음과 같은 경우를 생각해볼 수 있습니다.
신제품 개발 중 AI 모델을 반복적으로 테스트해야 하는 스타트업이나 연구소라면, 응답 속도보다는 전체 테스트 회수와 예산이 더 중요할 수 있습니다. 이 경우 Flex Processing을 활용하면 훨씬 큰 범위의 테스트를 진행할 수 있습니다.
또, 유저 리뷰 분석이나 상품 설명 자동 생성처럼 대규모의 데이터를 처리하는 업무에서는 속도보다 단가가 핵심 요소입니다. 이 역시 Flex Processing의 강점이 드러나는 지점입니다.
뉴스 요약, 이메일 답변 초안 작성, 기획 자료 수집처럼 전면적인 사용자 상호작용이 없는 백그라운드 작업도 마찬가지입니다. 응답이 지연되더라도 운영상 큰 영향을 주지 않기 때문에 Flex Processing의 비용 효율성을 최대로 끌어낼 수 있습니다.
느린 응답이 치명적일 수도 있다
Flex Processing은 일정한 서버 리소스를 보장하지 않기 때문에, 요청이 즉시 처리되지 않는 상황이 종종 발생할 수 있습니다. 이런 점은 일부 서비스에는 치명적인 제약이 될 수 있습니다.
예를 들어, 고객 상담 챗봇이나 실시간 번역 서비스, 또는 증권 API처럼 즉각적인 응답이 필수인 업무에는 Flex Processing이 적합하지 않습니다. 이러한 작업에서는 안정적인 응답 속도가 곧 고객 경험과 직결되고, 비즈니스 성과에 영향을 끼치기 때문입니다. 반면, 사용자가 기다리지 않아도 되는 비동기적이고 예측 가능한 작업들에는 이와 같은 불완전성이 큰 문제가 되지 않습니다.
AI 경쟁 구도 속에서 Flex Processing이 갖는 전략
Flex Processing은 단순한 가격 할인 이상의 전략적 의미를 지닙니다. AI 시장에서는 현재 구글, Meta, DeepSeek 등 많은 기업들이 ‘작고 빠른’ 모델을 만드는 데 주력하고 있습니다. 예컨대, 구글은 최근 Gemini 2.5 Flash 모델을 선보이며 저비용·고속 처리 시장 공략에 나섰습니다.
OpenAI는 이에 정면으로 대응하기보다는, “우리는 속도 대신 가격 경쟁력을 높였습니다”라는 전략을 택한 셈입니다. 이로써 초기 단계의 스타트업이나 연구개발 중심 개발팀에게 매력적인 대안을 제시하고 있습니다.
쓰기 전에 확인할 것
이 글을 처음 쓸 때는 o3 사용에 사용자 등급(Tier)과 신원 인증이 걸려 있었습니다. 다만 2026년 9월 22일 기준으로는 공식 가격 페이지와 Flex 안내 문서 어디에서도 인증 요건을 확인하지 못했습니다. 요건이 풀렸는지, 문서에 적히지 않은 것인지는 알 수 없으므로 단정하지 않겠습니다. 실제로 쓰기 전에 계정의 조직 설정에서 한 번 확인하십시오.
한 가지 더. Flex 는 여전히 베타이고 “모델 가용성이 제한적”이라고 공식 문서가 밝히고 있습니다. 운영 시스템의 주 경로로 삼기보다, 평가·데이터 가공처럼 밀려도 되는 작업부터 옮기는 편이 안전합니다.
AI 운영 비용 최적화의 시대로 가는 길목
AI 활용에 대한 관심은 여전히 높지만, 동시에 이에 따른 비용 부담도 커지고 있습니다. 실제로 많은 기업들이 초기에는 AI 도입을 시도했다가 예산 문제로 인해 프로젝트를 축소하거나 중단하고 있는 상황입니다.
이런 현실 속에서 Flex Processing은 ‘속도보다 비용’을 중심으로 한 새로운 선택지를 제시합니다. AI 모델의 성능만이 경쟁력이 아니라, 지속 가능한 방식으로 효율을 높일 수 있는 ‘운영 전략’ 또한 중요한 요소가 되는 시대가 열린 것입니다. 앞으로 OpenAI뿐 아니라 구글, Meta, Amazon 같은 기업들도 더 세분화된 요금제를 통해 유사한 전략을 펼칠 것으로 보입니다.
결론: 느린 것이 반드시 나쁜 것은 아니다
Flex Processing은 ‘속도 = 품질’이라는 고정관념을 깨는 매우 실용적인 접근 방식입니다. 필요 이상의 고비용 모델을 사용할 필요 없이, 과제에 맞는 수준의 효율과 비용 구조를 선택할 수 있다는 점에서 의미가 큽니다.
특히 비동기적이고 대규모 데이터 처리가 필요한 작업에서는 Flex Processing이 강력한 해법이 될 수 있습니다. 물론 도입 전에는 각 서비스 특성과 리스크를 충분히 검토해야 하겠지만, AI 도입을 고려하고 있는 경영진이라면 반드시 알아야 할 옵션임에는 틀림없습니다.
기업 실무 현장에서도 이 옵션은 상당히 매력적인 접근인 것은 분명합니다. 실제 배치처리와 같은 내용들은 충분히 비용 절감을 위해 동일한 품질이라면 변경을 시도해볼 수 있을 것 같습니다.
 | AX 100배의 법칙 – 나와 조직의 능력을 100배 높이는 AI 경영의 실제 도서 구매 |
함께 읽으면 좋은 글:
디지털 트랜스포메이션: 조직의 습관을 바꾸는 일, 도서 구매
이어서 읽을 글
