⚡ 3줄 요약
- AI 비용이 터지는 진짜 원인은 사용량이 아니라 모든 작업에 제일 비싼 모델을 쓰는 습관이다.
- Rippling은 사용량을 그대로 두고 작업마다 모델을 갈아끼워 비용을 R&D 예산의 40%→약 15%로 낮췄다.
- 고르는 기준은 늘 같다 — “이 작업에 프런티어 모델이 정말 필요한가”를 작업 단위로 묻는 것.
AI 요금이 감당 안 될 때 대부분은 “사용을 줄이자”로 간다. 그런데 그건 대개 틀린 처방이다. 비용이 터지는 진짜 원인은 얼마나 많이 쓰느냐가 아니라, 단순한 작업에까지 제일 비싸고 최신인 모델을 반사적으로 붙이는 습관이다. 오타 수정에도 프런티어 모델을 부르고, 로그 요약에도 최상위 모델을 부른다. 결과물은 똑같은데 청구서만 몇 배가 된다. 그러니 질문을 바꿔야 한다 — “얼마나 쓸까”가 아니라 “이 작업에 이 모델이 정말 필요한가”.
비싼 모델이 늘 정답은 아니다
모델 선택을 자동차에 비유하면 이해가 쉽다. 편의점 다녀오는 데 스포츠카를 몰 이유가 없다. 그런데 AI에서는 다들 매번 스포츠카를 부른다. 최신 모델이 가장 똑똑하니까 아무 데나 쓰면 안전하다는 심리다. 문제는 그 ‘가장 똑똑함’의 대부분이 짧은 요약, 형식 변환, 분류 같은 단순 작업에서는 낭비된 성능이라는 점이다. 답은 같고 값만 비싸다.
실제로 이 습관 때문에 회사 하나가 예산을 태울 뻔한 사례가 있다. HR·급여 소프트웨어 회사 Rippling은 자사 AI 토큰 비용이 R&D 인력 예산의 40%에 이르고 있었고, 지출은 매달 80%씩 불어나고 있었다. CEO Parker Conrad에 따르면 이 추세가 이어지면 AI 토큰에 쓰는 돈이 고연봉 R&D 직원 인건비의 90%에 육박할 상황이었다.
⚠️ 가장 흔한 함정
“최신 모델이 제일 똑똑하니 다 여기로”는 안전해 보이지만 가장 비싼 선택이다. 단순 작업에서 프런티어 모델과 값싼 모델의 결과 차이는 거의 없다. 비용은 몇 배 차이가 난다. 성능이 아니라 과잉 성능에 돈을 내고 있는 것이다.
범인은 소수의 무거운 작업이었다
Rippling이 지출을 뜯어보니 사용이 고르게 퍼져 있지 않았다. 전체 직원의 약 10~15%가 전체 AI 비용의 약 60%를 쓰고 있었고, 극단적으로는 한 엔지니어가 한 달에 $50,000를 태웠다. 여기서 회사가 내린 판단이 이 글의 핵심이다. 이들의 사용을 막지 않았다. 대신 “이 사람들이 부르는 작업이 정말 최상위 모델을 필요로 하나”를 물었다.
사용을 막으면 당장 청구서는 줄지만, 그 사람이 만들어내던 코드와 결과물도 함께 줄어든다. 비용을 아끼려다 생산성을 깎는 것이다. 반대로 작업 성격에 맞는 모델로 갈아끼우면 사용량은 그대로 두면서 값만 떨어뜨릴 수 있다. 모델 선택 말고도 비용을 좌우하는 다이얼은 몇 개 더 있다. 어느 쪽이 나은지는 분명하다.
핵심 장치: 작업마다 모델을 바꾸는 ‘관문’
Rippling이 만든 건 요청을 받아 작업 종류에 따라 서로 다른 모델로 흘려보내는 중간 시스템이다. 하나의 요청이 무조건 최상위 모델로 가지 않고, 성격을 보고 알맞은 모델에 배분된다. 택시 배차센터가 목적지에 맞는 차량을 보내는 것과 같다. 공식 발표에 따르면 이 관문은 Cursor, OpenAI, Anthropic, Grok, 그리고 Z.ai의 GLM 5.2까지 여러 모델을 후보로 두고 요청을 나눈다.
여기서 나온 관찰이 흥미롭다. Parker Conrad는 자사 내부 시험에서 GLM 5.2가 프런티어 모델 대비 85% 저렴한데도 성능이 거의 동일했다고 밝혔다. 다만 이건 Rippling 내부 테스트 기준이다. 모든 작업·모든 기업에서 같은 비용 차이와 성능이 재현된다고 단정할 수는 없다. 요점은 특정 모델이 좋다는 게 아니라, 작업에 따라 훨씬 싼 선택지가 존재한다는 사실을 측정으로 확인했다는 데 있다.
사용량은 그대로, 비용만 절반 이하로
결과 수치가 이 접근의 설득력을 보여준다.
| 항목 | 수치 | 의미 |
|---|---|---|
| 관리 전 AI 비용 (R&D 예산 대비) | 40% | 손대기 전 지출 수준 |
| 월별 지출 증가율 | 매달 80% | 방치 시 폭증 속도 |
| 비용을 몰던 직원 비율 | 약 10~15% | 소수에 집중 |
| 그 직원들의 비용 비중 | 약 60% | 집중의 규모 |
| 한 엔지니어의 월 지출 | $50,000 | 극단적 개별 사례 |
| 4월 토큰 사용량 (최대) | 6,050억 tokens | 사용량 정점 |
| 7월 토큰 사용량 | 6,000억 tokens | 사용량 거의 유지 |
| 7월 비용 (4월 대비) | 37% | 같은 양, 3분의 1 값 |
| 관리 후 AI 비용 (R&D 예산 대비) | 약 15% | 40%→15%로 하락 |
핵심은 두 줄이다. 4월에 6,050억, 7월에 6,000억 토큰 — 사용량은 거의 그대로다. 그런데 7월 비용은 4월의 37%였다. 같은 양을 쓰면서 값을 3분의 1로 떨어뜨린 것이다. 사용을 줄여서가 아니라, 작업마다 모델을 갈아끼워 얻은 결과다. 다만 짚어둘 게 있다. 비용이 줄었다는 사실이 곧 업무 성과가 유지·향상됐다는 증명은 아니다. 그건 별도로 측정해야 하는 문제다.
🎯 FEEDON의 선택 — 우리라면 이렇게 한다
회사든 개인이든 기본값을 뒤집어야 한다. 지금 대부분은 “일단 제일 좋은 모델, 안 되면 내린다”로 쓴다. 반대로 가라 — 싼 모델을 기본으로 두고, 부족할 때만 올린다. 단순 요약·분류·형식 변환은 값싼 모델로 충분하고, 복잡한 추론·긴 코드 작성처럼 실제로 성능이 갈리는 작업에만 프런티어 모델을 붙인다. 이건 모델부터 고르지 말고 비용·생산성·운영으로 판단하라는 도입 원칙과 그대로 맞닿는다.
그리고 모델 이름에 홀리지 마라. “제일 최신이니까”는 이유가 아니다. 내가 던지는 작업 중 정말 최상위 모델이 필요한 비율이 얼마나 되는지를 한번 세어보면, 대개 생각보다 훨씬 적다. 거기가 절약의 여지다.
작업에 맞는 모델 고르는 순서
- 내가 AI에 던지는 작업을 성격별로 분류한다 — 단순 변환/요약 vs 복잡한 추론/생성
- 단순 작업을 값싼 모델로 먼저 돌려보고 결과가 쓸 만한지 본다
- 결과가 부족한 작업에만 상위 모델로 올린다 (전체가 아니라)
- 비용이 큰 작업일수록 “이 성능이 정말 필요한가”를 다시 묻는다 — 좁은 업무라면 자료를 갖춘 작은 전용 모델이 더 싸고 정확할 수 있다
- 사용량이 아니라 작업 단위로 비용과 결과를 나란히 본다
- 여럿이 쓴다면 사용을 막지 말고 모델 배분으로 값을 낮춘다
모델 갈아끼우는 순서
🛠️ 기본값 뒤집기
- 내가 AI에 던지는 작업을 단순 변환·요약과 복잡한 추론·생성으로 성격별로 갈라 적는다.
- 단순 작업은 값싼 모델로 먼저 돌려 결과가 쓸 만한지 눈으로 본다 — 싼 모델을 기본값으로 둔다.
- 결과가 부족한 작업에만 상위 모델로 올린다. 전체를 올리지 않는다.
- 사용량이 아니라 작업 단위로 비용과 결과를 나란히 놓고 비교한다.
- 여럿이 쓴다면 무거운 사용을 막지 말고 요청을 모델별로 배분하는 관문으로 값을 낮춘다.
출처: TechCrunch 「After Rippling blew millions on AI in months, it built an employee ROI tool」(2026-08-07) 및 Rippling 공식 발표 · 수치는 회사 발표·내부 시험 기준이며 변동될 수 있음
이 글은 FEEDON이 공개 1차 자료를 바탕으로 작성·검증했습니다.
