토큰값이 67% 떨어졌는데, 왜 AI 청구서는 3배가 됐나 — 제번스의 역설과 추론 경제학

크게 보기

프롤로그: 4월에 바닥난 1년치 예산

2026년 봄, 우버(Uber)의 재무팀에 비상이 걸렸다. 한 해치로 잡아둔 AI 예산이 4월에 이미 바닥났기 때문이다. 통신사 AT&T의 사내 AI 플랫폼은 하루 처리량이 몇 달 만에 80억 토큰에서 450억 토큰으로 불어났다. 조사에 따르면 기업의 73%가 "2026년 AI 지출이 애초 예상을 초과했다"고 답했다.

여기까지만 보면 익숙한 이야기다 — "AI가 비싸구나." 그런데 진짜 미스터리는 따로 있다. 같은 기간, AI를 돌리는 값은 폭락하고 있었다.

단가는 1년에 67%, 3년에 99.7%가 빠졌는데 청구서는 오히려 터졌다. 값을 깎는 데 성공할수록 돈은 더 나간다. 이 기묘한 역설에는 161년 된 이름이 있다. 이 글은 그 역설의 정체와, 그 속에서 살아남는 법에 관한 이야기다.

💡 이 글은 코어닷 특집 시리즈의 '비용' 편이다. AI 생산성 측정은 DX Core 4 편, 추론을 기술적으로 싸게 만드는 법은 추론 최적화 편, 그 밑의 반도체 전쟁은 칩 워에서 이어진다.

1부. 제번스의 역설 — 효율이 소비를 늘린다

1865년, 영국의 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)가 이상한 현상을 발견했다. 제임스 와트의 개량 증기기관이 석탄을 훨씬 효율적으로 태우게 되자, 사람들은 석탄을 덜 쓴 게 아니라 더 많이 썼다. 효율이 올라 석탄 한 덩이의 값어치가 커지니, 예전엔 수지가 안 맞던 용도 — 공장, 기차, 제철 — 에까지 석탄을 쓰기 시작한 것이다.

크게 보기

이것이 제번스의 역설(Jevons Paradox)이다. 한 문장으로 요약하면 이렇다.

어떤 자원이 싸지면, 그 소비는 값이 떨어지는 속도보다 더 빠르게 늘어난다. 값이 싸지면서 예전엔 수지가 안 맞던 새 용도가 무더기로 열리기 때문이다.

2026년의 토큰은 정확히 2세기 전의 석탄이다. AI 추론이 싸지자, 예전엔 "그 돈 주고 그걸 왜?" 싶던 용도가 전부 경제성을 얻었다. 문서 하나 요약하던 AI에게 이제는 코드베이스 전체를 읽히고, 수십 번씩 스스로 추론을 반복시키고, 여러 에이전트를 동시에 굴린다. 값이 싸진 만큼, 아니 그보다 더, 우리는 토큰을 들이붓기 시작했다.

2부. 배수의 폭발 — 에이전트는 왜 청구서를 터뜨리나

제번스의 역설을 2026년에 이토록 극적으로 만든 주범이 있다. 에이전트(agent)다. 앞선 특집들에서 봤듯, 2026년의 AI는 한 번 묻고 한 번 답하는 챗봇이 아니라, 스스로 계획하고·도구를 쓰고·반복하는 에이전트로 진화했다. 그리고 그 진화의 대가는 토큰으로 청구된다.

크게 보기

숫자가 이 폭발을 증언한다. 에이전트가 작업 하나를 독립적으로 끝내려면 사용자 행동 1회당 10~20번의 모델 호출이 일어난다. 동등한 작업을 챗으로 할 때보다 약 1,000배의 토큰을 태운다. 골드만삭스는 에이전트 AI가 전체 토큰 수요를 최대 24배까지 끌어올릴 수 있다고 전망했다. 실제로 프로그래밍 용도의 토큰 비중은 2025년 초 전체의 11%에서 2026년 3월 50% 이상으로 뛰었다 — 코딩 에이전트가 플랫폼 토큰의 절반 이상을 먹어치우게 된 것이다.

여기에 잔인한 되먹임이 있다. 값이 싸질수록 개발자는 더 깊은 추론 루프, 더 큰 컨텍스트 창, 더 많은 도구 호출을 켠다. "어차피 싸니까 한 번 더 돌려." 이 심리가 배수를 키운다. 효율이 절약이 아니라 소비로 전환되는 제번스의 엔진이 바로 여기서 돈다.

3부. 가격의 진짜 그래프 — 디플레이션과 팽창이 동시에

그래서 2026년 추론 시장의 그래프는 두 개의 곡선이 정반대로 달린다.

블렌디드 추론 비용은 2025년 1분기 100만 토큰당 약 $18.40에서 2026년 1분기 $6.07로 1년 만에 67% 떨어졌다. 하지만 같은 기간 AT&T의 하루 토큰 소비는 80억 → 270억 → 450억으로 불었다. 단가 곱하기 사용량인 청구서는, 단가가 3분의 1로 줄어드는 동안 사용량이 5~6배로 늘면 결국 2배로 커진다. 디플레이션(단가 하락)과 팽창(사용량 폭증)이 한 청구서 위에서 동시에 벌어지는 것이다.

이 지점에서 조직은 재무 통제력을 잃는다. 라이선스는 좌석 수로 예측 가능했지만, 토큰은 사용량으로 청구되고 그 사용량은 에이전트가 결정한다. 한 분석은 이를 "토큰 함정(the token trap)", 다른 곳은 "에이전트 AI 세금(agentic AI tax)"이라 불렀다. 우버가 4월에 예산을 태운 건 사고가 아니라 구조였다.

4부. 악순환의 고리 — 효율이 하드웨어 부족을 부른다

제번스의 역설은 청구서에서 멈추지 않는다. 공급 측으로도 번진다. 여기 자기강화되는 고리가 있다.

크게 보기

역설의 정점이 이것이다. 모든 추론 최적화는, 역설적으로, 하드웨어 부족을 더 악화시킨다. 효율이 오를수록 더 많은 곳에서 AI를 돌릴 이유가 생기고, 그 수요가 다시 칩을 빨아들이기 때문이다. 왜 반도체가 2026년의 전략 자산이 됐는지 — 코어닷 칩 워 편이 다룬 그 전쟁의 수요 측 엔진이 바로 이 고리다. 싸지는 것이 문제를 푸는 게 아니라, 더 큰 문제를 여는 셈이다.

5부. best model wins → best fit wins

그렇다면 개인과 조직은 이 역설 속에서 무엇을 해야 하나. 2026년 업계가 도달한 답은 한 문장으로 요약된다.

"가장 좋은 모델이 이긴다(best model wins)"의 시대가 끝나고, "가장 잘 맞는 모델이 이긴다(best fit wins)"의 시대가 왔다.

벤치마크 점수 1등 모델을 모든 요청에 쓰는 건, 택배 한 상자를 스포츠카로 배달하는 것과 같다. 대부분의 요청은 값싸고 빠른 모델로 충분하다. 진짜 어려운 추론에만 프론티어 모델을 아껴 쓰면 된다. 이 판단을 자동화하는 것이 모델 라우팅(model routing)이다.

크게 보기

데이터가 이 전략의 위력을 증언한다. 일상 추론 트래픽의 80%를 비용 최적화 모델로 라우팅하고, 프론티어 모델은 복잡한 작업에만 남겨두면 추론 지출이 60~80% 줄어든다 — 최소한의 품질 손실로. 2026년 현재 이것이 단일 최고 ROI의 AI 비용 최적화로 꼽힌다. 여기에 소형 특화 모델(SLM)을 도메인별로 파인튜닝해 쓰면, 값싼 경로의 품질까지 끌어올릴 수 있다.

핵심은 관점의 전환이다. 라우팅·캐싱·압축은 더 이상 알고리즘 문제가 아니라 엔지니어링 문제다. 어떤 요청을 어느 모델로 보낼지 결정하는 시스템을 짜는 일 — 그것이 2026년 AI 엔지니어링의 새 핵심 역량이다.

6부. 비용 통제 플레이북

모델 라우팅이 가장 큰 지렛대지만, 실무에선 여러 기법을 겹쳐 쓴다. 각 기법의 절감 배수를 정리하면 이렇다.

이 기법들의 세부(양자화·프루닝·컴파일러 최적화 등)는 코어닷 추론 최적화 편에서 기술적으로 다뤘다. 여기서 강조할 것은 재무 규율이다.

결론: 지능이 공짜에 수렴하는 시대의 경쟁력

이 글을 관통한 그림은 이렇다. 추론의 단가는 지능이 거의 공짜가 되는 지점을 향해 매년 10배씩 내려가고 있다. 그런데 바로 그 하락이, 제번스의 역설을 통해, 총지출을 밀어 올린다. 값이 싸질수록 우리는 더 많이 쓰고, 더 많이 쓸수록 하드웨어가 모자라고, 그럴수록 다시 값을 내릴 압력이 커진다. 싸지는 것은 끝이 아니라 시작이다.

코어닷이 이 시리즈로 반복해 온 메시지가 여기서도 유효하다. AI가 무언가를 공짜로 만들 때마다 — 태스크든, 코드든, 이제는 추론 그 자체든 — 값어치는 '더 많이 쓰는 것'이 아니라 '무엇을 어떻게 쓸지 판단하는 것'으로 옮겨간다. 지능이 공짜에 수렴하는 시대의 진짜 희소 자원은, 그 값싼 지능을 어디에 얼마나 쓸지 결정하는 판단력이다.

토큰은 싸졌다. 판단은 여전히 비싸다.

참고 자료

• William Stanley Jevons, The Coal Question (1865) — 제번스의 역설의 기원
• Goldman Sachs, 에이전트 AI 토큰 수요 전망 (최대 24배) (2026)
• 블렌디드 추론 비용 분석: $18.40→$6.07/M 토큰(2025 Q1→2026 Q1), 기업 73% 예산 초과 (2026)
• 에이전트 워크로드 토큰 배수(작업당 챗 대비 ~1,000배·호출 10~20회), 프로그래밍 토큰 비중 11%→50%+ (2026)
• 모델 라우팅·비용 최적화 5대 기법(라우팅·캐싱·양자화·프롬프트·배치) 분석 (2026)
• 코어닷투데이, DX Core 4 편 · 추론 최적화 편 · 칩 워