coredot.today
[특집] 입력 토큰 경제 — OpenRouter 1년치 기록으로 본 AI 시장의 체질 변화
블로그로 돌아가기
OpenRouter토큰 경제학입력 토큰에이전트점유율AnthropicDeepSeek프롬프트 캐시요청당 토큰시장 집중도레거시 모델코딩 에이전트HBM오픈 시장 데이터

[특집] 입력 토큰 경제 — OpenRouter 1년치 기록으로 본 AI 시장의 체질 변화

OpenRouter가 공개한 53주치 순위 기록을 내려받아 다시 계산했습니다. 1년 사이 처리 토큰은 32배, 요청 수는 9.5배 늘었고, 요청 한 건의 평균 길이는 5,930토큰에서 20,037토큰으로 3.4배가 됐습니다. 지난주 시장 전체의 입력:출력 비율은 39:1이었습니다. Anthropic의 토큰 점유율은 16.2%에서 8.6%로 반 토막 났지만 요청 점유율은 4.4%에서 4.2%로 거의 그대로였고, 지출 점유율은 36.5%로 토큰 점유율의 네 배가 넘었습니다. 토큰 점유율, 요청 점유율, 매출은 서로 다른 세 개의 자이며, 지금 AI 시장은 '얼마나 쓰나'보다 '얼마나 읽나'로 움직이는 입력 토큰 경제가 됐습니다.

코어닷투데이2026-10-3084분
?
질문
공개 순위표에서 Anthropic의 점유율이 1년 만에 반 토막 났습니다. 정말 고객이 떠난 걸까요, 아니면 시장이 무언가를 다르게 세기 시작한 걸까요?
→
방법
OpenRouter가 공개한 53주치 연구소·모델 순위(토큰 기준과 요청 기준 두 판), 지난주 643개 모델의 토큰·지출 리더보드, 맥락 길이 구간, 코딩 에이전트 세션 비용을 내려받아 코어닷투데이가 처음부터 다시 계산했습니다.
✓
결론
토큰은 32배, 요청은 9.5배 늘었습니다. 시장 전체가 '길게 읽고 짧게 쓰는' 에이전트 쪽으로 옮겨 가면서 토큰 점유율은 더 이상 고객 수도, 매출도 대신하지 못하게 됐습니다.

끝없이 이어진 서가의 문서와 코드 출력물이 작은 책상 하나로 흘러들고, 그 앞의 로봇이 카드에 짧은 한 줄만 적고 있는 도서관 장면크게 보기

프롤로그 — "점유율 반 토막"이라는 문장을 의심하는 데서 시작한다

10월 말, 개발자들 사이에서 한 장의 그래프가 돌았습니다. AI 모델 중개 서비스 OpenRouter의 공개 순위 페이지에서 연구소별 토큰 점유율을 1년치로 늘어놓은 그림입니다. 그림 속 Anthropic의 선은 2025년 11월 첫 주 16.2%에서 2026년 10월 셋째 주 8.6%로 내려와 있었습니다. 같은 기간 중국 DeepSeek의 선은 6.5%에서 32.1%로 올라갔습니다. 그래프에 붙은 말은 대체로 비슷했습니다. "Anthropic의 시대가 저물고 있다", "오픈 모델이 이겼다".

코어닷투데이는 바로 전 특집 「토큰의 값어치」에서 반도체 분석사 SemiAnalysis의 글 스물한 편을 읽고 이런 결론을 냈습니다. 에이전트의 청구서는 출력이 아니라 캐시를 놓친 입력이 지배한다. 표값 $5/$25짜리 모델이 에이전트 작업에서는 100만 토큰당 1달러 안팎에 쓰이는데, 그 이유가 '읽는 양'이 '쓰는 양'보다 수백 배 많기 때문이라는 이야기였습니다. 그 글을 쓰면서 한 가지가 마음에 걸렸습니다. 읽는 양이 그렇게 많다면, 토큰 수로 세는 점유율 그래프는 무엇을 재고 있는 걸까요? 요청을 길게 보내는 회사와 짧게 보내는 회사가 섞인 시장에서 '토큰 점유율 반 토막'은 '고객 반 토막'과 같은 말일까요?

이 질문에 답하려고 OpenRouter가 공개하는 순위 데이터를 직접 내려받았습니다. OpenRouter는 순위 페이지를 그리는 데 쓰는 자료를 공개 API로 내놓고, 이 순위 데이터의 라이선스를 CC BY 4.0으로 밝혀 두었습니다. 출처만 밝히면 누구나 다시 계산하고 다시 쓸 수 있다는 뜻입니다. 코어닷투데이는 53주치 연구소별·모델별 주간 토큰과 요청 수, 지난주 643개 모델의 토큰·지출 리더보드, 요청 길이 구간, 코딩 에이전트 세션 비용, 작업 범주별 지출을 받아 처음부터 다시 셌습니다. 이 글의 숫자는 별도 표시가 없으면 모두 이 원자료에서 코어닷투데이가 계산한 값입니다.

결론을 먼저 적어 둡니다.

  1. 시장은 1년 사이 '길게 읽는' 쪽으로 체질이 바뀌었다. 주간 처리 토큰은 5.8조에서 188조로 32배, 요청은 9.8억 건에서 93.8억 건으로 9.5배 늘었습니다. 요청 한 건의 평균 길이는 5,930토큰에서 20,037토큰으로 3.4배가 됐습니다.
  2. 지금 AI 시장이 처리하는 토큰의 97%는 입력이다. 지난주 OpenRouter 전체의 입력:출력 비율은 39:1이었습니다. 가장 비싼 코딩 모델 Claude Opus 5.5는 116:1, 가장 긴 요청을 받는 StepFun Step-5 미리보기는 215:1입니다.
  3. Anthropic은 고객을 잃은 것이 아니라 '긴 요청 프리미엄'을 잃었다. 토큰 점유율이 반 토막 나는 동안 요청 점유율은 4.4%에서 4.2%로 거의 그대로였습니다. 줄어든 것은 요청 길이의 상대 배수(시장 평균의 3.7배에서 2.0배)입니다. 다만 여름부터 가을까지는 요청 점유율도 2%대로 함께 빠졌다가 Opus 5.5 출시 뒤 돌아왔습니다.
  4. 집중도는 U자를 그렸다. 2026년 봄 1위 연구소의 몫이 14.5%까지 내려갈 만큼 흩어졌던 시장이, 가을에는 DeepSeek 한 곳이 3분의 1을 처리하는 시장으로 다시 모였습니다.
  5. 토큰 점유율, 요청 점유율, 지출 점유율은 서로 다른 세 개의 자다. 지난주 Anthropic은 토큰의 8.5%, 요청의 4.4%를 처리하고 지출의 36.5%를 가져갔습니다. DeepSeek는 토큰의 35.4%를 처리하고 지출의 9.1%를 가져갔습니다.
  6. 오래된 모델은 세금처럼 비싸다. 등록된 지 90일 넘은 모델이 토큰의 16%를 처리하면서 지출의 33%를 차지합니다. 가격대를 맞춰 비교해도 이 경향은 사라지지 않습니다.

이 글은 코어닷투데이가 준비한 「오픈 시장 데이터 3부작」의 1편입니다. 이번 편은 OpenRouter의 시장 기록으로 '수요 쪽'을 봅니다. 다음 편에서는 같은 오픈 모델을 파는 공급자들의 가격 차이를, 마지막 편에서는 공개 추론 벤치마크로 본 생산 원가를 다룰 예정입니다.

1장. OpenRouter라는 계기판 — 무엇을 재고, 무엇을 못 재나

숫자로 들어가기 전에 이 계기판의 성격부터 정리해야 합니다. 데이터의 한계를 모르고 읽은 그래프는 위의 "Anthropic의 시대가 저문다"처럼 엉뚱한 결론으로 이어지기 쉽습니다.

OpenRouter는 어떤 시장인가

OpenRouter는 수백 개 AI 모델을 하나의 API 주소와 하나의 결제 계정으로 쓸 수 있게 해 주는 중개 서비스입니다. 개발자가 OpenRouter에 요청을 보내면, OpenRouter가 그 모델을 서빙하는 공급자(모델 회사 자신이거나 클라우드·추론 전문 업체) 중 하나로 요청을 넘기고 요금을 받습니다. 여러 모델을 갈아 끼우며 쓰는 개발자, 코딩 에이전트 앱, 롤플레이·채팅 앱, 무료 모델을 써 보려는 사람들이 주요 고객입니다.

이 성격 때문에 OpenRouter는 AI 시장 전체가 아닙니다. 몇 가지를 분명히 해 둡니다.

  • Anthropic 매출의 대부분은 자사 API, 아마존 Bedrock·구글 Vertex 같은 클라우드 마켓플레이스, Claude 구독에서 나옵니다. SemiAnalysis는 5월 글에서 Claude 수요가 아마존 AWS의 이익률을 끌어올렸다고 분석했는데, 그 돈은 OpenRouter를 거치지 않습니다. OpenAI·구글도 마찬가지입니다.
  • 반대로 중국 오픈 모델, 무료 모델, 막 나온 실험 모델은 OpenRouter에서 유난히 크게 보입니다. 여러 모델을 한 계정으로 써 보기 좋은 곳이기 때문입니다.
  • 그래서 이 글의 점유율은 'OpenRouter라는 개발자용 중개 시장 안에서의 몫'입니다. 그 자체로 의미 있는 공개 지표지만, 회사의 전체 매출 순위로 바꿔 읽으면 안 됩니다.

코어닷투데이가 받은 자료

자료무엇이 들어 있나기간한계
연구소 점유율 (토큰판·요청판)주간 연구소별 처리 토큰, 요청 수53주 (2025-10-27 ~ 2026-10-26 주)매주 상위 9개 연구소 + '그 밖 전부'만 공개
모델 순위 차트 (토큰판·요청판)주간 모델별 처리 토큰, 요청 수53주상위 9개 모델 + 그 밖 전부
오픈·닫힘 비중오픈 웨이트 모델과 닫힌 모델의 주간 토큰52주—
주간 리더보드 (토큰판·지출판)모델 643개의 입력·출력 토큰, 요청 수, 지출 점유최근 1주 (2026-10-22~28)지출은 이번 주 값만 공개, 시계열 없음. 캐시 토큰·추론 토큰 필드는 모두 0
맥락 길이 구간요청을 입력+출력 길이로 나눈 5개 구간의 모델별 요청 수26주 (2026-05-04 주부터)구간마다 상위 9개 모델 + 그 밖 전부
세션 비용코딩 에이전트 앱 4종 × 모델별 세션 1회 지출 중앙값최근 30일 (~2026-10-25)세션 수 비공개, 유료 사용만
작업 범주별 지출작업 종류별 지출·토큰 몫과 상위 모델최근 30일OpenRouter의 자동 분류 기준

몇 가지 한계는 이 글 전체에 걸려 있으므로 미리 적어 둡니다.

  • 상위 9개만 보인다. 주간 차트는 매주 상위 9개 연구소(또는 모델)와 '그 밖 전부(Others)'만 내놓습니다. 어떤 연구소가 10위로 밀리면 그 주의 값은 알 수 없습니다. 그래서 집중도 지표(HHI)는 하한값이고, 일부 연구소의 시계열은 중간이 비어 있습니다. 토큰 기준 상위 9와 요청 기준 상위 9는 구성원이 다르다는 점도 기억해 둘 만합니다.
  • 지출은 시계열이 없다. 지출 기준 데이터를 시계열로 요청하면 "이 데이터셋에서는 지출을 제공하지 않는다"는 오류가 돌아옵니다. 지출 점유율은 최근 1주 값만 있습니다.
  • 캐시 토큰이 따로 잡히지 않는다. 공개 리더보드의 캐시 토큰 필드는 모든 모델에서 0입니다. 그래서 이 글에서 '입력(prompt)'이라고 부르는 값에는 새로 보낸 입력과 캐시에서 다시 읽은 입력이 섞여 있습니다.
  • 양 끝 주는 부분 주다. 첫 주(2025-10-27)는 집계 창이 시작된 주이고, 마지막 주(2026-10-26)는 이 글을 쓰는 지금도 집계 중입니다. 그래서 추세 비교는 2025-11-03 주와 2026-10-19 주를 양 끝으로 씁니다.
  • 요청은 API 호출 한 번이다. 에이전트 앱이 일을 여러 번의 호출로 쪼개면 요청 수가 늘고 요청당 토큰은 줄어듭니다. 요청 수는 '고객 수'가 아니라 '호출 횟수'입니다. 이 글에서 "고객이 그대로"라고 말할 때도 엄밀히는 '호출 횟수의 몫이 그대로'라는 뜻입니다.

세 개의 단위: 토큰, 요청, 지출

이 글은 세 단위를 계속 오갑니다. 처음 보는 분을 위해 간단히 정리합니다.

요청API를 한 번 부르는 일. 채팅 한 턴이면 요청 하나, 코딩 에이전트가 파일을 읽고 고치고 테스트를 돌리는 동안에는 요청 수십~수백 개가 나간다.
토큰모델이 읽고 쓰는 글자 조각. 한 요청에는 입력 토큰(시스템 지시, 대화 기록, 코드, 문서)과 출력 토큰(모델의 답)이 들어 있다. 요청당 토큰 = 요청 하나가 평균 몇 토큰짜리인가.
지출그 토큰에 대해 실제로 낸 돈. 모델마다 단가가 다르고, 같은 모델도 입력·캐시 읽기·출력 단가가 다르다. 그래서 토큰 1%가 지출 0.1%일 수도, 4%일 수도 있다.

이 세 단위 사이에는 간단한 관계가 있습니다. 한 연구소의 토큰 점유율은 요청 점유율에 '요청 길이 배수'를 곱한 값입니다. 요청 길이 배수란 그 연구소의 요청당 토큰을 시장 평균 요청당 토큰으로 나눈 값입니다. 시장의 요청 4%를 받는 회사라도 그 요청이 평균보다 네 배 길면 토큰의 16%를 처리합니다. 이 관계가 4장의 핵심 도구가 됩니다.

2장. 토큰 ×32, 요청 ×9.5 — 시장이 '길게 읽는' 쪽으로 옮겨 갔다

두 해의 막대를 비교한 인포그래픽: 토큰은 32배, 요청은 9.5배, 요청당 토큰은 5,930에서 20,037로 3.4배크게 보기

가장 먼저 눈에 띄는 숫자는 성장 속도의 차이입니다.

주간 값2025-11-03 주2026-10-19 주배수
처리 토큰5.8조188.0조×32.3
요청 수9.8억 건93.8억 건×9.5
요청당 토큰5,93020,037×3.4
오픈 웨이트 모델의 토큰 몫30.6%72.6%+42.0%p

요청이 9.5배 늘어난 것도 대단한 성장이지만, 토큰은 그보다 세 배 넘게 빨리 늘었습니다. 요청 한 건이 평균 3.4배 길어졌다는 뜻입니다. 요청당 토큰은 2025년 12월에 4,700 안팎으로 바닥을 찍은 뒤 2026년 2월부터 오르기 시작해, 3월 말 12,389, 6월 중순 13,000~14,000대, 8월 24일 주 22,450으로 정점을 찍고 지금은 2만 안팎에서 머물고 있습니다.

언제 꺾였는지를 보면 원인의 실마리가 보입니다. 2월은 Claude Code 같은 코딩 에이전트가 개발자 일상으로 들어온 시기이고(SemiAnalysis는 2월 5일 글 제목을 「Claude Code가 변곡점이다」로 달았습니다), 4월 말 DeepSeek V4(100만 토큰 맥락)를 시작으로 Kimi·GLM·MiniMax 같은 중국 오픈 모델이 에이전트 작업을 내세우며 잇달아 나온 것이 봄부터 여름까지의 일입니다. 채팅 한 턴은 몇백~몇천 토큰이면 끝나지만, 코딩 에이전트는 매 턴 시스템 지시와 도구 설명, 지금까지의 대화, 열어 본 파일을 통째로 다시 보냅니다. 요청의 수보다 길이가 먼저 자라는 이유입니다.

꼬리가 길어졌다: 10만 토큰 넘는 요청 12배

OpenRouter는 2026년 5월부터 요청을 길이(입력+출력 토큰 합)로 다섯 구간에 나눠 집계합니다. 코어닷투데이가 다섯 구간의 요청 수를 모두 받아 더해 보니, 매주 합계가 전체 요청 수와 정확히 맞았습니다. 즉 이 구간들은 시장 전체 요청을 빠짐없이 나눈 것입니다.

1K 미만
34.6% → 33.1%
1K ~ 10K
48.0% → 44.9%
10K ~ 100K
15.6% → 16.2%
100K ~ 1M
1.8% → 5.8%

막대 길이는 2026-10-19 주 비중(최댓값 44.9% 기준)입니다. 오른쪽은 2026-05-04 주와 2026-10-19 주의 요청 비중입니다. 1M 이상 구간은 두 주 모두 0.0%였습니다.

요청 수로 보면 시장의 대부분은 여전히 1만 토큰 미만입니다. 짧은 분류·번역·채팅 요청은 줄지 않았습니다. 늘어난 것은 꼬리입니다. 10만~100만 토큰짜리 요청은 전체의 1.8%에서 5.8%로, 건수로는 주 4,700만 건에서 5억 4,600만 건으로 약 12배가 됐습니다. 8월 24일 주에는 6.8%까지 올라갔습니다. 요청의 6%가 토큰으로는 훨씬 큰 몫을 차지합니다. 이 구간의 요청 하나는 평균 요청의 5~50배이기 때문입니다.

더 흥미로운 것은 이 '긴 요청' 구간을 누가 처리하느냐입니다. 5월 첫 주에는 이 구간 상위 9개 모델 가운데 Anthropic 모델(Claude 4.6 Sonnet, 4.7 Opus, 4.6 Opus)이 요청의 21.5%를 받았습니다. 10월 셋째 주에는 그 자리에 Opus 5.5 하나(5.1%)만 남았고, DeepSeek V4.1 Flash 두 버전이 30.7%를 받고 있습니다(상위 9개 모델만 센 하한값입니다). 1년 전만 해도 긴 맥락을 읽히는 일은 Claude의 영역이었습니다. 지금은 100만 토큰당 몇십 센트짜리 Flash 모델이 그 일을 가장 많이 합니다. 4장에서 다룰 Anthropic의 점유율 변화는 이 장면에서 시작합니다.

3장. 39 : 1 — 출력이 아니라 입력을 파는 시장

입력 종이 더미 39장과 출력 한 장을 나란히 놓은 인포그래픽, 최상위 모델 116:1과 최장 모델 215:1 표시크게 보기

요청이 길어졌다는 것은 무엇이 길어졌다는 뜻일까요? 지난주(2026-10-22~28) 리더보드는 모델마다 입력 토큰과 출력 토큰을 따로 내놓습니다. 643개 모델을 모두 더하면 입력이 179.3조, 출력이 4.59조 토큰입니다. 입력:출력 = 39:1. 시장이 처리한 토큰의 97.5%가 입력입니다.

모델별로 보면 이 비율은 쓰임새를 그대로 드러냅니다.

모델 (지난주)토큰 점유입력 : 출력요청당 토큰지출 점유
DeepSeek V4.1 Flash (10-17판)21.5%69 : 161,0003.4%
DeepSeek V4.1 Flash (09-10판)9.0%40 : 133,7002.5%
GLM-5.3 Flash8.2%23 : 121,2003.8%
GPT-6 Luna5.2%36 : 118,2001.5%
Tencent Hy4 미리보기4.9%104 : 1104,2000.5%
Claude Opus 5.54.3%116 : 1133,40016.9%
StepFun Step-5 미리보기2.9%215 : 1257,1000.01%
Claude Sonnet 5.51.3%51 : 148,4005.8%
Claude Haiku 5.51.6%20 : 114,3000.9%
Gemini 3.8 Flash0.85%20 : 118,4002.5%
TypeSafe Jev 1.131.7%13 : 13,4000.45%

Opus 5.5는 요청 하나에 평균 13만 3천 토큰을 읽고 그 116분의 1을 씁니다. 코드베이스와 대화 기록을 통째로 읽은 뒤 수정 몇 줄을 내놓는 코딩 에이전트의 모습 그대로입니다. Step-5 미리보기는 요청당 25만 7천 토큰, 215:1로 가장 극단적인 '읽기 기계'입니다. 반대쪽에는 요청당 3,400토큰짜리 TypeSafe Jev(분류·판정용 소형 모델)가 있습니다. 이 모델은 지난주 요청의 10.1%를 처리했지만 토큰으로는 1.7%입니다.

연구소로 묶어 보면 Google이 '짧은 호출'의 회사가 됐다는 점이 두드러집니다. Google 모델들은 지난주 요청의 15.7%를 받았지만 토큰은 3.4%만 처리했습니다. 요청당 토큰이 약 4,300으로 시장 평균의 5분의 1입니다. 2025년 11월에는 요청의 39.1%를 받던 회사입니다. Gemini 2.5 Flash Lite, Gemini 3.x Flash 계열이 분류·추출·요약 같은 짧고 많은 작업의 기본값으로 자리 잡은 결과로 보입니다. 그런데 이 '짧은 호출'은 지출로는 11.0%로, 토큰 몫의 세 배를 법니다. 짧은 요청은 캐시에서 다시 읽을 것이 적어 표값에 가깝게 청구되기 때문입니다.

입력의 대부분은 '다시 읽기'다

여기서 한 가지를 짚어야 합니다. 39:1의 입력에는 매번 새로 보낸 토큰과 캐시에서 다시 읽은 토큰이 섞여 있습니다. 공개 리더보드에는 캐시 필드가 0으로 나와서 둘을 뗄 수 없습니다. 그래도 어느 쪽이 더 큰지는 짐작할 수 있습니다. SemiAnalysis는 4월 글에서 자체 수집한 에이전트 작업 기록을 예비 분석해 Claude Code가 평균 100:1, Codex가 80:1이라고 적었고, 5월 글에서는 자사 Claude Code 사용이 약 300:1에 캐시 적중 90% 이상이라고 썼습니다. 코어닷투데이가 「클로드 코드 세션 경제학」에서 다룬 것처럼, 에이전트는 매 턴 같은 앞부분(시스템 지시, 도구 목록, 앞선 대화)을 다시 보내고, 공급자는 그 앞부분을 캐시에서 꺼내 싸게 청구합니다.

그래서 '입력 토큰 경제'는 정확히 말하면 '다시 읽기 경제'입니다. 이 점이 9장에서 다룰 가격·하드웨어 이야기의 출발점이 됩니다. 프롬프트 캐시가 어떻게 작동하는지는 「AI가 단골을 알아보는 법」에 그림으로 정리해 두었습니다.

4장. 점유율이 반 토막 났는데 고객은 그대로? — Anthropic 분해

토큰 점유율 16.2%에서 8.6%로, 요청 점유율 4.4%에서 4.2%로, 요청당 토큰 배수 3.7배에서 2.0배로 바뀐 것을 세 줄로 보여 주는 인포그래픽크게 보기

이제 프롤로그의 그래프로 돌아갑니다. Anthropic의 토큰 점유율은 2025-11-03 주 16.2%에서 2026-10-19 주 8.6%로 떨어졌습니다. 같은 두 주의 요청 점유율은 4.4%와 4.2%입니다. 시장이 받은 요청 가운데 Anthropic 모델로 간 몫은 1년 전과 거의 같습니다. Anthropic으로 간 요청 수 자체는 주 4,300만 건에서 3억 9,400만 건으로 약 9배 늘어, 시장 전체 요청 증가(9.5배)와 거의 같은 속도였습니다.

그렇다면 토큰 점유율은 어디서 빠졌을까요? 1장에서 소개한 관계식에 숫자를 넣어 보면 답이 바로 나옵니다.

분해식 — 토큰 점유율은 요청 점유율과 요청 길이 배수의 곱
2025-11-03 주
요청 점유율 4.4% × 요청 길이 배수 3.68 (Anthropic 21,800토큰 ÷ 시장 5,930토큰) = 토큰 점유율 16.2%
2026-10-19 주
요청 점유율 4.2% × 요청 길이 배수 2.04 (Anthropic 40,947토큰 ÷ 시장 20,037토큰) = 토큰 점유율 8.6%
분해 (로그 기준, 코어닷투데이 계산)
토큰 점유율 변화(×0.53) 중 요청 점유율 몫 8%, 요청 길이 배수 몫 92%

토큰 점유율 하락의 92%가 '요청 길이 배수'에서 왔습니다. Anthropic의 요청이 짧아진 것이 아닙니다. Anthropic의 요청당 토큰은 21,800에서 40,947로 오히려 1.9배 길어졌습니다. 다만 시장 평균은 3.4배, DeepSeek는 6.7배(4,732 → 31,549) 길어졌습니다. 1년 전 Anthropic은 남들보다 3.7배 긴 요청을 받는 회사였고, 지금은 2배 긴 요청을 받는 회사입니다. 다른 회사의 고객들이 Anthropic 고객처럼 일하기 시작한 것입니다. 긴 맥락을 통째로 읽히는 에이전트형 사용이 Claude만의 영역에서 시장 전체의 기본값이 되자, 같은 고객 몫으로 차지하던 토큰 몫이 줄었습니다.

이것이 "점유율은 반 토막 났지만 고객은 그대로"라는 문장의 정확한 뜻입니다. 절대량으로 보면 Anthropic이 처리한 주간 토큰은 0.95조에서 16.1조로 17배 늘었습니다. 시장이 32배 커지는 동안 17배 자랐으니 몫이 줄어든 것이지, 덜 쓰인 것은 아닙니다.

하지만 가을의 저점은 다른 이야기다

1년의 양 끝만 보면 깔끔하지만, 그 사이의 경로는 그렇게 깔끔하지 않습니다. 위 위젯에서 요청 점유율 탭을 눌러 보면 보입니다.

25.11 ~ 26.07 초토큰 점유율은 대체로 13~17%대(가장 낮은 주 10.1%, 가장 높은 주 19.1%). 요청 점유율은 대체로 3~6%.
26.07 중순 ~ 09 말토큰 점유율이 11.7% → 9.1% → … → 3.6%(9월 14일·21일 주)로 미끄러짐. 요청 점유율도 4.7%에서 2.0%(9월 28일 주)까지 함께 빠짐.
26.10Opus 5.5(9월 21일)·Haiku 5.5(10월 7일) 출시 뒤 4주 만에 토큰 점유율 3.9% → 8.6%, 요청 점유율 2.0% → 4.2%로 회복.

여름부터 가을까지의 하락은 요청 길이만으로 설명되지 않습니다. 2026-09-14 주까지를 같은 방식으로 분해하면 토큰 점유율 하락의 39%가 요청 점유율에서 옵니다. 이 기간에 무슨 일이 있었는지 절대량으로 보면 더 선명합니다. 7월 6일 주부터 9월 21일 주까지 Anthropic의 주간 요청은 1억 3,400만~1억 7,800만 건, 주간 토큰은 4.6조~7.3조 사이에서 제자리였습니다. 같은 기간 시장 전체 토큰은 52.6조에서 145.8조로 2.8배, 요청은 1.9배 늘었습니다. Anthropic이 고객을 잃은 것이 아니라 시장이 폭발하는 석 달 동안 혼자 멈춰 있었던 것입니다. 그러다 Opus 5.5가 나오자 Anthropic의 주간 요청은 1억 5,000만 건(9월 21일 주)에서 3억 9,400만 건(10월 19일 주)으로 4주 만에 2.6배가 됐습니다.

여름에 멈춘 이유를 이 데이터만으로 단정할 수는 없습니다. 같은 시기 DeepSeek V4 Flash(7월 31일판)·V4.1 Flash(9월 10일판), Tencent Hy3·Hy4 미리보기, GLM-5.3 Flash 같은 값싼 모델(일부는 무료판)이 상위권을 차지하며 늘어난 수요의 상당 부분을 가져갔다는 것까지가 데이터가 보여 주는 사실입니다.

한 가지 가설은 조심스럽게 다뤄야 합니다. 이 기간에는 정체를 밝히지 않은 '스텔스' 모델이 상위권에 올라 전체 토큰을 부풀렸습니다. 8월 17일·24일 주에는 ox-alpha가 12~14%, 9월 28일 주에는 space-bunny-alpha가 23.3%로 그 주 1위였습니다. 스텔스 모델을 빼고 다시 계산하면 9월 28일 주 Anthropic 점유율은 3.9%가 아니라 5.1%입니다. 그러나 스텔스 모델이 상위 9에 없던 9월 7일·14일 주에도 Anthropic은 3.6~3.8%였습니다. 스텔스 모델이 저점을 조금 더 깊게 만든 것은 맞지만, 저점의 원인이라고 보기는 어렵습니다. 스텔스 모델이 어느 회사의 모델인지도 공개 자료로는 알 수 없습니다.

4컷 만화: 점유율 그래프에 놀란 분석가에게 선배가 요청 수 그래프, 긴 두루마리, 저울을 차례로 보여 주며 토큰과 매출이 다르다고 설명하는 장면크게 보기

같은 계산을 다른 회사에 하면

같은 분해를 다른 연구소에 적용하면 저마다 다른 모양이 나옵니다.

연구소토큰 점유율요청 점유율요청 길이 배수무엇이 움직였나
Anthropic16.2% → 8.6%4.4% → 4.2%3.68 → 2.04길이 배수가 92%
DeepSeek6.5% → 32.1%8.1% → 20.4%0.80 → 1.57둘 다 상승 (요청 57%, 길이 43%)
Google19.2% → 3.4%39.1% → 16.4%0.49 → 0.21둘 다 하락 (반반)
OpenAI8.5% → 9.1%15.0% → 17.1%0.57 → 0.53요청 몫 소폭 상승
Z.ai3.0% → 10.4%1.6% → 8.2%1.83 → 1.26요청 몫 급상승, 길이 배수는 하락

DeepSeek는 요청도 많이 얻고(요청 수 24배) 요청도 길어진 경우입니다. 1년 전 DeepSeek의 요청은 시장 평균보다 짧았습니다(0.8배). 지금은 평균의 1.6배입니다. '싼 채팅 모델'에서 '싼 에이전트 모델'로 쓰임새가 바뀐 것입니다. Google은 반대로 요청 몫도 줄고 요청도 상대적으로 짧아졌습니다. Z.ai(GLM)는 요청 수가 48배로 가장 빨리 늘었지만, 원래 긴 요청을 받던 회사라 길이 배수는 오히려 내려왔습니다.

아래 계산기로 연구소와 두 주를 골라 직접 나눠 볼 수 있습니다. 아래쪽에는 같은 연구소를 토큰·요청·지출이라는 세 개의 자로 잰 지난주 값이 함께 나옵니다. 6장의 주제를 미리 보여 주는 칸입니다.

5장. 흩어졌다가 다시 모였다 — 집중도의 U자

1위 연구소 토큰 점유율이 27.6%에서 14.5%로 내려갔다가 32.1%로 다시 올라가는 U자 곡선 인포그래픽크게 보기

점유율 이야기를 연구소 하나가 아니라 시장 전체로 넓히면, 지난 1년은 '흩어짐'과 '다시 모임'의 두 막으로 나뉩니다.

지표2025-11-03 주바닥 (주)2026-10-19 주
1위 연구소의 토큰 몫27.6% (xAI)14.5% (26-05-04, Anthropic)32.1% (DeepSeek)
연구소 HHI (상위 9만 넣은 하한)1,580879 (26-03-16)1,459
상위 9개 모델의 토큰 몫61.1%42.7% (26-04-20)61.7%

HHI(허핀달-허쉬만 지수)는 각 회사 점유율(%)을 제곱해 더한 값입니다. 한 회사가 다 가지면 10,000, 열 회사가 똑같이 나누면 1,000입니다. 미국 법무부·연방거래위원회의 2023년 합병 지침은 HHI가 1,800을 넘는 시장을 '고도로 집중된 시장'으로 봅니다. 여기서는 상위 9개 연구소만 넣었기 때문에 실제 값은 이보다 조금 높습니다.

첫 막: xAI의 시장이 흩어지다. 2025년 11월의 OpenRouter는 xAI의 코딩 모델 grok-code-fast-1이 주간 토큰의 4분의 1 가까이를 처리하던 시장이었습니다. 이 모델은 2025년 12월 말까지 10주 중 9주 1위 모델이었고, 나머지 한 주(11월 24일 주)에는 무료로 풀린 Grok 4.1 Fast가 1위를 하면서 xAI 전체가 40.8%를 차지했습니다. 이 수요는 오래가지 않았습니다. xAI의 몫은 12월부터 빠르게 줄었고 2026년 4월 20일 주를 마지막으로 상위 9 연구소에서 사라졌습니다. 1년 사이 점유율 낙폭이 가장 큰 회사(−27.6%p)입니다. 그 자리는 한동안 Google이 맡았습니다. Gemini 3 Flash 미리보기와 2.5 Flash 계열로 1월 12일 주에 26.1%까지 올랐고, 51주 중 17주를 1위로 보냈습니다.

바닥: 아무도 15%를 넘지 못한 봄. 3월부터 5월까지는 1위가 거의 매주 바뀌었습니다. MiniMax M2.5, Xiaomi MiMo V2 Pro, Qwen 3.6 Plus(무료판), Claude 4.6 Sonnet, Kimi K2.6, Tencent Hy3 미리보기(무료판)가 차례로 1위 모델에 올랐습니다. 이 시기에 1위 연구소의 몫은 14.5%까지, 상위 9개 모델이 처리하는 몫은 42.7%까지 내려갔습니다. 새 모델이 나오면 한두 주 1위를 하고 내려오는 시장이었습니다. 51주 동안 1위 모델은 25번 바뀌었고 22개 모델이 한 번 이상 1위에 올랐습니다. 그중 9주는 무료 변형이나 스텔스 모델이 1위였습니다.

둘째 막: DeepSeek 쪽으로 다시 모이다. 5월 중순 DeepSeek V4 Flash(4월 23일판)가 1위에 오른 뒤로 판이 바뀌었습니다. 5월 11일 주부터 10월 19일 주까지 24주 중 21주의 1위 연구소가 DeepSeek였습니다. DeepSeek는 V4 Flash → V4 Flash(7월 31일판) → V4.1 Flash(9월 10일판) → V4.1 Flash(10월 17일판)로 한두 달마다 자기 자신을 갈아 끼우며 1위를 지켰고, 10월 19일 주 32.1%, 집계 중인 10월 26일 주에는 35.6%까지 올라갔습니다. 2025년 11월 xAI가 가졌던 27.6%보다 큰 몫입니다.

점유율이 아니라 절대량으로 보면 그림이 조금 다릅니다. 같은 기간 시장 전체 토큰이 32배가 되는 동안 연구소별 주간 토큰은 이렇게 늘었습니다.

DeepSeek
×160 (0.38조 → 60.4조)
Z.ai
×112 (0.18조 → 19.6조)
MiniMax
×41 (0.39조 → 15.9조)
OpenAI
×34 (0.50조 → 17.1조)
Anthropic
×17 (0.95조 → 16.1조)
Google
×5.7 (1.12조 → 6.4조)

막대 길이는 배수를 DeepSeek(×160) 기준으로 나눈 값입니다. 2025-11-03 주 → 2026-10-19 주.

상위 9 밖으로 밀려난 xAI·Qwen·Mistral은 지금의 절대량을 알 수 없습니다. 상위 9에 남은 연구소는 모두 늘었고, 차이는 '얼마나 빨리'뿐입니다. 오픈 웨이트 모델의 토큰 몫이 30.6%에서 72.6%로 오른 것도 같은 이야기의 다른 면입니다. 다만 오픈 몫은 7월에 이미 72%에 닿은 뒤 석 달째 70% 안팎에서 멈춰 있습니다. 오픈이냐 닫힘이냐의 판은 여름에 정해졌고, 가을의 재집중은 오픈 모델들 사이에서 DeepSeek가 이긴 결과입니다.

6장. 세 개의 자 — 토큰 점유율 ≠ 요청 점유율 ≠ 매출

두 연구소를 토큰·요청·지출 세 막대로 비교한 인포그래픽: A 연구소 8.5%·4.4%·36.5%, B 연구소 35.4%·21.1%·9.1%크게 보기

OpenRouter는 지난주에 대해서만 모델별 지출 점유율을 공개합니다. 시계열은 없지만, 한 주만으로도 세 개의 자가 얼마나 다른 숫자를 내는지 보기에는 충분합니다. 아래 표는 모델 643개의 값을 연구소별로 더한 것입니다(지출 상위 8곳과, 요청·토큰 몫이 큰데 지출은 작은 2곳).

연구소 (26-10-22~28)토큰 점유요청 점유지출 점유지출 ÷ 토큰
Anthropic8.5%4.4%36.5%4.3배
OpenAI10.3%17.0%19.0%1.8배
Google3.4%15.7%11.0%3.2배
DeepSeek35.4%21.1%9.1%0.26배
Z.ai11.7%8.9%9.0%0.77배
Moonshot (Kimi)1.9%0.6%6.2%3.3배
xAI0.4%0.3%2.3%5.8배
Qwen (알리바바)1.6%4.4%1.7%1.1배
TypeSafe2.7%14.7%0.7%0.26배
Tencent6.5%1.4%0.5%0.08배

이 표 하나로 세 가지 순위표가 나옵니다. 토큰으로 세면 DeepSeek·Z.ai·OpenAI·Anthropic 순이고, 요청으로 세면 DeepSeek·OpenAI·Google·TypeSafe 순이고, 돈으로 세면 Anthropic·OpenAI·Google·DeepSeek 순입니다. Anthropic은 토큰의 8.5%로 지출의 36.5%를 가져갑니다. 모델 하나로 보면 더 극단적입니다. Claude Opus 5.5는 지난주 토큰의 4.3%, 요청의 0.6%를 처리하고 지출의 16.9%를 가져갔습니다. 토큰 1위 DeepSeek V4.1 Flash(10월 17일판)는 토큰의 21.5%로 지출 3.4%입니다.

반대쪽 극단도 있습니다. 무료 변형(:free)은 지난주 토큰의 5.3%, 요청의 1.3%를 처리하고 지출은 0입니다. 5장에서 본 것처럼 무료·스텔스 모델은 51주 중 9주 동안 1위 모델이었습니다. 토큰 순위표에서는 1위인데 매출 순위표에서는 아예 보이지 않는 모델이 꽤 자주 1위를 한다는 뜻입니다.

무슨 일에 돈을 쓰나

OpenRouter는 요청을 자동으로 작업 범주에 나눠 최근 30일 지출과 토큰 몫을 함께 보여 줍니다. 여기서도 두 자는 엇갈립니다.

대분류 (최근 30일)토큰 몫지출 몫지출 ÷ 토큰
코딩 (code)33.1%26.9%0.81배
에이전트 (agent)33.8%30.7%0.91배
데이터 (data)6.8%10.3%1.52배
일반 (general)26.3%32.1%1.22배

코딩과 에이전트 작업은 토큰을 가장 많이 먹지만 토큰 몫보다 지출 몫이 작습니다. 긴 맥락을 캐시로 다시 읽는 작업이라 토큰당 청구가 낮기 때문입니다. 반대로 데이터 추출(지출 7.3% 대 토큰 5.0%)과 데이터 변환(3.1% 대 1.8%)은 토큰 몫의 1.5~1.7배를 씁니다. 문서마다 새 입력이 들어가 캐시가 잘 안 맞는 작업입니다. 그리고 지출 상위 12개 작업 범주 가운데 11개에서 지출 1위 모델이 Claude Opus 5.5였습니다. 같은 범주에서 토큰 1위는 대부분 DeepSeek V4.1 Flash였습니다. 고객들은 같은 종류의 일에 싼 모델로 양을 처리하고, 비싼 모델로 돈을 씁니다.

정리하면 이렇습니다.

토큰 점유율'얼마나 많이 읽고 썼나'에이전트·긴 맥락 사용이 많을수록 커진다. 서빙 용량·하드웨어 수요를 볼 때 쓴다
요청 점유율'얼마나 자주 불렸나'고객 수에 가장 가깝지만, 앱이 일을 여러 호출로 쪼개면 부풀려진다
지출 점유율'얼마를 냈나'매출에 가장 가깝다. 단가·캐시 적중·무료 여부가 모두 섞인다. OpenRouter는 이번 주 값만 공개

토큰 순위표 하나만 보고 "누가 시장을 이기고 있다"고 말하는 것은 이 셋을 하나로 뭉개는 일입니다. 코어닷투데이는 직전 특집에서 30일 토큰 점유 3.6%짜리 Opus 5.5가 25.5%짜리 DeepSeek Flash 두 버전보다 두 배 넘게 번다고 추정했는데, 지난주 지출 점유(16.9% 대 5.9%)가 그 추정을 직접 확인해 줍니다.

7장. 오래된 모델의 세금

모델 나이 구간별로 토큰 1%가 버는 지출을 0.44, 1.05, 1.69, 2.51, 3.01로 보여 주는 계단형 막대 인포그래픽크게 보기

지출 점유율에는 숨은 이야기가 하나 더 있습니다. 지난주 리더보드의 643개 모델을 OpenRouter에 등록된 날짜로 나눠 보면, 오래된 모델일수록 처리하는 토큰에 비해 많이 법니다.

등록된 지모델 수토큰 몫지출 몫지출 ÷ 토큰
30일 미만9733.6%14.8%0.44
30~90일12850.0%52.4%1.05
90~180일10810.6%17.9%1.69
180~365일1353.9%9.8%2.51
1년 이상1221.6%4.9%3.01

90일 넘은 모델들은 토큰의 16.1%를 처리하면서 지출의 32.6%를 가져갑니다. 2025년 9월에 나온 Claude 4.5 Sonnet은 지난주 토큰의 0.15%를 처리했지만 지출의 2.0%를 차지했고, '롤플레이·소설' 작업 범주에서는 여전히 지출 1위 모델입니다.

이 숫자를 그대로 '나이 때문'이라고 읽으면 안 됩니다. 비싼 닫힌 모델이 오래된 쪽에 많이 남아 있고, 막 나온 모델은 무료 변형이나 출시 할인으로 들어오는 경우가 많기 때문입니다. 그래서 코어닷투데이는 목록 출력가로 모델을 세 가격대(저가 100만 토큰당 $1.5 미만, 중가 $1.5~8, 고가 $8 이상)로 나눠 다시 계산했습니다.

가격대30일 미만30~90일90~180일180~365일1년 이상
저가 (지출 ÷ 토큰)0.170.390.320.620.83
중가0.161.000.802.633.25
고가3.114.826.4513.2513.63

이 표의 값은 전체 시장 기준 '지출 몫 ÷ 토큰 몫'이라 가격대끼리 비교하라고 만든 것이 아닙니다. 봐야 할 것은 한 줄 안의 변화입니다. 세 가격대 모두 30일 미만 모델이 가장 낮고 180일을 넘긴 모델이 가장 높습니다(90~180일 구간에서 한 번 꺾이는 줄은 있습니다). 가격대를 맞춰도 나이 효과는 남습니다. 가격대 구분이 거칠고 공급자별 할인과 캐시 단가 차이를 반영하지 못하므로 정확한 크기는 말할 수 없지만, 방향은 분명합니다.

왜 이런 일이 생길까요? 코어닷투데이의 해석(추정)은 세 가지입니다.

  1. 후속 버전이 더 싸다. OpenRouter 모델 목록의 목록가로 보면 Claude Opus 5는 100만 토큰당 $5/$25(캐시 읽기 $0.50)인데 Opus 5.5는 $4/$20(캐시 읽기 $0.20)입니다. Claude Sonnet 4.5는 $3/$15인데 Sonnet 5.5는 $2/$10입니다. GPT-5.6 Sol은 $4/$20인데 GPT-6.1 Sol은 $2/$10입니다. 옛 버전에 고정해 둔 팀은 더 낮은 성능에 더 비싼 값을 냅니다.
  2. 오래된 모델은 운영 파이프라인에 박혀 있다. 한 번 검증해 둔 분류·추출·롤플레이 파이프라인은 모델을 잘 바꾸지 않습니다. 이런 작업은 짧은 요청이 많고 캐시가 덜 맞아 토큰당 청구가 표값에 가깝습니다.
  3. 새 모델은 할인과 무료로 들어온다. 30일 미만 구간에는 무료 변형과 출시 프로모션이 몰려 있어 토큰당 지출이 낮게 나옵니다.

어느 쪽이든 실무의 결론은 같습니다. 모델 버전을 고정해 둔 곳이 어디인지, 그 버전의 후속이 얼마인지 분기마다 확인하라. 이 세금은 아무도 청구서를 열어 보지 않는 곳에서 걷힙니다.

8장. 하네스가 청구서를 바꾼다

마지막 공개 자료는 코딩 에이전트 세션 비용입니다. OpenRouter는 Hermes Agent, Claude Code, Kilo Code, Codex 네 하네스(모델을 감싸 실제로 일을 시키는 에이전트 앱)에 대해, 최근 30일 동안 세션 한 번에 든 지출의 중앙값을 모델별·세션 길이별로 공개합니다. 한 모델이 토큰의 80% 이상을 처리한 세션을 그 모델의 세션으로 봅니다.

10~49턴짜리 '보통' 세션 기준으로 몇 가지를 뽑으면 이렇습니다.

모델 (10~49턴 세션 중앙값)Hermes AgentClaude CodeKilo CodeCodex
Claude Opus 5.5$1.33$1.36$1.58$3.54
GPT-6 Astra$2.75$2.59—$2.77
Gemini 4 Argon$0.81$1.49$1.03$1.05
GPT-6.1 Sol$0.43$0.40$0.53$0.48
GLM-5.3$0.20$0.27$0.30$0.18
DeepSeek V4.1 Flash (10-17)$0.030$0.031$0.041$0.036

같은 Opus 5.5로 같은 길이의 세션을 돌려도 Codex에서는 중앙값이 $3.54로, Claude Code의 2.7배입니다. Gemini 4 Argon은 반대로 Claude Code에서 가장 비쌉니다. 하네스가 매 턴 무엇을 다시 보내는지, 캐시가 깨지지 않게 프롬프트 앞부분을 얼마나 고정해 두는지, 출력을 얼마나 길게 요구하는지가 다르기 때문입니다. 다만 이것을 '하네스의 효율'로만 읽으면 안 됩니다. Codex에서 Opus를 쓰는 사람은 소수이고, 어떤 일에 쓰는지도 다를 수 있습니다. 세션 수가 공개되지 않아 표본 크기도 알 수 없습니다.

더 큰 그림은 이렇습니다. 세 개 이상의 하네스에 값이 있는 24개 모델에서 하네스 간 최대/최소 비율의 중앙값은 1.45배입니다. 반면 한 하네스 안에서 모델끼리의 차이는 47배(Kilo Code)에서 375배(Hermes Agent)입니다. 같은 Claude Code 안에서도 10~49턴 세션이 DeepSeek V4 Flash로는 2센트, Claude Fable 5.1로는 3.59달러입니다. 하네스는 청구서를 1.5배 바꾸고, 모델은 100배 바꿉니다. 둘 다 '입력을 얼마나, 몇 번 다시 읽히느냐'의 문제라는 점에서 같은 이야기입니다.

9장. 입력 토큰 경제가 바꾸는 세 가지 — 가격, 하드웨어, 순위표 읽기

지금까지 본 숫자를 한 문장으로 줄이면 이렇습니다. AI 시장이 처리하는 일의 무게중심이 '쓰기'에서 '읽기', 그것도 '다시 읽기'로 옮겨 갔다. 이 변화는 세 곳에 직접 영향을 줍니다.

가격: 출력 단가보다 새 입력 단가와 캐시 적중률

직전 특집의 결론은 "에이전트의 청구서는 캐시를 놓친 입력이 지배한다"였습니다. 이번 데이터에 그 계산을 그대로 적용해 봅니다. Claude Opus 5.5의 OpenRouter 목록가(100만 토큰당 입력 $4, 출력 $20, 캐시 읽기 $0.20)에, 지난주 이 모델의 실제 입력:출력 비율 116:1을 넣고, 캐시 적중률은 SemiAnalysis가 자사 사용에서 밝힌 수준(90% 이상)을 따라 90%로 가정했습니다(캐시 쓰기 할증은 넣지 않았습니다). 코어닷투데이 계산입니다.

캐시 읽기 (토큰 89%)
청구액 24%
새 입력 (토큰 10%)
청구액 53%
출력 (토큰 0.9%)
청구액 23%

이 조건에서 섞인 단가는 100만 토큰당 약 $0.75입니다. 표의 입력 단가의 5분의 1도 안 됩니다. 그리고 청구서의 절반 이상이 토큰의 10%에 불과한 '새 입력'에서 나옵니다. 같은 조건에서 각 지렛대를 움직이면 청구액은 이렇게 바뀝니다.

지렛대 (Opus 5.5, 116:1, 캐시 적중 90% 기준)청구액 변화
출력 단가 절반으로−11.5%
캐시 읽기 단가 절반으로−12.0%
새 입력 단가 절반으로−26.6%
캐시 적중률 90% → 95%−25.3%
캐시 적중률 90% → 80%+50.5%

모델 회사가 출력 단가를 반으로 내리는 것보다, 사용자가 캐시 적중률을 5%p 올리는 쪽이 두 배 더 효과가 큽니다. 반대로 하네스나 프롬프트 설계가 캐시를 깨뜨려 적중률이 10%p 떨어지면 청구서가 1.5배가 됩니다. 8장에서 같은 모델의 세션 비용이 하네스에 따라 2.7배까지 벌어진 것도 이 민감도로 설명됩니다.

이 구조는 가격 경쟁의 모양도 바꿉니다. SemiAnalysis에 따르면 Opus 5.5는 Opus 5보다 입력·출력 단가를 20% 내리면서 캐시 읽기는 60% 내렸고, Fable 5.1은 Fable 5보다 캐시 읽기를 75% 내렸습니다. 모델 회사들이 가장 크게 손대는 가격이 캐시 읽기라는 뜻입니다. 앞으로 가격표를 비교할 때 맨 앞에 와야 할 숫자는 출력 단가가 아니라 새 입력 단가, 캐시 읽기 단가, 캐시가 몇 분(또는 몇 시간) 유지되는가입니다. 시장 평균인 39:1로 계산하면 출력의 몫이 47%로 커지지만, 그때도 입력 쪽 두 칸을 합친 몫(53%)이 더 큽니다.

하드웨어: 계산보다 메모리를 옮기는 일

입력 토큰 경제는 데이터센터 안의 일도 바꿉니다. SemiAnalysis는 9월 21일 글 「추론을 위한 계산과 데이터 이동(Computation and Data Movement for Inference)」에서 추론 작업을 세 가지로 나눴습니다. 처음 보는 입력을 한 번에 읽는 프리필(prefill), 한 토큰씩 답을 쓰는 디코드(decode), 그리고 에이전트 시대에 커진 세 번째 상태인 미드필(midfill)입니다. 미드필은 이미 캐시에 들어 있는 긴 맥락 뒤에 새 입력 몇백~몇천 토큰을 덧붙이는 일입니다. 그들의 표현으로는 "50만 토큰짜리 맥락에 새 토큰이 몇백 개나 몇천 개만 들어오는" 경우입니다.

프리필
새 입력을 한꺼번에 계산
→
디코드
쌓인 맥락을 읽으며 한 토큰씩
→
미드필
캐시된 긴 맥락 + 새 입력 조금
→
디코드 …

챗봇 시대의 요청은 '프리필 한 번, 디코드 한 번'으로 끝났습니다. 에이전트의 요청은 미드필과 디코드가 수십 번 반복되고, 그 사이 긴 맥락의 상태(KV 캐시)가 메모리에 머물거나 다른 곳으로 옮겨집니다. SemiAnalysis는 이 글에서 "메모리에 가만히 있는 데이터는 비용이고, 처리되려고 움직이는 데이터는 매출이다"라고 썼습니다. 9월 13일 글 「짧은 왕이여 영원하라(Long Live the Short King)」에서는 "할당된 연산의 대부분이 이제 용량이 아니라 대역폭에 민감해졌다"며, 추론에는 HBM을 높이 쌓아 용량을 늘리는 것보다 낮게 쌓아 대역폭당 비용을 낮추는 쪽(4단 HBM)이 낫다고 주장했습니다.

OpenRouter의 숫자는 이 주장의 수요 쪽 근거가 됩니다. SemiAnalysis가 설계 기준으로 제시한 'KV 캐시 토큰당 약 70kB'를 그대로 쓰면, 요청 하나가 들고 있는 KV 상태는 1년 전 평균(5,930토큰) 약 0.4GB에서 지금 평균(20,037토큰) 약 1.4GB로, Opus 5.5의 평균 요청(13만 3천 토큰)이면 약 9.3GB로 커집니다(코어닷투데이 계산, 모델마다 실제 KV 크기는 다릅니다). 같은 GPU 메모리에 동시에 올려 둘 수 있는 대화 수가 그만큼 줄고, 대화를 메모리와 저장장치 사이에서 옮기는 일이 그만큼 늘어납니다. 한국 독자에게 이 이야기는 남의 일이 아닙니다. 메모리 대역폭과 HBM 구성은 SK하이닉스와 삼성전자의 다음 몇 년을 정하는 변수이고, 사내에서 모델을 직접 서빙하는 팀에게는 'GPU 몇 장'보다 '맥락을 몇 개, 얼마나 오래 캐시에 둘 수 있나'가 먼저 계산해야 할 숫자가 됐다는 뜻입니다.

순위표 읽기: 세 개의 자를 같이 본다

마지막은 우리가 매주 보는 순위표를 읽는 법입니다. 프롤로그의 "Anthropic 반 토막" 그래프는 틀린 그래프가 아닙니다. 다만 그 그래프가 재는 것은 '토큰 처리량의 몫'이고, 그것은 서빙 용량의 몫이지 고객 수나 매출의 몫이 아닙니다. 토큰 순위표를 읽을 때 코어닷투데이는 아래 순서를 권합니다.

1. 단위를 확인한다토큰인가, 요청인가, 지출인가. 같은 시장이 세 단위에서 완전히 다른 순위를 낸다(6장).
2. 요청 길이를 따로 본다토큰 점유율 = 요청 점유율 × 요청 길이 배수. 점유율이 움직였다면 어느 쪽이 움직였는지 나눠 본다(4장).
3. 무료·스텔스를 뺀다무료 변형은 토큰의 5.3%를 처리하고 지출은 0이다. 1위 모델이 무료판이나 스텔스 모델인 주는 51주 중 9주였다.
4. 절대량을 함께 본다시장이 32배 커질 때 17배 자란 회사는 '점유율 반 토막'이 된다. 줄어든 것인지 덜 빨리 자란 것인지 구분한다(5장).
5. 시장의 범위를 묻는다OpenRouter는 개발자 중개 시장이다. 회사의 직접 API·클라우드·구독 매출은 여기 잡히지 않는다.

10장. 반론과 한계

이 글의 주장에는 분명한 한계가 있습니다. 코어닷투데이가 확인한 것과 확인하지 못한 것을 나눠 적습니다.

OpenRouter는 시장 전체가 아니다. 가장 큰 한계입니다. Anthropic·OpenAI·Google의 매출 대부분은 OpenRouter 밖에서 납니다. 반대로 중국 오픈 모델과 무료 모델은 여기서 유난히 크게 보입니다. 이 글의 점유율은 'OpenRouter라는 개발자 시장 안에서의 몫'이고, Anthropic이 회사 전체로 고객을 잃었는지 얻었는지는 이 데이터로 말할 수 없습니다.

OpenRouter의 고객 구성 자체가 바뀌었을 수 있다. 요청당 토큰이 3.4배 늘어난 것이 '시장 전체가 에이전트형이 됐다'는 뜻인지, 'OpenRouter에 에이전트 앱 고객이 많이 들어왔다'는 뜻인지는 구분할 수 없습니다. 둘 다일 가능성이 높습니다. 하네스별 세션 비용 자료가 생긴 것 자체가 OpenRouter에서 코딩 에이전트 사용이 커졌다는 방증이기도 합니다.

상위 9개만 보인다. 연구소 HHI는 하한값이고, 상위 9에 들락날락한 연구소의 시계열은 구멍이 나 있습니다. 4장의 분해는 토큰·요청 두 차트 모두에서 상위 9에 든 주에만 계산됩니다(Anthropic은 53주 중 52주, DeepSeek·Google·OpenAI는 53주 모두).

요청은 고객이 아니다. 요청 수는 API 호출 횟수입니다. 하네스가 일을 더 잘게 쪼개면 같은 고객이 더 많은 요청을 만듭니다. "요청 점유율이 그대로"라는 말을 "고객 수가 그대로"로 바꿔 읽으려면 이 차이를 감안해야 합니다.

캐시를 뗄 수 없다. 공개 리더보드의 캐시 토큰 필드가 0이라, 39:1의 입력 가운데 얼마가 캐시 읽기인지 이 데이터로는 모릅니다. 9장의 청구액 계산은 캐시 적중 90%를 가정한 것입니다.

지출은 한 주뿐이다. 지출 점유율의 시계열이 없어서, Anthropic의 지출 몫이 1년 동안 어떻게 움직였는지는 알 수 없습니다. "토큰 몫은 줄었지만 매출 몫은 그대로였다"는 식의 주장은 이 데이터로 할 수 없습니다.

나이 효과는 교란돼 있다. 7장에서 가격대를 나눠 확인했지만, 구분이 거칠고 공급자별 할인·캐시 단가·작업 종류를 통제하지 못했습니다. '나이'도 OpenRouter 등록일 기준입니다.

세션 비용의 표본 크기를 모른다. Codex에서 Opus 5.5가 2.7배 비싸다는 숫자는 중앙값만 공개돼 있고, 몇 개의 세션에서 나온 값인지 모릅니다.

스텔스 모델의 정체를 모른다. 9월 28일 주 23.3%를 처리한 space-bunny-alpha가 어느 회사의 모델인지 공개 자료로는 알 수 없습니다. Anthropic의 가을 저점과의 관계는 가설로만 다뤘고, 숫자로는 저점의 일부(한 주에 약 1%p)만 설명된다는 것을 보였습니다.

반대 방향의 반론도 하나 적어 둡니다. "토큰 점유율은 무의미하다"는 결론도 틀립니다. 토큰은 GPU 시간과 메모리 이동량에 가장 가까운 단위입니다. 하드웨어 수요, 서빙 용량, 전력을 이야기할 때는 토큰 점유율이 맞는 자입니다. 그리고 Anthropic이 잃은 것이 '고객'이 아니라 '긴 요청 프리미엄'이라는 말은, 뒤집으면 긴 맥락 작업이 더 이상 Claude만 잘하는 일이 아니게 됐다는 경쟁의 신호이기도 합니다. 2장에서 본 것처럼 10만 토큰 넘는 요청의 처리자는 반년 사이 Claude에서 DeepSeek Flash로 바뀌었습니다.

11장. 한국 팀을 위한 함의와 실무 체크리스트

OpenRouter 목록에서 한국 모델은 업스테이지의 Solar 계열만 보입니다. 지난주 Solar Mini4는 토큰의 0.74%, Solar Pro4는 0.26%를 처리했고, 입력:출력 비율은 각각 97:1과 123:1이었습니다. 한국 모델도 이미 이 시장에서는 '길게 읽는' 일에 쓰이고 있다는 뜻입니다. 한국에서 AI를 쓰고 만드는 팀에게 이 글의 숫자가 주는 함의를 체크리스트로 정리합니다.

재기우리 서비스의 입력:출력 비율과 캐시 적중률을 먼저 잰다. 공급자 대시보드나 API 응답의 사용량 필드(캐시 읽기·캐시 쓰기·새 입력·출력)를 모아 주 단위로 본다. 시장 평균은 39:1, 에이전트형 모델은 100:1 이상이다.
고르기모델 가격을 비교할 때 출력 단가 대신 '새 입력 단가 + 캐시 읽기 단가 + 캐시 유지 시간'을 맨 앞에 둔다. 9장의 계산처럼 캐시 적중률 5%p가 출력 단가 절반보다 크다.
점검분기마다 고정해 둔 모델 버전 목록을 뽑고, 같은 계열 후속 버전의 가격과 비교한다. 90일 넘은 모델이 토큰의 16%로 지출의 33%를 가져가는 시장이다.
하네스코딩 에이전트는 모델만이 아니라 하네스까지 묶어서 비용을 잰다. 같은 모델로 하네스에 따라 세션 비용이 2.7배 벌어진 사례가 있다. 프롬프트 앞부분(시스템 지시·도구 목록)을 고정해 캐시가 깨지지 않게 한다.
나누기짧고 많은 작업(분류·추출·라우팅)과 길고 적은 작업(코딩·리서치)을 다른 모델에 맡긴다. 시장의 고객들도 이미 그렇게 쓴다: 같은 작업 범주에서 토큰 1위는 싼 Flash, 지출 1위는 Opus다.
순위표보고서나 투자 자료에 공개 순위표를 인용할 때 토큰·요청·지출 중 무엇인지, 무료·스텔스 모델이 섞였는지, 어느 시장의 몫인지를 함께 적는다.
서빙직접 모델을 서빙한다면 GPU를 가중치 크기로만 고르지 않는다. 동시에 붙잡아 둘 맥락의 수와 길이, 접두사 캐시(prefix caching) 재사용률, 메모리 대역폭을 함께 계산한다.

예산을 짜는 쪽에서는 '토큰 예산'보다 '세션 예산'이 더 현실적인 단위가 되고 있습니다. 코어닷투데이가 「엔지니어의 '소모율'이 연봉을 따라잡을 때」에서 다뤘듯, 에이전트 비용은 사람 단위·세션 단위로 관리해야 통제가 됩니다. 8장의 세션 비용 표는 그 출발점으로 쓸 만한 공개 기준선입니다. 토큰값이 떨어지는데 청구서가 커지는 역설은 「제번스의 역설과 추론 경제학」에서, 긴 맥락이 오히려 성능을 해치는 문제는 「긴 맥락이 독이 된다」에서 다뤘습니다. 이 글의 숫자와 함께 읽으면 좋습니다.

맺음말 — 읽는 값이 쓰는 값을 넘어선 해

1년 전 AI 서비스의 비용을 이야기할 때 사람들은 "모델이 얼마나 길게 답하나"를 걱정했습니다. 출력 단가가 입력의 다섯 배였고, 긴 답은 비싼 답이었습니다. 2026년 10월의 OpenRouter는 다른 시장입니다. 토큰의 97%가 입력이고, 요청 하나가 평균 2만 토큰이며, 가장 비싼 모델은 쓰는 양의 116배를 읽습니다. 돈과 메모리와 전력은 이제 '얼마나 쓰나'보다 '얼마나 읽나', 더 정확히는 '얼마나 자주 다시 읽나'를 따라 움직입니다.

이 변화 속에서 점유율 그래프는 조심해서 읽어야 하는 물건이 됐습니다. 토큰 몫이 반 토막 난 회사가 지출의 3분의 1을 가져가고, 토큰의 3분의 1을 처리하는 회사가 지출의 10분의 1을 가져갑니다. 어느 쪽도 틀린 숫자가 아닙니다. 서로 다른 것을 잴 뿐입니다. 순위표 앞에서 "누가 이기고 있나"를 묻기 전에 "무엇으로 재고 있나"를 먼저 물어야 하는 이유입니다.

다음 편에서는 같은 오픈 모델을 파는 수십 개 공급자의 가격표를 들여다봅니다. 같은 가중치가 공급자에 따라 열 배 넘게 다른 값에 팔리고, 그 순서가 이 글에서 본 '캐시 적중률'에 따라 뒤바뀝니다. 입력 토큰 경제에서 '가장 싼 공급자'가 무엇을 뜻하는지가 다음 질문입니다.

참고문헌

원자료 (2026-10-29 수집, 이 글의 수치는 모두 코어닷투데이가 이 자료로 다시 계산했습니다)

  • OpenRouter Rankings — 순위 데이터 라이선스 CC BY 4.0. 순위 페이지가 쓰는 공개 API openrouter.ai/api/frontend/v1/rankings/ 의 author-market-share(토큰·요청), model-rankings-chart(토큰·요청), open-closed, context-length(구간 1K·10K·100K·1M·10M), models(주간, 토큰·지출), session-cost, task-spend
  • OpenRouter Models API — 모델 등록일(created)과 목록가

SemiAnalysis 뉴스레터 (각 글의 무료 공개 구간)

기타

코어닷투데이 관련 글