[특집] 반감기 3주 — 모델의 전성기도, 추론 원가도 3주면 반으로

크게 보기

프롤로그 — 3주 전의 1위, 3주 전의 원가

10월 셋째 주 OpenRouter에서 토큰을 가장 많이 처리한 모델은 DeepSeek V4.1 Flash의 10월 17일 판이었습니다. 시장 전체 토큰의 17.8%입니다. 바로 한 주 전 1위는 같은 모델의 9월 10일 판이었고, 그 판은 20.0%에서 9.6%로 한 주 만에 반 토막이 났습니다. 이름도, 만든 회사도, 가격대도 같은 두 모델 사이에서 한 주 만에 왕좌가 넘어간 것입니다.

같은 시기 다른 데이터에서도 비슷한 일이 벌어지고 있었습니다. 반도체 분석사 SemiAnalysis가 운영하는 공개 추론 벤치마크 InferenceX에서, 9월 10일 판 V4.1 Flash를 에이전트 작업으로 돌리는 원가는 출시 다음 날부터 측정되기 시작했습니다. 사용자 한 명에게 초당 100토큰을 보내는 조건에서, 가장 싼 칩의 100만 토큰 원가는 21일 만에 첫 주의 반이 됐고 39일째에는 10분의 1 아래로 내려갔습니다. 칩이 바뀐 것만이 아닙니다. GB300 한 칩만 놓고 봐도 같은 기간 원가가 95% 내려갔습니다.

모델은 몇 주 만에 잊히고, 그 모델을 돌리는 값은 몇 주 만에 반이 됩니다. 이 두 속도를 한 장에 놓고 보면 실무의 질문이 달라집니다. 출시일에 돌린 벤치마크는 언제까지 유효한가? 출시 주에 맺은 단가 계약은 몇 주 만에 손해가 되는가? 새 모델로 갈아타기에 가장 좋은 때는 언제인가?

이 글은 코어닷투데이의 「오픈 시장 데이터 3부작」 마지막 편입니다. 1편 「입력 토큰 경제」는 수요 쪽, 즉 시장이 무엇을 얼마나 읽고 쓰는지를 봤고, 2편 「같은 가중치, 10배 가격」은 같은 오픈 모델을 파는 공급자들의 가격과 원가를 봤습니다. 이번 편은 앞의 두 편이 한 시점의 단면으로 다룬 숫자들에 시간 축을 붙입니다. 모델의 가치를 다섯 개의 자로 잰 직전 특집 「토큰의 값어치」에서 "원가는 몇 주 단위로 바뀐다"고 지나가듯 적었던 문장을, 이번에는 날짜와 함께 확인합니다.

결론을 먼저 적습니다.

1. 모델의 전성기는 짧다. 지난 51주 동안 OpenRouter 주간 토큰 상위 9에 든 모델은 70개였습니다. 들어왔다가 나간 52개의 체류 중앙값은 3주였고, 61개 가운데 38개가 들어온 지 2주 안에 정점을 찍었습니다. 정점 뒤 점유율이 반이 되기까지는 중앙값 2주였습니다. 1위는 25번 바뀌었습니다.
2. 잊히는 것은 연구소가 아니라 버전이다. DeepSeek는 다음 버전이 나올 때마다 1~2주 안에 스스로를 추월했고, 그사이 연구소 전체 몫은 6.5%에서 32.1%로 올랐습니다. 연구소 상위 9에는 DeepSeek·Anthropic·Google·OpenAI 네 곳이 51주 내내 있었습니다.
3. 출시 첫 주가 가장 비싸다. InferenceX가 출시 일주일 안에 측정을 시작한 12칸에서, 가장 싼 칩의 원가가 첫 주의 절반이 되기까지 중앙값 21일이 걸렸습니다. 지금은 첫 주보다 50~98% 낮습니다.
4. 칩을 그대로 둬도 원가는 내려간다. 출시 첫 주부터 측정된 칩별 곡선 51개 가운데 35개가 관측 기간 안에 반값이 됐습니다. 내린 것은 엔진 버전, 커널, 낮은 정밀도, 병렬 배치, 캐시 설정 같은 소프트웨어입니다.
5. 개선은 최신 칩으로 몰린다. 같은 칩 기준으로 Blackwell 계열과 AMD MI355X는 중앙값 85% 넘게 내려갔지만, H100·H200은 중앙값 0%였습니다. MI355X는 B200 대비 원가 배수를 중앙값 1.88배에서 1.16배로 좁혔습니다.
6. 그래서 출시 주에 숫자를 굳히지 않는다. 반감기 3주를 가정하면 출시 주 단가로 1년을 묶은 계약은 매달 다시 맞추는 계약의 세 배 남짓을 냅니다. 평가는 달마다, 계약에는 가격 재조정 조항을, 시스템에는 모델 교체 경로를 둡니다.

1장. 무엇의 반감기인가 — 세 개의 시계

'반감기'는 원래 방사성 원소의 양이 절반으로 줄어드는 데 걸리는 시간입니다. 이 글에서는 같은 말을 세 가지 시계에 씁니다.

코어닷투데이가 받은 자료

OpenRouter 자료는 2026-10-29, InferenceX 자료는 2026-10-29~30에 공개 API로 받았습니다. OpenRouter는 순위 데이터의 라이선스를 CC BY 4.0으로 밝혀 둡니다.

InferenceX는 2편 6장에서 소개한 대로 공개 모델을 여러 GPU와 서빙 소프트웨어 조합에서 계속 돌려 처리량을 재고, 그 처리량을 칩 1시간 원가로 나눠 토큰 원가를 냅니다. 이번에 쓴 것은 그 '이력' 화면을 그리는 공개 API입니다. 측정이 있었던 날마다 칩·엔진 구성별로, 사용자 한 명이 초당 일정한 토큰을 받는 속도(이 글에서는 50토큰과 100토큰)에서 원가를 보간해 돌려줍니다. 작업은 입력 8,000토큰에 출력 1,000토큰을 내는 고정 길이(8k/1k) 와, 실제 코딩 에이전트의 대화 기록을 그대로 재생하는 에이전트 트레이스 두 가지입니다.

방법에서 미리 밝혀 둘 것

• '최저선'과 '같은 칩'을 나눈다. 날짜마다 그때까지 측정된 모든 칩 가운데 가장 싼 값을 이은 최저선은 새 칩이 측정에 들어와도 내려갑니다. 소프트웨어만의 효과는 한 칩 안에서 여러 엔진·정밀도 구성 가운데 그날까지 가장 싼 값을 이은 '같은 칩' 곡선으로만 말합니다.
• '출시 첫 주'는 진짜 출시 첫 주만 센다. InferenceX에 적힌 출시일과 그 작업의 첫 측정일이 7일 넘게 벌어진 칸은 '출시 첫 주' 분석에서 뺐습니다. GLM-5(첫 측정이 출시 35일 뒤)와 Kimi K2.5(28일 뒤)가 여기서 빠집니다.
• 합성 점을 쓰지 않는다. InferenceX는 마지막 측정값을 오늘 날짜까지 복사해 선을 늘이고 '합성(synthetic)'이라고 표시합니다. 이 점은 모두 버렸습니다.
• 원가는 칩을 소유한 기준이다. InferenceX의 소유 기준 원가(costh)를 썼습니다. 임대 기준은 칩마다 일정한 배수를 곱한 값이라 같은 칩 안의 하락률은 같고, 위젯에서 바꿔 볼 수 있습니다.

2장. 3주짜리 전성기 — 상위 9의 53주

크게 보기

OpenRouter의 주간 모델 순위에서 첫 주와 마지막 주(일부만 집계된 주)를 뺀 51주 동안, 토큰 상위 9에 한 번이라도 든 모델은 70개였습니다. 매주 아홉 자리를 놓고 70개 모델이 드나든 셈입니다. 첫 온전한 주(11월 3일 주) 다음부터 새로 들어온 모델이 61개이니, 한 달에 다섯 개꼴로 새 얼굴이 상위 9에 들어왔습니다.

체류 기간: 들어왔다 나간 52개의 중앙값 3주

51주 안에 들어왔다가 나간 모델 52개가 상위 9에 머문 주 수를 세면 이렇습니다.

OpenRouter 주간 토큰 상위 9, 2025-11-03 ~ 2026-10-19 주. 첫 온전한 주에 이미 있던 모델과 마지막 온전한 주에 아직 있는 모델은 체류 기간을 끝까지 알 수 없어 뺐습니다. 막대 길이는 가장 많은 구간(18개)을 100%로 놓은 값. 코어닷투데이 계산.

중앙값은 3주, 평균은 6.3주입니다. 절반이 넘는 27개가 3주 안에 상위 9를 떠났습니다. 오래 버틴 모델도 분명히 있습니다. DeepSeek V3.2는 25주, DeepSeek V4 Flash 4월 판과 Gemini 3 Flash 미리보기는 22주, Claude 4.5 Sonnet과 4.6 Sonnet은 17주씩 머물렀습니다(4.5 Sonnet은 첫 주부터 있었으므로 실제로는 더 깁니다). 하지만 이런 모델은 소수이고, 상위 9를 거쳐 간 모델의 다수는 몇 주짜리 손님이었습니다.

정점은 처음 두 주 안에, 반감은 그 뒤 두 주

체류 기간보다 더 날카로운 숫자가 있습니다. 상위 9에 처음 들어온 주부터 정점까지 걸린 주 수를 세면, 61개 가운데 22개가 들어온 첫 주가 곧 정점이었고 38개가 2주 안에 정점을 찍었습니다. 정점이 지난 뒤 점유율이 정점의 절반 아래로 떨어지기까지 걸린 주 수(상위 9에서 밀려났는데 그 주의 9위가 이미 정점의 절반 아래였다면 그 주로 셈)는 판정이 가능한 60개 모델에서 중앙값 2주였고, 46개가 3주 안에 반 토막이 났습니다.

정점 점유율 10% 이상이던 모델 21개 가운데 일부. 판정이 가능한 19개의 중앙값은 2주. Claude 4.5 Sonnet은 관측 첫 주가 정점이라 실제 정점은 그 전일 수 있습니다. 코어닷투데이 계산.

무료판과 스텔스(정체를 밝히지 않고 이름만 붙여 시험 공개하는) 모델은 대부분 정점 다음 주에 반 토막이 났습니다. 값을 받지 않으니 몰렸다가, 유료로 바뀌거나 정식 이름으로 공개되면 빠지는 것입니다.

1위의 이어달리기: 51주에 25번

주간 1위만 따로 보면 교체는 더 잦습니다. 온전한 51주 동안 1위가 바뀐 횟수는 25번이고, 1위를 해 본 모델은 22개입니다. 한 모델이 1위를 지킨 기간의 중앙값은 1.5주였습니다. 가장 오래 지킨 것은 DeepSeek V4 Flash 4월 판의 7주 연속(5월 18일 주~6월 29일 주)입니다.

1위가 무료판이나 스텔스 모델인 주가 51주 가운데 9주였다는 점도 기억할 만합니다. Grok 4.1 Fast 무료판, Qwen 3.6 Plus 무료판(2주), Tencent Hy3 미리보기 무료판(2주), Hy3 무료판(2주), 스텔스 모델 ox-alpha와 space-bunny-alpha가 그 주인공입니다. 1편에서 순위표를 읽을 때 무료·스텔스를 빼라고 권한 이유가 여기에 있습니다. 한 주짜리 1위는 시장의 선택이라기보다 무료 시식 줄의 길이일 때가 많습니다.

연구소로 묶으면 그림이 달라집니다. 53주 가운데 DeepSeek 모델이 1위였던 주가 17주, xAI가 10주, Tencent가 6주, Anthropic과 MiniMax가 5주씩입니다. 모델 이름은 매주 바뀌어도 1위 자리를 돌려 앉는 연구소는 몇 곳 안 됩니다.

한 가지 바로잡기: 하반기에는 오히려 오래 머물렀다

이 숫자를 처음 계산했을 때 코어닷투데이는 "상반기(11~4월)에 들어온 모델도, 하반기(5~10월)에 들어온 모델도 체류 중앙값이 똑같이 3주"라는 결과를 얻었습니다. 반감기가 1년 내내 일정하다는 깔끔한 결론입니다. 그런데 이 결과에는 함정이 있었습니다. 하반기에 들어온 모델 가운데 아직 상위 9에 남아 있는 9개는 '들어왔다 나간' 집계에서 빠지고, 늦게 들어온 모델일수록 짧게 머물다 나간 경우만 집계에 남습니다. 끝을 모르는 표본을 버리면 체류 기간이 짧게 나옵니다(생존 분석에서 '중도 절단'이라고 부르는 문제입니다).

그래서 들어온 뒤 최소 12주를 지켜볼 수 있었던 모델만 놓고, 12주에서 자른 체류 기간을 다시 셌습니다.

들어온 주부터 마지막 온전한 주까지 12주 이상 남은 모델만. 체류 기간은 12주에서 잘라 셌습니다. 코어닷투데이 계산.

하반기 초반에 들어온 모델들은 상위 9에 더 오래 머물렀습니다. 1편 5장에서 본 '집중도의 U자'와 같은 이야기입니다. 봄에 가장 흩어졌던 시장이 여름부터 DeepSeek를 중심으로 다시 모이면서, 한 번 자리를 잡은 모델은 쉽게 밀려나지 않게 됐습니다. 그런데 정점 뒤 반감 기간은 두 시기 모두 중앙값 2~3주로 거의 같았습니다(상위 9에서 밀려난 주를 어떻게 판정하느냐에 따라 2주 또는 3주). 하반기의 모델은 더 오래 남았지만, 더 천천히 식은 것은 아닙니다. 정점에서 빨리 식은 뒤 낮은 점유율로 상위 9 끝자리에 더 오래 붙어 있었을 뿐입니다.

정리하면 "3주"는 이렇게 읽어야 합니다. 들어왔다 나간 모델의 체류 중앙값이 3주이고, 정점 뒤 점유율의 반감기는 1년 내내 2주 안팎이었다. '모든 모델이 3주 만에 사라진다'는 뜻은 아닙니다.

3장. DeepSeek는 스스로를 갈아 끼운다

크게 보기

모델의 반감기가 짧은 가장 큰 이유 하나는 같은 연구소의 다음 버전입니다. 이 패턴을 가장 선명하게 보여 주는 곳이 DeepSeek입니다. DeepSeek는 같은 계열의 새 판을 날짜를 붙인 이름으로 내놓고, OpenRouter에서는 판마다 별도 모델로 집계됩니다.

OpenRouter 주간 토큰 점유율. 이전 판의 몫은 새 판 진입 직전 주와 비교. 코어닷투데이 계산.

네 번의 교대 모두 새 판이 2주 안에 이전 판을 넘어섰습니다. 그런데 같은 기간 DeepSeek라는 연구소 전체의 몫은 정반대로 움직였습니다. 연구소별 순위에서 DeepSeek의 토큰 몫은 2025년 11월 첫 주 6.5%에서 2026년 10월 셋째 주 32.1%로 올랐습니다. 판이 바뀔 때마다 계단처럼 한 칸씩 올라갔습니다(4월 말 9.3% → 5월 중순 19.8%, 7월 말 21.9% → 8월 초 25.9%, 9월 초 19.1% → 25.7%).

모델은 잊히지만 연구소는 잊히지 않습니다. 51주 동안 연구소 상위 9에 한 번이라도 든 연구소는 20곳이었고, 그 가운데 DeepSeek·Anthropic·Google·OpenAI 네 곳은 51주 내내 자리를 지켰습니다. 모델 상위 9에 70개 모델이 드나든 것과 비교하면 연구소 순위는 훨씬 안정적입니다. 고객은 'DeepSeek를 쓴다'는 선택은 오래 유지하면서, 그 안에서 어느 판을 쓸지는 몇 주 만에 바꾼다는 뜻입니다.

순위표는 잊어도 파이프라인은 잊지 않는다

다만 '잊힌다'는 말에는 단서가 필요합니다. 순위표에서 사라진 옛 판도 실제로는 꽤 많이 쓰입니다. 지난주(10월 28일까지) 전체 리더보드에서 10월 판이 21.5%를 처리하는 동안, 9월 판은 9.0%, 7월 판은 2.2%, 4월 판은 1.6%, V4 Pro 4월 판은 0.33%, V3.2는 0.16%를 처리했습니다.

7월 판은 9월 중순에 밀려난 지 6주, 4월 판은 8월 초에 밀려난 지 12주가 지났는데도 여전히 전체 토큰의 1~2%를 처리합니다. 순위표에는 안 보이지만, 한 번 검증해 둔 파이프라인에 박힌 모델은 몇 달씩 남습니다. 1편 7장의 '오래된 모델의 세금'이 생기는 자리가 여기입니다. 순위표의 반감기와 실제 사용의 반감기는 다릅니다.

여기에는 구매자에게 불리한 비대칭이 하나 숨어 있습니다. 2편 7장에서 본 것처럼 DeepSeek 자체 API는 옛 이름을 내렸고, 옛 판은 이제 제3자 공급자만 팝니다. 우리 팀이 평가해 둔 '그 모델'을 만든 회사가 더 이상 팔지 않는 일이, 출시 몇 달 만에 생깁니다.

모델의 반감기가 몇 주라는 것은 평가 결과의 유효 기간도 몇 주라는 뜻입니다. 1년짜리 조달 계약서에 특정 모델 이름과 버전을 박아 두면, 계약 기간의 대부분은 '이미 순위표에서 사라진 모델'을 사는 기간이 됩니다(10장).

4장. 출시 첫 주가 가장 비싸다 — 원가의 반감기

크게 보기

이제 두 번째 시계, 원가입니다. InferenceX의 원가 이력에서 출시 일주일 안에 측정이 시작된 칸(모델 × 작업 × 속도 목표)은 12개였습니다. 각 칸에서 날짜마다 '그때까지 측정된 칩 가운데 가장 싼 원가'를 이은 최저선을 그리고, 출시 첫 주의 최저값이 반이 되는 날을 셌습니다.

InferenceX 원가 이력, 100만 토큰(입력+출력)당 칩 소유 기준 원가, 2026-10-29까지. '사용자당 속도'는 사용자 한 명이 받는 초당 토큰 수. 에이전트 작업은 캐시 적중이 높아 토큰당 원가가 고정 길이보다 한 자릿수 이상 낮습니다. 코어닷투데이 계산.

12칸 모두 관측 기간 안에 첫 주 최저의 반 아래로 내려갔고, 반값까지 걸린 날의 중앙값은 21일, 정확히 3주였습니다. 빠른 쪽은 9~14일, 느린 쪽은 40~50일대입니다. 지금 원가는 첫 주보다 50~98% 낮습니다. 2장에서 본 순위의 반감기(정점 뒤 2주, 체류 3주)와 원가의 반감기가 거의 같은 길이입니다.

원자료의 정리 메모에서 바로잡은 것

코어닷투데이가 처음 정리한 메모에는 "GLM-5는 첫 주 $1.62에서 $0.052로 −97%, 20일 만에 반감" 같은 줄이 있었습니다. 다시 확인해 보니 GLM-5와 Kimi K2.5는 InferenceX가 출시 35일·28일 뒤부터 재기 시작했습니다. '측정 첫 주'일 뿐 '출시 첫 주'가 아니어서 표에서 뺐습니다. 다만 출시 한 달 뒤 처음 잰 원가도 몇 주 만에 반이 됐다는 점은 5장에서 다시 씁니다.

최저선에 섞인 것: 늦게 측정된 칩과 새 칩

표의 '첫 주 최저'와 '지금 최저'는 칩이 다릅니다. 최저선이 내려간 데는 세 가지가 섞여 있습니다. 같은 칩의 소프트웨어가 좋아진 것, 이미 있던 칩을 InferenceX가 늦게 재기 시작한 것, VR200처럼 새 하드웨어가 측정에 들어온 것입니다.

Kimi K3의 −98%가 좋은 예입니다. 출시 이틀 뒤 측정된 칩은 B200 하나뿐이었고($1.35), 출시 열하루째(첫 측정 9일 뒤) GB200이 처음 측정되면서($0.55) 최저선이 반 아래로 내려갔습니다. 이것은 원가가 내려간 것이 아니라 더 싼 칩의 값이 처음 보인 것입니다. Qwen3.8 Flash Next는 더 극단적입니다. 최저선이 81% 내려갔지만, 칩별로 보면 H100·H200·B300은 대부분 움직이지 않았고 10월 9일 처음 측정된 VR200이 그 몫을 거의 다 만들었습니다.

그래도 최저선은 쓸모가 있습니다. 공개 시장의 가격 바닥은 그때 가장 유리한 칩을 쓰는 공급자가 만들기 때문에(2편 6장), 구매자에게 '시장의 원가'는 최저선에 가깝습니다. 다만 "소프트웨어가 원가를 내린다"는 주장은 같은 칩 곡선으로 해야 합니다.

같은 칩만 놓고 봐도

그래서 칩별로 다시 셌습니다. 12칸 안에서, 그 칸의 첫 측정일로부터 7일 안에 측정이 시작된 칩의 곡선은 51개입니다. 각 곡선에서 첫 측정값이 반이 되는 날을 셌습니다.

51개 칩 곡선 대비 누적 비율. 관측 기간은 곡선마다 41~188일. 코어닷투데이 계산.

같은 칩에서도 절반 가까이(23개)가 4주 안에 반값이 됐고, 3분의 2 이상(35개)이 관측 기간 안에 반값이 됐습니다. 반값이 안 된 곡선까지 넣은 중앙값은 38일, 반값이 된 곡선만의 중앙값은 18일입니다. 바뀐 칩 없이 내려간 폭이 큰 예를 몇 개 꼽으면 이렇습니다.

• DeepSeek V4 Pro · 8k/1k · 초당 50토큰, B300: 출시 당일 $2.68 → 지금 $0.073 (−97%). 다음 날 이미 반값이 됐습니다.
• Kimi K3 · 에이전트 · 초당 50토큰, B200: 출시 이틀 뒤 $1.35 → 23일째 $0.12 → 지금 $0.074 (−95%).
• MiniMax M3 · 8k/1k · 초당 100토큰, MI355X: 출시 7일 뒤 $1.18 → 지금 $0.075 (−94%). 나흘 만에 반값.
• Qwen 3.5 397B · 8k/1k · 초당 50토큰, B200: 출시 다음 날 $0.51 → 지금 $0.036 (−93%).
• DeepSeek V4.1 Flash · 에이전트 · 초당 100토큰, GB300: 출시 다음 날 $0.0131 → 지금 $0.0006 (−95%).

출시 당일이나 다음 날 반값이 된 곡선은 첫 레시피가 그 칩에 맞지 않아 하루 만에 다른 구성이 들어온 경우입니다. 첫날의 설정은 대개 '돌아가는 설정'이지 '싼 설정'이 아닙니다.

5장. 왜 출시 첫 주가 가장 비싼가

크게 보기

칩이 그대로인데 원가가 몇 주 만에 반이 되는 이유는 하나입니다. 출시일의 모델은 아직 아무 소프트웨어에도 맞춰져 있지 않습니다. SemiAnalysis는 InferenceX v2를 소개하며 이렇게 적었습니다. "새 칩은 1년 단위로 나오지만 소프트웨어 릴리스는 주 단위로 나온다." 그리고 다른 글에서는 같은 B300으로 DeepSeek R1을 돌릴 때, 세 가지 소프트웨어 최적화(넓은 전문가 병렬, 프리필·디코드 분리, MTP)를 하나도 쓰지 않으면 GPU당 초당 약 1,000토큰, 둘을 쓰면 약 8,000토큰, 셋을 다 쓰면 약 14,000토큰이 나온다고 보여 줬습니다. 같은 칩에서 소프트웨어만으로 14배입니다.

출시 첫 주에는 이 최적화들이 대부분 아직 그 모델에 적용되지 않은 상태입니다. 새 모델이 나온 뒤 몇 주에 걸쳐 차례로 도착하는 것들을 쉬운 말로 풀면 이렇습니다.

기록이 남은 17번의 하락

InferenceX는 원가 기록이 바뀐 날마다 그 측정을 만든 저장소 변경(PR)의 링크를 남깁니다. 코어닷투데이는 다섯 모델의 여섯 칸에서 원가를 한 번에 40% 넘게 내린 단계 17건을 골라 PR 제목과 본문을 읽고 종류를 붙였습니다. 아래 위젯에서 하나씩 볼 수 있습니다. 몇 가지만 옮깁니다.

• DeepSeek V4 Pro가 나온 지 이틀 뒤, B300 SGLang 구성은 동시 요청 수 구간마다 레시피를 나누고 데이터 병렬 어텐션을 조정하는 변경으로 $2.46에서 $0.66이 됐습니다.
• 같은 모델의 B200 vLLM 구성은 출시 24일째 vLLM 이미지를 v0.20.0에서 v0.21.0으로 올리는 변경 하나로 $2.39에서 $0.88이 됐습니다.
• GB300에서는 39일째 MoE 계산에 4비트 활성값(W4A4) 커널을 켜는 변경으로 $0.35에서 $0.12가 됐습니다.
• DeepSeek V4.1 Flash의 B200 구성은 출시 12일째, 여러 에이전트가 동시에 들어올 때 슬라이딩 윈도 접두사 캐시가 밀려나던 문제를 고친 변경으로 $0.061에서 $0.0078, 한 번에 8분의 1이 됐습니다.
• MiniMax M3의 MI355X 구성은 25일째, 전문가 병렬 구성이 매번 8시간씩 멈추던 문제를 AMD의 MoE 커널(AITER)로 해결한 뒤 $0.41에서 $0.14가 됐습니다.

17건 가운데 측정 환경이 바뀐 1건(B200 클러스터 파티션 변경 뒤 재측정)을 빼면 16건이 소프트웨어 변경이고, 그중 10건이 출시 4주 안에 들어왔습니다. 종류로는 엔진 버전 교체가 6건, 병렬 배치가 4건, 커널·정밀도가 3건, 캐시가 2건, 설정 조정이 1건이었습니다. 한 가지가 모든 것을 해결하는 것이 아니라 여러 층이 몇 주 간격으로 하나씩 도착하고, 도착할 때마다 원가가 계단처럼 내려갑니다.

시계는 모델이 아니라 '조합'에 붙는다

4장에서 뺀 칸들이 여기서 다시 쓸모가 있습니다. DeepSeek V4 Pro는 4월 24일에 나왔지만, InferenceX가 이 모델을 에이전트 트레이스로 재기 시작한 것은 8월 7일, 출시 105일 뒤였습니다. 모델 자체는 이미 넉 달 된 모델인데도, 에이전트 작업의 원가는 그 뒤 칩마다 다시 크게 떨어졌습니다.

InferenceX 원가 이력, 칩 소유 기준. 코어닷투데이 계산.

원가의 반감기는 '모델이 나온 날'이 아니라 '그 모델을 그 작업으로 그 칩에서 진지하게 돌리기 시작한 날' 부터 갑니다. 새 모델이 나와도, 이미 있던 모델로 새 종류의 일(긴 맥락 에이전트)을 시작해도, 원가는 첫 몇 주가 가장 비쌉니다. 우리 팀이 오래된 모델로 새 업무를 시작할 때도 같은 일이 벌어질 수 있다는 뜻입니다.

벤치마크의 관심도 옮겨 갔다

같은 이유로 고정 길이 작업의 원가는 이제 거의 움직이지 않습니다. 원가 기록이 새로 깨진 횟수를 달마다 세면 이렇습니다.

칩별 '그때까지 최저'가 새로 바뀐 횟수(각 곡선의 첫 측정 제외), 모델 14개 × 속도 목표 2종. 코어닷투데이 계산.

8월에 InferenceX v3(AgentX)가 에이전트 트레이스를 도입하자, 기록 경신은 고정 길이에서 에이전트 쪽으로 통째로 옮겨 갔습니다. 지난 30일 동안 고정 길이 57칸 가운데 새 측정값이 나온 칸은 4칸, 에이전트 59칸 가운데서는 28칸이었습니다. SemiAnalysis도 고정 길이 이력은 "각 모델의 출시일부터 활성 시험에서 뺄 때까지"를 담고 있다고 밝혔습니다. 고정 길이 원가가 멈춘 것은 소프트웨어가 더 좋아질 수 없어서가 아니라, 엔지니어들이 더 이상 그 숫자를 개선하지 않기 때문입니다. 원가는 사람들이 보는 숫자에서 내려갑니다. 우리 팀의 작업이 업계가 지금 보는 작업(긴 맥락 에이전트)과 다르다면, 우리 작업의 원가는 시장 평균만큼 빨리 내려가지 않을 수도 있습니다.

6장. 늦게 출발해 빨리 따라오는 AMD, 남겨지는 Hopper

크게 보기

같은 칩 곡선을 제조사와 세대별로 나누면, 반감기가 칩마다 다르다는 것이 보입니다.

AMD: 출발은 늦고, 하락은 가파르다

InferenceX에서 같은 모델·같은 작업·같은 속도 목표로 AMD MI355X와 NVIDIA B200이 모두 측정된 칸은 27개입니다. 두 칩이 처음 함께 측정된 날의 원가 배수(MI355X ÷ B200)와 지금의 배수를 비교했습니다.

1보다 크면 MI355X가 더 비쌈. 원가는 칩 소유 기준. 27칸 가운데 19칸에서 배수가 줄었습니다. 코어닷투데이 계산.

27칸 가운데 19칸에서 MI355X가 B200을 따라잡았고, 중앙값 배수는 1.88배에서 1.16배가 됐습니다. 에이전트 작업에서는 MI355X가 B200보다 싸진 칸도 여럿입니다. 반대 방향도 있습니다. DeepSeek V4 Pro 고정 길이 초당 100토큰처럼 B200 쪽이 더 빨리 좋아져 격차가 벌어진 칸이 8개입니다.

출발이 늦은 이유는 SemiAnalysis의 글에 직접 적혀 있습니다. AgentX(InferenceX v3)를 소개한 8월 글은 MI355X의 vLLM이 짧은 단일 대화에서는 출시 당일부터 돌아갔지만, 긴 맥락 다중 대화 작업에서는 "첫 주에 커널이 크게 흔들렸고" 업스트림 vLLM이 실제 작업에서 쓸 수 없는 상태였다고 썼습니다. 9월 DeepSeek V4.1 Flash 때는 NVIDIA vLLM이 출시 당일 여섯 가지 칩(H100·H200·B200·B300·GB200·GB300)에서 문제없이 돌아간 반면, AMD vLLM은 출시 당일 돌아가지 않았고 나중에 나온 '출시 당일' 이미지도 달러당 성능이 H200보다 최대 14.8배, B200·B300보다 최대 42배 나빴다고 했습니다.

그러니 AMD 칩 위의 원가 곡선은 더 높은 곳에서 시작해 더 가파르게 내려옵니다. 출시 첫 주에 MI355X로 원가를 재면 가장 불리한 숫자가 나오고, 몇 주 뒤에 재면 꽤 다른 숫자가 나옵니다. "AMD는 비싸다" 또는 "AMD가 따라잡았다"는 말은 둘 다 날짜를 붙여야 의미가 있습니다.

Hopper: 새 모델에서 거의 좋아지지 않는다

크게 보기

4장의 같은 칩 곡선 51개를 칩 세대로 나누면 대비가 선명합니다.

출시 첫 주부터 측정된 12칸 안의 칩별 곡선. 관측 기간 41~188일. 코어닷투데이 계산.

최신 세대(Blackwell, MI355X)는 30개 곡선 가운데 29개가 반값이 됐지만, Hopper는 13개 가운데 3개뿐이었고 중앙값으로는 아예 움직이지 않았습니다. MiniMax M3를 H100·H200에서 돌리는 원가는 출시 주와 넉 달 뒤가 똑같습니다. H100이나 H200이 성능이 모자라서가 아닙니다. 새 모델의 FP4 커널, MTP 설정, 분리 서빙 레시피를 만드는 사람들이 최신 칩부터 손보기 때문입니다. 2편 6장에서 H200이 DeepSeek V4.1 Flash를 팔 때마다 손해를 본다는 계산을 보였는데, 이 표는 그 격차가 시간이 갈수록 벌어지는 쪽이라는 것을 보여 줍니다. 최신 칩의 원가는 몇 주마다 반이 되고, 구형 칩의 원가는 그대로이기 때문입니다.

칩을 산다는 것은 그 칩의 소프트웨어 미래를 사는 것

2편 8장은 칩을 소유하느냐 빌리느냐에 따라 가장 싼 칩이 15%의 칸에서 바뀐다는 것을 보였고, 소유와 임대 이야기를 이번 편에서 더 하겠다고 예고했습니다. 시간 축을 붙이면 하나가 더 보입니다.

칩을 사면 몇 년 동안 그 칩을 씁니다. 그 기간에 나올 새 모델들의 원가가 그 칩 위에서 몇 주마다 반이 될지, 아니면 출시 주 그대로 머물지는 그 칩을 위해 커널과 레시피를 짜 줄 사람들이 얼마나 남아 있느냐에 달려 있습니다. 지금 표에서 보듯 업계의 관심은 최신 세대로 몰리고, 한 세대 전 칩은 새 모델에서 소프트웨어 개선을 거의 받지 못합니다. 2편에서 본 임대÷소유 배수(H200 2.38배, MI355X 1.93배 등)는 '지금' 비교입니다. 몇 년을 쓸 칩이라면 그 위에 '새 모델이 나올 때마다 이 칩이 얼마나 빨리 싸지는가'라는 시간 항을 하나 더 얹어야 합니다. 빌려 쓰는 쪽은 레시피가 몰리는 칩으로 갈아탈 수 있지만, 사는 쪽은 그 칩과 함께 늙습니다.

AMD의 사례는 반대 방향의 교훈도 줍니다. 한 세대 전 MI300X·MI325X는 MI355X만큼 따라오지 못했습니다(중앙값 −32%). 같은 회사 칩이라도 지금 그 회사가 공을 들이는 세대인지가 반감기를 정합니다.

7장. 두 시계를 겹치면 — 가장 인기 있는 주가 가장 비싼 주

순위의 시계와 원가의 시계를 한 장에 놓으면 불편한 사실이 하나 드러납니다. 2장에서 본 것처럼 모델의 점유율은 들어온 첫 주나 둘째 주에 정점을 찍습니다. 4장에서 본 것처럼 그 모델을 돌리는 원가는 바로 그 첫 몇 주가 가장 높습니다. 한 모델이 가장 많이 쓰이는 주가, 그 모델을 서빙하기 가장 비싼 주입니다.

이 겹침은 몇 가지 현상을 설명해 줍니다.

출시 할인과 무료판. 2장의 무료판·스텔스 1위는 대부분 출시 직후였습니다. 원가가 가장 높은 시기에 값을 받지 않는다면 누군가 그 차이를 부담합니다. 연구소에게 출시 첫 주는 원가를 회수하는 기간이 아니라 사용자를 모으고 실제 트래픽으로 설정을 다듬는 기간입니다.

가장 새 모델에서 가장 얇은 마진. 2편 6장의 공급자 마진 계산에서, 최적 칩 위에서도 원가에 가까웠던 유일한 모델은 10월 23일에 나온 MiniMax M3.1 Flash였습니다(MI355X에서 매출 ÷ 원가 1.25~1.39배). 이 글의 원가 이력으로 보면 이 모델은 InferenceX에서 측정이 시작된 지 6일밖에 안 돼 아직 한 번도 원가 기록이 깨지지 않았습니다. 다른 모델들이 몇 배씩 남기는 것은 가격이 높아서이기도 하지만, 출시 뒤 몇 주 동안 원가가 내려간 덕도 큽니다. 몇 주 뒤 이 모델의 마진은 지금과 다를 가능성이 큽니다.

같은 가격, 늘어나는 마진. 반대로 출시 뒤 가격을 그대로 두면 마진은 시간이 만듭니다. 2편 7장은 Z.AI가 자체 GLM-5.3 가격으로 최적 칩 원가의 9.2배를 받는다고 계산했습니다. 그 계산에 쓴 InferenceX의 GLM 항목(에이전트 작업, 초당 100토큰)에서 최적 칩 원가는 측정이 시작된 8월 초 이후 79% 내려갔습니다. 가격이 그동안 그대로였다면 같은 가격이 남기는 몫은 그사이 약 4.8배로 커진 셈이고, 8월 초 원가로 계산했다면 배수는 2배 안팎이었을 것입니다(설정 차이를 무시한 거친 추정). 1편 7장의 '오래된 모델의 세금'도 같은 뿌리입니다. 원가는 몇 주마다 반이 되는데 목록 가격은 잘 내려가지 않으니, 오래된 모델일수록 토큰당 더 많이 남습니다.

가격은 새 버전으로 내려간다. 마지막으로 가격의 시계입니다. OpenRouter는 가격 이력을 공개하지 않아 같은 모델의 가격이 시간에 따라 얼마나 내려갔는지는 직접 잴 수 없습니다. 다만 1편 7장에서 본 것처럼 닫힌 모델의 가격 인하는 대개 같은 모델의 값을 깎는 방식이 아니라 더 싼 후속 버전을 내는 방식으로 옵니다(Claude Opus 5의 $5/$25에서 Opus 5.5의 $4/$20으로, GPT-5.6 Sol의 $4/$20에서 GPT-6.1 Sol의 $2/$10으로). 오픈 모델도 같은 연구소의 다음 판이 이전 판을 몇 주 만에 대체합니다(3장).

이것이 이 글의 핵심 딜레마입니다. 원가 하락의 혜택은 대부분 '다음 버전으로 갈아탈 때' 사용자에게 옵니다. 그런데 갈아탈 때마다 평가를 다시 하고, 프롬프트를 다시 맞추고, 캐시를 다시 데워야 합니다. 갈아타지 않으면 세금을 내고, 너무 일찍 갈아타면 가장 비싸고 가장 불안정한 주에 돈을 냅니다. 다음 장의 두 계산기는 이 균형을 숫자로 보는 도구입니다.

8장. 코어닷투데이 계산 — 계약 시점과 도입 시점

출시 단가로 1년을 묶으면

첫 번째 계산기는 단가 계약입니다. 시장 가격이 원가처럼 '바닥 + 남은 몫 × 반감'으로 내려간다고 가정하고, 출시 주의 단가로 계약을 고정했을 때와 분기마다, 매달 시장가로 다시 맞출 때를 비교합니다.

기본값(반감기 3주, 바닥은 출시가의 20%, 계약 기간 12개월)에서 결과는 이렇습니다.

12개월 총액을 '시장가를 매주 따라갔을 때'의 총액으로 나눈 값. 가정한 가격 곡선에서의 계산이며 실제 가격 예측이 아닙니다. 코어닷투데이 계산.

출시 주에 단가를 1년 고정하면 매주 시장가를 따라간 경우의 3.6배, 매달 다시 맞추는 계약의 3.2배를 냅니다. 계약 시점을 6주만 늦춰도 고정 계약의 초과분은 절반 아래로 줄고, 매달 재조정 조항이 있으면 언제 계약하든 초과분이 15% 안쪽입니다. 숫자 자체는 가정에 따라 크게 바뀝니다. 바닥을 50%로 올리면(가격이 원가만큼 내려가지 않는 시장) 고정 계약의 손해는 줄어듭니다. 하지만 모양은 바뀌지 않습니다. 가격이 가장 빨리 떨어지는 구간은 출시 직후이고, 그 구간을 계약으로 굳히는 것이 가장 비쌉니다.

언제 갈아탈까

두 번째 계산기는 도입 시점입니다. 새 모델로 갈아타면 주마다 품질 이득이 생기지만, 출시 직후에는 지금 모델보다 비싸고(원가가 아직 안 내려옴), 불안정하며(엔진·커널·공급자 설정이 덜 맞춰짐), 한 번의 전환 비용(평가, 프롬프트 재작성, 캐시 재가열)이 듭니다. 그리고 다음 모델이 나오면 이 모델의 전성기는 끝납니다. 몇 주째에 갈아타야 전성기 동안 남는 것이 가장 많은지를 계산합니다.

세 가지 예시 사례(값은 모두 설명용 가정)에서 답이 갈립니다.

'언제나 출시 주'도, '언제나 석 달 뒤'도 답이 아닙니다. 우리 업무에서 품질 이득, 토큰 지출, 회귀 비용 가운데 무엇이 가장 큰지가 도입 시점을 정합니다. 계산기의 막대 모양을 보면, 최선의 시점 근처는 대개 완만해서 한두 주 차이는 크지 않고, 극단(출시 당일 또는 너무 늦게)에서 손해가 커집니다.

9장. 반론과 한계

"OpenRouter의 순위는 시장 전체의 순위가 아니다"

맞습니다. 1편과 2편에서 거듭 밝힌 대로 OpenRouter는 개발자 중개 시장이고, 무료 모델과 중국 오픈 모델이 유난히 크게 보입니다. 직접 API나 클라우드, 구독으로 쓰는 고객은 모델을 이렇게 자주 바꾸지 않을 가능성이 큽니다. 이 글의 '3주'는 가장 빨리 움직이는 시장에서의 반감기이고, 기업의 실제 교체 주기는 이보다 깁니다. 다만 그 시장이 가격과 원가의 기준선을 만든다는 점에서 의미가 있습니다.

"상위 9만 보고 체류를 말할 수 있나"

상위 9 밖의 점유율은 공개되지 않습니다. 또 :free 무료판과 날짜가 다른 판을 별개 모델로 셌는데, 무료판을 유료판과 합쳐 다시 세면 체류 중앙값은 3주에서 5.5주로 늘어납니다. 2장의 중도 절단 문제까지 감안하면 '3주'는 하한에 가까운 값입니다.

"InferenceX의 첫 측정은 공급자의 출시 첫날이 아니다"

InferenceX의 원가는 SemiAnalysis와 기여자들이 칩·엔진마다 튜닝한 구성의 최상의 경우이고, 첫 측정은 그 팀의 첫 레시피입니다. 실제 공급자들이 출시 첫날 쓴 설정이 이보다 나았을 수도, 나빴을 수도 있습니다. 5장의 Kimi K3 B200 사례처럼 '탐색 범위에 파이프라인 병렬 2단을 추가'한 것만으로 원가가 11분의 1이 된 경우는, 소프트웨어가 좋아졌다기보다 첫 측정이 그 칩의 가능성을 다 보여 주지 못했다고 보는 편이 정확합니다. 또 원가 기록이 깨진 단계 가운데는 클러스터 파티션 변경처럼 측정 환경이 바뀌어 생긴 것도 섞여 있습니다.

"같은 칩이라도 같은 상품이 아니다"

같은 칩 곡선에는 FP8에서 FP4로 정밀도를 낮춘 구성도 들어 있습니다. 2편 5장에서 본 것처럼 양자화는 품질을 바꿀 수 있고, 이 글은 그 품질 차이를 재지 않았습니다. 원가가 반이 된 것 가운데 일부는 '같은 품질을 더 싸게'가 아니라 '조금 다른 상품을 더 싸게'일 수 있습니다.

"표본이 작다"

출시 첫 주부터 측정된 칸은 12개(모델 7개), 같은 칩 곡선은 51개, AMD 비교는 27칸입니다. 모델 하나가 여러 칸을 차지하므로 독립 표본은 더 적습니다. 21일, 38일, 1.88배 같은 숫자는 '이 정도 크기'로 읽어야지 소수점까지 믿을 숫자가 아닙니다. 닫힌 모델(Claude·GPT·Gemini)은 InferenceX에 없어서, 그 모델들의 원가 반감기는 이 글로 말할 수 없습니다.

"오래 가는 모델도 있다"

반감기 3주는 중앙값이지 법칙이 아닙니다. DeepSeek V3.2는 상위 9에 25주, Claude 4.5 Sonnet과 4.6 Sonnet은 17주씩 머물렀고, Claude 4.5 Sonnet은 정점 뒤 반이 되기까지 14주가 걸렸습니다. 코어닷투데이의 추정으로는 이 모델들이 특정 용도에서 오래 대체재가 없었기 때문입니다. 1편에서 본 것처럼 Claude 4.5 Sonnet은 지금도 '롤플레이·소설' 범주의 지출 1위입니다. 우리 업무의 대체재가 얼마나 자주 나오는지가 우리 업무의 반감기입니다.

10장. 한국 팀을 위한 실무 규칙

크게 보기

한국의 많은 조직은 연 단위로 예산을 잡고, 공공 부문은 연간 단가 계약과 긴 조달 절차를 따릅니다. 3주짜리 반감기와 1년짜리 조달 주기 사이의 간격을 메우는 규칙을 정리합니다.

마지막으로 순위표와 원가를 인용할 때는 날짜를 같이 적습니다. "DeepSeek가 1위", "MI355X가 B200보다 비싸다" 같은 문장은 몇 주 만에 틀린 문장이 됩니다.

맺음말 — 3부작을 닫으며

「오픈 시장 데이터 3부작」은 세 개의 질문으로 이뤄졌습니다. 1편 「입력 토큰 경제」는 무엇을 사는가를 물었습니다. 답은 '출력이 아니라 입력, 특히 다시 읽는 입력'이었습니다. 2편 「같은 가중치, 10배 가격」은 어디서 사는가를 물었습니다. 답은 '모델이 아니라 우리 작업 모양이 가장 싼 공급자를 정한다'였습니다. 이번 3편은 언제 사는가를 물었습니다. 답은 '출시 주는 가장 인기 있고 가장 비싼 주이며, 순위도 원가도 3주 안팎이면 반이 된다'입니다.

세 편을 겹치면 이 시장에서 AI를 사는 일의 모양이 보입니다. 단위는 입력 토큰이고, 가격은 작업 모양에 따라 열 배씩 벌어지고, 그 모든 숫자가 몇 주마다 반으로 줄어듭니다. 이런 시장에서 한 번 잘 고른 모델과 한 번 잘 맺은 계약은 오래가지 않습니다. 오래가는 것은 다시 재는 습관과 다시 고를 수 있는 구조입니다. 평가를 자동으로 돌리는 파이프라인, 모델을 갈아 끼울 수 있는 호출 층, 시간 조항이 들어간 계약서가 그 구조입니다.

방사성 원소의 반감기는 바뀌지 않지만, 이 시장의 반감기는 바뀔 수 있습니다. 2장에서 본 것처럼 시장이 다시 한 연구소로 모이면서 모델의 체류 기간은 이미 길어지기 시작했고, 5장에서 본 것처럼 업계가 보는 작업이 바뀌면 원가가 내려가는 자리도 바뀝니다. 그래서 이 글의 숫자도 날짜를 달고 읽어 주시기 바랍니다. 2026년 10월 마지막 주 기준입니다.

참고문헌

원자료 (수치는 모두 코어닷투데이가 이 자료로 다시 계산했습니다)

• OpenRouter Rankings — 순위 데이터 라이선스 CC BY 4.0. 순위 페이지가 쓰는 공개 API openrouter.ai/api/frontend/v1/rankings/ 의 model-rankings-chart(토큰), author-market-share(토큰), 주간 리더보드(10월 28일까지 한 주). 2026-10-29 수집
• SemiAnalysis InferenceX — 공개 API /api/v1/views/historical(모델 14개 × 작업 2종 × 속도 목표 50·100, 칩 소유 기준 원가, extendToDate=2026-10-29, 2026-10-29 수집), 같은 뷰의 chart=waterfall 응답(원가 기록 경신 단계와 PR 링크, 2026-10-30 수집), /api/v1/views/overview(30·60·90일 비교, 2026-10-29 수집), 모델 출시일·하드웨어 시간당 원가 목록
• SemiAnalysisAI/InferenceX 저장소 — 원가 단계에 연결된 PR #1036, #1163, #1185, #1292, #1378, #1476, #1717, #1833, #1964, #2498, #2639, #2672, #2787, #2792, #3346, #3347, #3652의 제목·본문. 2026-10-30 확인

SemiAnalysis 뉴스레터 (각 글의 무료 공개 구간)

• InferenceX v2: NVIDIA Blackwell Vs AMD vs Hopper (2026-02-16) — "새 칩은 1년 단위, 소프트웨어 릴리스는 주 단위", ROCm 출시 당일 지원 문제
• AI Value Capture - The Shift To Model Labs (2026-05-01) — 같은 B300에서 소프트웨어 최적화만으로 처리량 14배
• AgentX - InferenceXv3: Does CUDA Moat Hold up in Agentic Inferencing? (2026-08-24) — 에이전트 트레이스 도입, MI355X 첫 주 긴 맥락 작업 문제, 고정 길이 이력은 출시일부터 시험 제외까지
• Engrams Embedding Entendre: Codesign for Efficient DRAM/SSD Offloading (2026-09-18) — DeepSeek V4.1 Flash 출시 당일 NVIDIA vLLM 6종 칩 동작, AMD 출시 당일 이미지의 달러당 성능 격차

코어닷투데이 관련 글

• 입력 토큰 경제 — OpenRouter 1년치 기록으로 본 AI 시장의 체질 변화 (3부작 1편)
• 같은 가중치, 10배 가격 — 오픈 모델을 사는 법 (3부작 2편)
• 토큰의 값어치 — SemiAnalysis 스물한 편으로 그린 2026년 10월 AI 모델 가치 지도
• 토큰값이 67% 떨어졌는데, 왜 AI 청구서는 3배가 됐나 — 제번스의 역설과 추론 경제학
• AI가 단골을 알아보는 법 — 프롬프트 캐시 작동 원리
• DeepSeek V4 Pro 특집