#추론 원가

2개의 포스트

2026.10.30

[특집] 같은 가중치, 10배 가격 — 오픈 모델을 사는 법

OpenRouter에 올라온 오픈 웨이트 모델 28개의 엔드포인트 518개를 내려받아 같은 모델의 가격을 나란히 놓았습니다. 출력 단가의 폭은 중앙값으로 2.8배, 입력 단가는 5배였고, GLM-5.3은 49개 엔드포인트 사이에서 채팅형 섞인 가격이 10.7배 벌어졌습니다. 가장 싼 공급자는 캐시 적중률과 입력:출력 비율에 따라 바뀌었고(DeepSeek V4.1 Flash는 채팅·RAG·에이전트에서 1등이 모두 달랐습니다), 가장 싼 가격 상당수에는 할인 표시와 미공개 양자화가 붙어 있었습니다. InferenceX 원가로 보면 모든 공급자 가격이 최신 칩에서는 남지만 H100·H200급에서는 DeepSeek V4.1 Flash를 파는 42곳 모두가 손해였고, 연구소 자체 가격은 최적 칩 원가의 1.4~9.2배였습니다. 같은 가중치는 같은 상품이 아니며, 오픈 모델은 출력 단가가 아니라 '내 작업 모양의 섞인 가격'과 라벨로 사야 합니다.

코어닷투데이87분

특집OpenRouterInferenceX

2026.10.30

[특집] 반감기 3주 — 모델의 전성기도, 추론 원가도 3주면 반으로

OpenRouter 53주치 순위와 InferenceX 원가 이력을 다시 계산해 '시간'을 쟀습니다. 주간 상위 9에 든 모델 70개 가운데 들어왔다 나간 52개의 체류 중앙값은 3주였고, 모델 점유율은 정점에서 중앙값 2주 만에 반으로 줄었으며, 1위는 51주 동안 25번 바뀌었습니다. 원가도 비슷하게 빨랐습니다. 출시 첫 주부터 측정된 12칸에서 가장 싼 칩의 100만 토큰 원가가 반이 되기까지 중앙값 21일이 걸렸고, 칩을 바꾸지 않고 소프트웨어만으로도 B200 위의 Kimi K3는 95%, B300 위의 DeepSeek V4 Pro는 97% 내려갔습니다. AMD MI355X는 B200 대비 원가 배수가 중앙값 1.88배에서 1.16배로 따라왔지만, H100·H200 위의 원가는 중앙값으로 거의 움직이지 않았습니다. 출시 주에 벤치마크와 단가를 굳히지 말고, 달마다 다시 재고, 모델을 갈아 끼울 수 있게 만드는 것이 이 시장의 기본기입니다.

코어닷투데이80분