coredot.today
블로그로 돌아가기

#추론 비용

2개의 포스트

[특집] 토큰의 값어치 — SemiAnalysis 스물한 편으로 그린 2026년 10월 AI 모델 가치 지도
특집SemiAnalysis토크노믹스
2026.10.29

[특집] 토큰의 값어치 — SemiAnalysis 스물한 편으로 그린 2026년 10월 AI 모델 가치 지도

반도체·AI 인프라 분석사 SemiAnalysis가 2025년 7월부터 2026년 10월까지 낸 글 스물한 편의 공개 구간을 모두 읽고, 지금 어떤 모델이 어떤 값을 하는지를 다섯 개의 자로 다시 쟀습니다. 표값 $5/$25짜리 모델의 실제 단가는 100만 토큰당 1달러 안팎이었고, 월 200달러 요금제 하나에 API로 사면 1만 달러가 넘는 토큰이 들어 있었으며, 같은 공개 모델의 원가는 소프트웨어만 바꿔도 14분의 1이 됐습니다. 가치는 칩·전력·메모리를 거쳐 2026년에 모델 회사로 흘러들었고, 최상위 모델은 가격을 오히려 올릴 힘을 얻었습니다. 오픈 모델은 프론티어의 값을 깎는 대신 '가격의 바닥'과 '하드웨어 경쟁의 무대'라는 다른 값을 갖게 됐습니다. 숫자마다 출처와 측정 조건을 달고, 위젯 다섯 개로 직접 계산해 볼 수 있게 했습니다.

코어닷투데이83분
[특집] 비싼 모델은 어디에 써야 하는가 — 검증기 없는 진화와 다중 모델 오케스트레이션, Squeeze Evolve 완전 해부
특집Squeeze Evolve테스트 시간 스케일링
2026.10.20

[특집] 비싼 모델은 어디에 써야 하는가 — 검증기 없는 진화와 다중 모델 오케스트레이션, Squeeze Evolve 완전 해부

같은 Gemini 3.1 Pro가 한 번 답하면 ARC-AGI-2 공개 평가에서 88.1%다. 같은 모델로 후보 답을 여러 세대에 걸쳐 섞고 고치는 '진화'를 돌리면 93.3%까지 오르지만 과제당 비용이 0.98달러에서 28.85달러로 뛴다. UC 버클리·Together AI 연구진의 Squeeze Evolve(COLM 2026)는 여기서 질문을 바꾼다. 더 쓰는 법이 아니라 덜 쓰고 같은 능력을 얻는 법이다. 답은 '비싼 모델을 가장 효과가 큰 곳에만'이다. 첫 후보는 강한 모델이 만들고, 이후 재조합은 모델이 이미 내놓은 로그 확률로 묶음의 난이도를 재서 쉬운 묶음은 싼 모델이나 다수결에, 어려운 묶음만 비싼 모델에 보낸다. 이 글은 1960년대 풍동 실험의 진화 전략부터 FunSearch·AlphaEvolve·RSA까지 '진화하는 추론'의 계보를 따라가고, 논문의 네 가지 발견(다양성 붕괴, 조상이 결과를 정한다, 약한 모델도 좋은 재료면 잘 합친다, 확신도는 공짜 적합도다)과 알고리즘·시스템 설계·공개 코드를 읽은 뒤, 공개 평가의 함정과 통계적 유의성 같은 반론, 그리고 2026년 추론 경제에서 이 아이디어가 맡을 역할을 인터랙티브 7개와 일러스트·논문 그림, 직접 계산한 원 채우기 결과로 풀어 본다.

코어닷투데이111분