#모델 라우팅

2개의 포스트

2026.10.20

[특집] 비싼 모델은 어디에 써야 하는가 — 검증기 없는 진화와 다중 모델 오케스트레이션, Squeeze Evolve 완전 해부

같은 Gemini 3.1 Pro가 한 번 답하면 ARC-AGI-2 공개 평가에서 88.1%다. 같은 모델로 후보 답을 여러 세대에 걸쳐 섞고 고치는 '진화'를 돌리면 93.3%까지 오르지만 과제당 비용이 0.98달러에서 28.85달러로 뛴다. UC 버클리·Together AI 연구진의 Squeeze Evolve(COLM 2026)는 여기서 질문을 바꾼다. 더 쓰는 법이 아니라 덜 쓰고 같은 능력을 얻는 법이다. 답은 '비싼 모델을 가장 효과가 큰 곳에만'이다. 첫 후보는 강한 모델이 만들고, 이후 재조합은 모델이 이미 내놓은 로그 확률로 묶음의 난이도를 재서 쉬운 묶음은 싼 모델이나 다수결에, 어려운 묶음만 비싼 모델에 보낸다. 이 글은 1960년대 풍동 실험의 진화 전략부터 FunSearch·AlphaEvolve·RSA까지 '진화하는 추론'의 계보를 따라가고, 논문의 네 가지 발견(다양성 붕괴, 조상이 결과를 정한다, 약한 모델도 좋은 재료면 잘 합친다, 확신도는 공짜 적합도다)과 알고리즘·시스템 설계·공개 코드를 읽은 뒤, 공개 평가의 함정과 통계적 유의성 같은 반론, 그리고 2026년 추론 경제에서 이 아이디어가 맡을 역할을 인터랙티브 7개와 일러스트·논문 그림, 직접 계산한 원 채우기 결과로 풀어 본다.

코어닷투데이111분

토큰값이 67% 떨어졌는데, 왜 AI 청구서는 3배가 됐나 — 제번스의 역설과 추론 경제학

특집추론 경제학제번스의 역설

2026.07.30

토큰값이 67% 떨어졌는데, 왜 AI 청구서는 3배가 됐나 — 제번스의 역설과 추론 경제학

2026년, AI 모델의 토큰 단가는 1년 만에 67% 떨어졌다. GPT-4 기준으로는 3년간 99.7%가 빠졌다. 그런데 기업의 73%가 'AI 지출이 예상을 초과했다'고 답했고, 우버는 2026년 AI 예산을 4월에 다 태웠다. 값은 폭락하는데 청구서는 폭발하는 이 역설의 이름은 1865년 경제학자 윌리엄 스탠리 제번스가 석탄에서 발견한 '제번스의 역설'이다. 이 글은 왜 추론이 싸질수록 총지출이 늘어나는지 — 에이전트 한 작업이 챗의 1,000배 토큰을 먹는 배수의 폭발, 효율이 하드웨어 부족을 부르는 악순환의 고리 — 를 데이터로 해부하고, 'best model wins'가 'best fit wins'로 바뀐 시대의 생존 무기인 모델 라우팅과 비용 통제 플레이북까지 실무적으로 정리한다.

코어닷투데이21분