coredot.today
블로그로 돌아가기

#추론 모델

5개의 포스트

[특집] 추론은 무엇을 최적화하나 — 토큰 공간의 길 찾기로 다시 읽는 추론 모델, 강화학습, 그리고 보상 해킹
특집추론 모델강화학습
2026.11.17

[특집] 추론은 무엇을 최적화하나 — 토큰 공간의 길 찾기로 다시 읽는 추론 모델, 강화학습, 그리고 보상 해킹

추론 모델을 강화학습으로 훈련하면 생각이 길어지고 정확도가 오른다. 그런데 이미 훈련된 모델에게 억지로 더 오래 생각시키면 좋아지다가 멈추고, 때로는 나빠진다. 알렉스 왕(Alex Wang)은 2026년 11월 8일 글 「추론은 어떤 목적함수를 푸는가」에서 이 수수께끼를 '토큰 공간의 길 찾기'라는 그림 하나로 푼다. 생각의 사슬 하나는 프롬프트에서 정답 집합으로 가는 길 하나이고, 강화학습이 올리는 것은 개별 길의 품질이 아니라 길들의 분포가 정답에 닿을 확률 pₓ라는 것이다. 이 글은 원문의 수식을 한 줄씩 풀고, 1956년 논리 이론가에서 AlphaZero, STaR, 「대형 언어 원숭이」, DeepSeek-R1, s1까지 '추론 = 탐색'의 계보를 따라가며, 그 관점이 설명하는 세 가지(생각 길이의 한계, 생각의 사슬이 진짜 이유가 아닌 이유, 보상 해킹)를 논문 그림과 사례로 확인한다. 로컬 모델(qwen3.5 4B)로 같은 답에 이르는 서로 다른 길, k번 뽑기의 힘, 생각 예산을 자르고 늘렸을 때의 정답률을 직접 재고, 위젯 6개로 길 찾기·k번 뽑기·REINFORCE=RFT·상각·불완전한 검증기를 만져 본다.

코어닷투데이94분
가장 그럴듯한 말만 고르면 AI는 같은 말을 되풀이한다 — 그리디부터 min-p까지, 다음 한 단어를 고르는 기술 (특집)
특집디코딩그리디 디코딩
2026.11.07

가장 그럴듯한 말만 고르면 AI는 같은 말을 되풀이한다 — 그리디부터 min-p까지, 다음 한 단어를 고르는 기술 (특집)

언어 모델은 문장을 쓰지 않는다. 다음에 올 토큰마다 확률표를 내놓을 뿐이다. 그 표에서 실제로 한 토큰을 고르는 규칙이 ‘디코딩’이다. 1948년 섀넌이 책을 아무 데나 펼쳐 다음 단어를 고르던 실험에서 출발해, 매번 1등만 고르는 그리디와 후보 여러 개를 들고 가는 빔 서치가 왜 같은 말을 되풀이하는지, temperature·top-k·top-p·min-p가 각각 무엇을 자르는지 원 논문으로 따라간다. 카카오의 공개 모델로 12가지 전략을 직접 돌려, 그리디가 쓴 글의 45%가 반복 루프로 끝나고 temperature 0에서도 같은 질문에 다른 답이 나오는 것을 확인했다. 마지막으로 2026년 Claude·Gemini·GPT가 샘플링 손잡이를 잠근 이유를 정리한다. 인터랙티브 위젯 6종, 코어닷투데이 실측, 삽화 14장.

코어닷투데이63분
[특집] 722편의 원고 — OpenAI가 하룻밤에 공개한 372개의 '해결된' 수학 문제, 그 저장소를 열어 보다
특집OpenAIAI와 수학
2026.10.08

[특집] 722편의 원고 — OpenAI가 하룻밤에 공개한 372개의 '해결된' 수학 문제, 그 저장소를 열어 보다

2026년 10월 6일 밤, OpenAI는 일곱 문단짜리 글 「수학에서의 AI 진전을 공유합니다」와 함께 GitHub 저장소 하나를 열었다. 미공개 내부 모델이 쓴 수학 원고 722편, 결과 계열 372개. 준(準) 리만 가설, 4차원 카케야 추측, 행렬 곱셈 지수 2.25, 유일 게임 추측, 톰프슨 군 F의 비순종성 — 각각이 사람이 했다면 경력을 통째로 바칠 만한 문제들이 '거의 전부 프롬프트 하나, 에이전트 하나, 평균 세 시간'으로 나왔다고 적혀 있다. 이 글은 저장소를 직접 열어 README·카탈로그·Lean 라이브러리·추론 요약 10건을 읽고, 헤드라인 결과를 비전공자도 이해할 수 있게 풀고, '검증됨'과 '이해됨' 사이의 거리를 재고, 사흘간 쏟아진 수학자들의 반응('즉시 필즈상'에서 '힘의 시연'까지)을 지도에 놓는다. 그리고 하루 전 같은 블로그에 실린 아비가드의 편지와 겹쳐 읽는다.

코어닷투데이55분
2026년형 ChatGPT 질문법 — '역할·목표·상황·결과·질문' 5요소는 어떻게 바뀌어야 하는가
튜토리얼프롬프트 엔지니어링ChatGPT
2026.09.19

2026년형 ChatGPT 질문법 — '역할·목표·상황·결과·질문' 5요소는 어떻게 바뀌어야 하는가

‘당신은 세계 최고의 마케팅 전문가입니다’로 시작하던 프롬프트는 이제 힘을 잃었다. 2026년의 모델은 스스로 추론하고, 도구를 쓰고, 이미지와 문서를 함께 읽는다. 그래서 좋은 프롬프트의 모양도 ‘역할극 대본’에서 ‘작업 명세서’로 옮겨 갔다. 이 글은 오래 쓰인 5요소 구조(역할·목표·상황·예상 결과·질문 유도)를 OpenAI·Anthropic·Google의 최신 가이드에 비추어 하나씩 다시 쓰고, 8+1 구조와 상황별 템플릿, 그리고 같은 요청을 옛날식과 2026년식으로 나란히 고쳐 쓴 예시를 제공한다. 마지막에는 버려도 되는 여섯 가지 옛 습관을 정리한다.

코어닷투데이54분
추론 모델 삼국지: Gemini Deep Think, OpenAI o3, Claude Opus — 누가 이기고 있나
인사이트추론 모델Gemini Deep Think
2026.01.12

추론 모델 삼국지: Gemini Deep Think, OpenAI o3, Claude Opus — 누가 이기고 있나

GPT-4 시대의 '크기 경쟁'은 끝났다. 2025년부터 AI는 '생각하는 시간'으로 경쟁한다. Gemini Deep Think의 IMO 금메달, o3의 ARC-AGI 인간 초과, Claude의 SWE-bench 지배 — 추론 모델 전쟁의 전황을 분석한다.

코어닷투데이28분