#굿하트의 법칙
3개의 포스트
가장 쓴 교훈 — 계산량보다 데이터, 데이터보다 '올바른 과제'
2026년 9월 10일, ChatGPT를 만든 사람 중 하나가 900단어짜리 글을 올렸다. 리치 서튼의 '쓴 교훈'(계산 > 알고리즘)은 빙산의 일각이며, 진짜 위계는 '올바른 과제 > 데이터 > 계산 > 알고리즘'이라는 주장이다. 그리고 그 증거로 자기가 만든 InstructGPT의 논문 그림 한 장을 내놓았다 — 100배 작은 모델이 100배 큰 모델 위에 통째로 올라앉은 그림. 이 글은 왜 이 개념이 나왔는지를 1997년 딥블루부터 2026년의 에이전트 시대까지 따라가며, 과제를 잘못 고른 여덟 건의 값비싼 실패와 잘 고른 다섯 건의 성공을 함께 본다. 인터랙티브 위젯 8종과 삽화 14장.
“달 착륙을 6살에게 설명해 줘” — 되묻기만 하던 AI는 어떻게 말귀를 알아듣게 됐나 (RLHF 특집)
2022년 1월, OpenAI는 “사용자의 의도를 GPT-3보다 훨씬 잘 따르는” 모델을 발표했다. 13억 파라미터 모델이 1750억 모델을 이겼고, 그 비용은 사전학습의 1.6%였다. 열 달 뒤 같은 레시피로 만든 ChatGPT가 세상을 바꿨다. 이 글은 그 기술 — 인간 피드백 강화학습(RLHF) — 이 왜 필요했는지를 2017년 뒤공중돌기 로봇부터 따라간다. 보상을 글로 적을 수 없다는 문제, 순위 하나가 여섯 개의 비교가 되는 방식, 보상 모델을 너무 믿으면 벌어지는 일, 그리고 RLHF가 고친 것이 아니라 ‘만든’ 네 가지 버릇까지. 인터랙티브 위젯 8종과 삽화로 풀었다.
AI와 수학의 심각한 불일치 — 필즈상 수상자 25인은 무엇을 두려워하는가: 등대, 파이프라인, 그리고 나비에–스토크스 88시간
2026년 9월 11일, 테런스 타오·페터 숄체·마리나 비아조우스카 등 필즈상 수상자 25명이 'AI와 수학의 심각한 불일치'라는 선언을 냈다. AI 기업이 유명 미해결 문제를 벤치마크 삼아 푸는 경쟁이 수학이라는 학문과 공동체에 해롭다는 것이다. 이 선언은 어디서 왔는가. OpenAI가 1만 개 에이전트로 88시간 만에 '풀었다'고 발표한 나비에–스토크스 문제, 그 직전에 같은 문제를 1년간 파던 두 수학자의 4쪽짜리 성명, '10년간 진전 없음'이라는 문구에 항의한 독일 수학자의 이메일, 타오가 ICM에서 그린 다섯 단계 파이프라인과 굿하트의 법칙까지 — 왜 '문제를 푸는 것'과 '수학을 하는 것'이 갈라졌는지를 논문·선언문·논쟁 100건을 읽고 인터랙티브와 함께 풀어본다.