[특집] 수학의 두 문화 — 재프–퀸, 서스턴, 고워스를 정독하고 AI가 쓴 수학의 '문화'를 재다

크게 보기

들어가며 — 30년 묵은 논쟁이 다시 급해진 이유

2026년 10월 6일, OpenAI가 수학 원고 수백 편을 하룻밤에 공개했다. 대부분은 이름 붙은 문제, 특히 에르되시 문제에 대한 해답이나 기존 한계의 개선이었다. 테렌스 타오는 이틀 뒤 이렇게 썼다. 많은 증명이 "소화되면 결실을 맺을 영리한 새 아이디어를 담고 있는 것 같다." 그러면서 "전통적인 돌파구와 달리, 이 증명들에 관여한 사람 중 누구도 질문을 받거나, 강연을 하거나, 학생을 가르치거나, 이 결과의 후속 발전에 참여할 수 없다는 점"에 깊이 좌절한다고 했다.

이 상황을 33년 전에 정확한 낱말로 경고한 글이 있다. 1993년 아서 재프와 프랭크 퀸은 '이론 수학', 곧 증명 없이 사변으로 앞서 나가는 수학이 문헌을 오염시키고 분야를 죽일 수 있다고 썼다. 그리고 심사를 거친 출판과 "게시판에 올린 글"을 구별하는 것이 앞으로 "가장 큰 도전 중 하나"가 될 것이라고 했다. 이듬해 윌리엄 서스턴은 정반대 방향에서 답했다. 수학자가 하는 일은 정리를 생산하는 것이 아니라 인간의 수학 이해를 진전시키는 것이라는 답이었다. 그로부터 6년 뒤 티머시 고워스는 또 다른 축을 그었다. 문제를 푸는 것을 목적으로 삼는 수학자와, 이론을 짓고 이해하는 것을 목적으로 삼는 수학자, 이렇게 수학의 두 문화다.

크게 보기

이 연작 「증명 다음의 수학」의 1편 「기계가 질문을 만들 때」는 기계가 좋은 질문을 고를 수 있는지를, 2편 「AI가 쓴 증명은 누가 소화하나」는 기계가 만든 증명을 누가 이해하는지를 다뤘다. 3편은 그 두 이야기의 뿌리로 내려간다. 이 글은 네 가지를 한다.

1. 재프–퀸의 1993년 글, 그에 대한 1994년의 응답 15편, 서스턴의 답장을 원문으로 정독한다. 누가 무엇을 말했고, 무엇이 오해였는지 본다.
2. 고워스의 2000년 에세이와, 같은 문제를 다른 은유로 그린 그로텐디크의 '차오르는 바다', 다이슨의 '새와 개구리'를 읽는다.
3. 직접 잰다. OpenAI가 공개한 AI 수학 원고와 같은 시기 사람이 쓴 arXiv 논문의 초록을 모아, 고워스의 두 문화 중 어디에 속하는지 분류했다. 기계는 정말 '문제 해결자'인가?
4. 1993년의 처방과 1994년의 반론이 2026년에 어떻게 되살아났는지 짚는다.

위젯 다섯 개를 준비했다. 1994년 응답 15편을 한 장에 펼친 지도, 서스턴이 말한 '도함수를 보는 일곱 가지 방법', 고워스가 예로 든 에르되시의 '무작위로 칠하기', 실측 결과를 직접 뒤져 보는 탐색기, 그리고 유명한 수학적 업적을 두 문화로 나눠 보는 퀴즈다.

1장. 1993년의 경고 — 재프와 퀸의 「'이론 수학'」

1-1. 왜 하필 1993년이었나

1993년 7월, 미국수학회보(Bulletin of the AMS) 29권 1호 첫머리에 13쪽짜리 글이 실렸다. 하버드의 수리물리학자 아서 재프(Arthur Jaffe)와 버지니아 공대의 위상수학자 프랭크 퀸(Frank Quinn)이 쓴 「'이론 수학': 수학과 이론물리학의 문화적 종합을 향하여」다. 초록의 첫 문장은 질문이었다.

사변적 수학은 위험한가? 최근 물리학과 수학의 상호작용은 이 질문을 힘주어 던진다. 전통적인 수학 규범은 사변을 꺼리지만, 사변은 이론물리학의 바탕이다. (…) 큰 주의가 필요하며, 이 문제는 뚜렷한 피해가 생긴 뒤가 아니라 그 전에 따져 봐야 한다.

배경은 1980년대 후반부터 일어난 일이다. 에드워드 위튼 같은 물리학자들이 끈 이론, 등각장론, 위상 양자장론에서 출발해 수학의 깊은 결과를 '예측'하기 시작했다. 매듭 불변량, 4차원 다양체, 거울 대칭이 그 예다. 그 예측은 대부분 맞았지만 증명은 없었다. 재프와 퀸의 말로는 물리학자들이 새로운 '실험 집단'을 찾아냈는데, 그게 바로 수학자들이었다. 물리학자가 직관으로 예측하면 수학자가 증명으로 확인하는 구도다. 위튼은 1990년 필즈상을 받았다.

1-2. 두 단계 — 이론과 엄밀

재프와 퀸은 수학적 지식이 보통 두 단계로 얻어진다고 정리했다.

그리고 과감한 비유를 들었다. 수학에서 엄밀한 증명이 하는 역할은 자연과학에서 실험이 하는 역할과 기능적으로 같다. 증명은 수학적 주장의 신뢰성을 보장하고, 증명을 찾는 과정은 부산물로 새 통찰과 뜻밖의 데이터를 낳는다. 물리학은 20세기 초에 이론가와 실험가로 갈라졌다(1917년 켐블의 학위가 미국 최초의 순수 이론물리 박사였다고 그들은 썼다). 수학은 그렇게 갈라지지 않았다. 그래서 그들은 물었다. "'이론 수학'은 결국 형용모순인가?"

1-3. 경고 사례 — 이탈리아 학파에서 서스턴까지

글의 중심은 '경고 사례(cautionary tales)'다. 사변이 증명을 앞질러 갔다가 탈이 난 역사를 줄줄이 늘어놓았다.

서스턴 문단은 짧았다. 바로 뒤에 위튼이 존스 다항식의 확장을 발견적으로 묘사한 일도 "위상수학 안에서조차 길고 문제 많은 전통"을 잇는 것이라고 덧붙였다. 이 한 문단이 1년 뒤 수학사에서 가장 많이 인용되는 에세이 중 하나를 낳는다.

1-4. 네 가지 문제와 세 가지 처방

재프와 퀸은 사변이 증명과 섞일 때 생기는 문제를 넷으로 정리했다.

처방은 셋이었다. 첫째, 공로. 이론 작업은 이론적이고 불완전하다고 명시적으로 인정해야 하고, 최종 결과에 대한 공로의 큰 몫은 그것을 검증하는 엄밀한 작업에 남겨 둬야 한다. 그들은 이것을 "광고의 진실성(truth in advertising)"이라고 불렀다. 둘째, 용어. 이론적 내용에서는 '정리' 대신 '추측', '보인다' 대신 '예측한다', '증명' 대신 '동기'나 '뒷받침 논증'이라고 써야 하고, 가능하면 제목과 초록에 '이론적', '사변적'이라는 말을 넣어야 한다. 셋째, 연구 발표. 연구 발표문은 전체 논문이 게재 승인을 받은 뒤의 요약으로만 출판해야 한다.

그리고 그들은 1993년에 한 문장을 남겼다. 이 문장은 33년 뒤에 읽으면 섬뜩하다.

심사를 거친 정식 출판과 게시판에 올린 글의 구별을 지키는 것이 중요하다. 이 구별을 지키는 일은 진지한 전자 학술지의 발전이 마주한 가장 큰 도전 중 하나가 될지도 모른다.

arXiv가 문을 연 것이 1991년이다. 2026년 9월 arXiv의 월 제출 건수는 40,363건으로 역대 최고를 찍었고, 10월 1일부터 제출자당 월 2건 제한이 시행됐다.

크게 보기

2장. 열다섯 통의 답장 — 1994년 4월호

2-1. 편집자가 청탁한 논쟁

회보 편집자 리처드 팔레(Richard Palais)는 재프–퀸의 글이 나오기 전부터 반론을 모았다. 글에 이름이 거명된 사람들, 그중 일부는 비판적으로 읽힐 수 있게 거명된 사람들에게 답할 기회를 주는 것이 공정하다고 봤기 때문이다. 르네 톰이 받은 청탁 편지는 1993년 5월 21일자였다. 그렇게 모인 답장이 1994년 4월호(30권 2호)에 한꺼번에 실렸다. 편집자 칼럼(159~160쪽), 서스턴의 에세이(161~177쪽), 응답 15편(178~207쪽), 재프–퀸의 재반박(208~211쪽) 순서다.

팔레는 미리 못 박았다. 이 응답들은 "일종의 국민투표로 읽혀서는 안 되며, 편집자의 선별 과정은 평소보다도 훨씬 더 반대 의견을 선호했다." 그리고 이 묶음이 회보가 1992년부터 이어 온 '논쟁 게재' 프로그램의 마지막 회라고 알렸다. 이듬해부터 그 역할은 Notices의 포럼으로 넘어간다.

2-2. 누가 무엇을 말했나

응답자는 마이클 아티야, 아르망 보렐, 그레고리 차이틴, 대니얼 프리댄, 제임스 글림, 제러미 그레이, 모리스 허시, 손더스 매클레인, 브누아 망델브로, 다비드 뤼엘, 알베르트 슈바르츠, 캐런 울렌벡, 르네 톰, 에드워드 위튼, 크리스토퍼 지먼이다. 필즈상 수상자만 아티야, 톰, 위튼 셋이다. 울렌벡은 25년 뒤인 2019년 여성 최초로 아벨상을 받는다.

몇 통은 짚어 둘 만하다.

• 아티야는 내용보다 어조에 반대했다. "재프와 퀸은 소독한 수학관을 제시해 이 학문을 관절염 걸린 노년으로 몰아넣는다." 창조의 시기에는 "더 해적 같은 방식"으로 움직일 준비가 돼 있어야 한다는 것이다. 그러면서도 학생들에게 경고 표지를 세운 것은 옳다고 인정했다. 안전한 박사 논문을 원하는 학생에게 이 분야는 위험하지만, 흥분과 활기를 원하는 학생에게는 거부할 수 없을 것이라고 했다.
• 망델브로가 가장 격렬했다. 미국수학회 본부가 찰스 거리에 있다는 데서 따와 학회 회원들을 "찰스 수학자들"이라고 부르며, 재프–퀸이 "찰스 수학 안에 경찰국가를, 그 국경 너머에 세계 경찰을" 세우려 한다고 썼다. 글 대부분이 "끔찍하다"고 했다.
• 톰은 자기 이야기에 대한 묘사가 "꽤 정확하다"고 인정했다. 필즈상(1958) 이후 "타고난 성향에 몸을 맡겼고 (결국 처참한) 결과가 따랐다", 몇 년 뒤 그로텐디크와 IHÉS 동료가 되면서 엄밀함을 "수학적 사고에서 매우 불필요한 성질"로 여기게 됐다고 썼다. 그러면서 엄밀함은 "국소적이고 사회학적인 기준"일 뿐이라고 했다. "Rigor는 라틴어다. 우리는 rigor mortis, 시체의 경직을 떠올린다."
• 매클레인은 반대편 끝에 섰다. 수학의 과정은 "직관, 시행, 오류, 사변, 추측, 증명"이다. "우리는 믿음만으로가 아니라 믿음과 행위로 구원받는다." "최종적으로 증명되기 전까지 그것은 수학이 아니다." "수학은 증명 위에 있고, 증명은 영원하다."
• 지먼의 한 줄이 아마 가장 많이 인용된다. "최고의 수학자들은 언제나 둘 다 해 왔고, 앞으로도 그럴 것이다."
• 슈바르츠는 규칙이 필요하다는 데는 동의하면서 다른 규칙을 냈다. '전정리(pretheorem)·사실·진술·추측' 네 단계 용어와 A~F 등급 표시다. 그리고 1994년에 이렇게 내다봤다. 머지않아 학술지는 연구 발표(완전한 증명은 이메일로 받는 방법과 함께), 리뷰 논문, 극히 중요한 논문만 싣게 될 것이다.

응답을 다 읽고 나면 하나가 보인다. 거의 모두가 사변과 증명을 구분하자는 원칙에는 크게 반대하지 않았다. 반발은 그 구분을 역할 분업과 공로 배분으로 만들자는 처방, 그리고 그것을 학술지 규칙으로 강제하자는 태도를 향했다.

3장. 서스턴의 답장 — 「수학에서의 증명과 진보에 대하여」

3-1. 질문을 바꾸다

크게 보기 윌리엄 서스턴(1946~2012), 1991년. 사진: George M. Bergman, Wikimedia Commons, GFDL.

같은 호에 실린 서스턴의 글은 응답 모음과 따로, 독립된 논문으로 실렸다. 17쪽이다. 그는 첫 쪽에서 재프–퀸의 글에 자기 작업을 "내 경험과도, 그 분야 사람들의 관찰과도 다르게" 묘사한 문단이 하나 있다고 밝혔다. 그리고 원인을 짚었다. 그들의 묘사는 "수학의 사회학을 많은 기본적 현상을 무시하는 1차원 눈금(사변 대 엄밀) 에 투영한" 결과라는 것이다. 그러면서 그는 반박 대신 "부정적인 것보다 긍정적인 것에 집중하겠다"고 했다.

그가 한 첫 작업은 질문 바꾸기였다. "수학자는 어떻게 정리를 증명하는가?"로 시작하면 두 가정이 몰래 들어온다. 수학적 증명에 통일되고 객관적이고 확립된 이론과 실천이 있다는 가정, 그리고 수학자의 진보가 정리를 증명하는 것으로 이뤄진다는 가정이다. 그래서 그는 질문을 이렇게 바꿨다. "수학자는 어떻게 인간의 수학 이해를 진전시키는가?" 그리고 수학을 재귀적으로 정의했다.

수학은 자연수, 평면기하와 입체기하를 포함한다. 수학은 수학자들이 연구하는 것이다. 수학자는 인간의 수학 이해를 진전시키는 사람이다.

글은 여섯 절로 이어진다. ① 수학자는 무엇을 이루는가, ② 사람은 수학을 어떻게 이해하는가, ③ 수학적 이해는 어떻게 전달되는가, ④ 증명이란 무엇인가, ⑤ 무엇이 사람을 수학으로 이끄는가, ⑥ 몇 가지 개인적 경험.

3-2. 도함수를 보는 일곱 가지 방법

2절에서 서스턴은 같은 대상을 사람들이 얼마나 다르게 '보는지' 보여 주려고 도함수를 예로 들었다. 미적분 첫 학기의 개념인데도 그는 일곱 가지 방식을 늘어놓았다. 무한소, 기호, 논리, 기하, 변화율, 근사, 현미경. 그리고 덧붙였다. "이것은 도함수를 생각하거나 떠올리는 서로 다른 방식의 목록이지, 서로 다른 논리적 정의의 목록이 아니다."

크게 보기

아래 위젯에서 같은 함수, 같은 점을 일곱 렌즈로 번갈아 보자. 어떤 렌즈는 당신에게 '바로 그거'일 것이고, 어떤 렌즈는 낯설 것이다. 서스턴의 요점이 바로 그것이다.

목록은 일곱에서 끝나지 않는다. 서스턴은 "목록은 계속되고, 멈출 이유가 없다"며 37번째 항목을 농담처럼 적었다. "실숫값 함수 f의 도함수는, f의 그래프가 평행하게 되는 자명한 R-다발 D×R 위 유일한 평탄 접속의 접속 형식을 주는 공변접다발 T*(D)의 라그랑주 단면이다." 그리고 바로 앞에 이렇게 썼다. "한 사람의 명료한 심상이 다른 사람에게는 위협이 된다."

이 대목이 재프–퀸에 대한 답이 되는 이유가 있다. 1차원 눈금(사변 대 엄밀)은 '어떤 주장이 얼마나 확실한가'만 잰다. 서스턴이 보기에 수학의 진보는 그 눈금 위에서 일어나지 않는다. 같은 정리에 대해 새로운 보는 방식을 하나 더 만드는 것, 그것이 이해를 진전시키는 일이다. 인간의 사고는 "중앙처리장치가 하나뿐인 컴퓨터처럼 한 트랙으로 움직이지 않는다." 언어, 시각과 공간 감각, 논리와 연역, 직관과 연상과 은유, 자극-반응, 과정과 시간이 동시에 돌아간다.

3-3. 증명이란 무엇인가 — 사회적 과정

4절에서 서스턴은 대학원생 시절을 회상한다. 수학적 지식과 이해는 그 주제를 생각하는 사람들 공동체의 마음과 사회적 짜임 속에 있었고, "글로 쓴 문서가 그것을 뒷받침했지만 정말로 일차적인 것은 아니었다." 1993년 6월 와일스가 페르마의 마지막 정리를 발표했을 때 전문가들은 세부를 확인하기 한참 전에 높은 수준의 아이디어만 보고 증명이 대체로 옳다고 믿었다.

그리고 재프–퀸이 수학을 "아마도 인간의 지적 활동 중 가장 단련된 것"이라고 한 대목을 정면으로 받았다.

컴퓨터 프로그램이 조금이라도 돌아가게 하는 데 필요한 정확성과 완전성의 기준은 수학 공동체의 타당한 증명 기준보다 두어 자릿수 높다. (…) 우리가 실천하는 수학이 형식적으로 올바른 것에 가깝다고 주장하는 것은 터무니없다. (…) 신뢰성은 주로 수학자들이 형식 논증을 형식적으로 확인하는 데서 나오지 않는다. 그것은 수학자들이 수학적 아이디어를 신중하고 비판적으로 생각하는 데서 나온다.

여기서 흔한 오해 하나를 막아 두자. 서스턴은 증명 기준을 낮추자고 하지 않았다. 그는 분명히 썼다. "나는 우리 공동체의 증명 기준을 약화하자고 주장하는 것이 아니다. 과정이 실제로 어떻게 돌아가는지 묘사하려는 것이다." 그가 바란 변화는 오히려 수학자들이 증명을 더 명료하고 단순하게 써서 약점이 있으면 쉽게 드러나게 하는 것이었다. 2편의 실험에서 '지도' 해설이 하려던 일이다.

그리고 이 절에는 32년 뒤에 읽으면 놀라운 문단이 있다.

컴퓨터로 수학의 일부를 실제로 형식화하는 프로젝트에 열심인 사람들이 있다. (…) 나는 이것이 아주 크지만 아주 가치 있는 프로젝트라고 생각한다. (…) 머지않아, 사람들이 형식적으로 완전하고 올바른 수학의 상당한 덩어리를 편찬하도록 돕는 대화형 컴퓨터 프로그램이 생기고, 그것이 수학자의 표준 작업 환경의 일부가 될 것으로 기대한다.

Lean과 Mathlib이 정확히 그것이 됐다. 그러나 서스턴은 곧바로 덧붙였다. "우리가 실제로 하는, 사람이 이해할 수 있고 사람이 확인할 수 있는 증명이 우리에게 가장 중요하며, 그것은 형식 증명과 꽤 다르다." 2편의 'open (Lean)'은 이 두 문장 사이의 틈에서 태어났다.

3-4. 분야를 죽인 천재 — 엽층 이야기

6절은 개인적 경험이다. 여기서 서스턴은 자기 실패를 털어놓았다. 1970년대 초 그는 엽층(foliation) 이론의 주요 문제들을 연달아 풀었다. 엽층은 공간을 같은 차원의 얇은 '잎'들로 겹겹이 채우는 구조다. 그런데 몇 년 안에 그 분야에서 사람들이 극적으로 빠져나갔다.

크게 보기

몇 년 안에 그 분야에서 극적인 탈출이 시작됐다. (…) 사람들은 서스턴이 그 분야를 청소해 버리고 있다고 말했다. 사람들은 (불평이 아니라 칭찬으로) 내가 그 분야를 죽이고 있다고 했다.

그는 원인을 '생태학적 효과' 둘로 봤다. 첫째, 결과가 "관습적이고 위압적인 수학자의 문체"로 쓰였고, "고드비용–베이 불변량은 엽층의 나선형 흔들림을 잰다" 같은 수수께끼 같은 한 줄이 배경을 공유한 사람에게만 통했다. 진입 장벽이 높았다. 둘째, 남은 것이 없었다. "사람들은 지식보다 개인적인 이해를 원한다. 그리고 우리의 공로 중심 체계에서는 정리라는 공로도 원하고 필요로 한다."

재프와 퀸이 말한 '죽은 영역'과 같은 현상이다. 그런데 원인 진단이 정반대다. 재프와 퀸은 증명 없는 사변이 분야를 죽인다고 했다. 서스턴의 엽층 이론은 너무 완벽하게 증명돼서 죽었다. 남은 문제도, 소화할 거리도, 자기 공로로 삼을 몫도 없었기 때문이다.

3-5. 기하화 — 의식적으로 증명 대신 기반을 깔다

이 경험이 기하화 작업의 방식을 바꿨다. 서스턴은 1970년대 후반 3차원 다양체의 기하화 추측을 세우고, 2~3년 뒤 하켄 다양체에 대해 기하화 정리를 증명했다. 그는 자신에게 '증명했다'의 뜻을 이렇게 밝혔다. 세부까지 포함한 명료하고 완전한 아이디어의 흐름이 있었고, 그것이 자신과 다른 사람들의 많은 검토를 견뎠다. "내 방식은 단지 힌트나 영감에 불과한 넓고 부주의한 일반화를 하는 것이 아니다. 나는 명료한 심적 모형을 만들고 끝까지 생각한다." 재프–퀸의 "아름답지만 불충분한 힌트"에 대한 정면 반박이다.

그러면서 그는 의식적인 선택을 했다. 대학원 강의와 함께 3차원 다양체의 기하와 위상에 관한 노트를 쓰기 시작했고, 그 노트를 몇 달마다 보내는 우편 목록은 약 1,200명으로 늘었다. 받은 피드백은 이런 것이었다. "노트가 정말 영감을 주고 아름답지만, 솔직히 우리 세미나는 §n.n의 세부를 채우는 데 3주를 썼다. 설명이 더 있으면 좋겠다." 1980년 보든 대학의 여름 워크숍에서 그는 "증명이 청중에 얼마나 의존하는지"를 깨달았다. 위상수학자에게는 2분이면 전달되는 부분이 해석학자에게는 1시간 강의가 필요했다.

엽층에서의 경험에 대한 반작용으로, 그리고 사회적 압력에 응해, 나는 쓰고 말하는 데서 대부분의 주의를 기반(infrastructure)을 발전시키고 제시하는 데 쏟았다. (…) 정의와 생각하는 방식을 설명하고 출판하는 데 집중하고, 내가 증명할 줄 아는 모든 '정리'의 증명을 진술하거나 출판하는 데는 느렸기 때문에, 다른 많은 사람이 공로를 가져갈 여지를 남겼다.

그리고 결론을 내렸다. "수학자들이 나에게서 가장 원하고 필요로 한 것은 내 생각하는 방식을 배우는 것이었지, 하켄 다양체에 대한 기하화 추측의 내 증명을 배우는 것이 아니었다."

결과는 어땠나. 1986년 Annals에 1부가 나왔다. 2부와 3부는 1998년 1월에야 arXiv에 올라왔고, 3부의 초록에는 "1986년 프리프린트를 조금 고친 것"이라고 적혀 있다. 그사이 오탈(1996)과 카포비치(2001) 등이 증명을 따로 출판했다. 서스턴은 1994년에 일반 기하화 추측은 "아직 추측"이라며 "너무 많은 해가 지나기 전에" 증명되기를 바란다고 썼다. 9년 뒤인 2002~2003년 페렐만이 arXiv에 올린 세 편이 그것을 이뤘다. 도구는 해밀턴의 리치 흐름이었지만, 목표와 지도는 서스턴이 깔아 둔 여덟 가지 기하의 틀이었다.

3-6. 재프와 퀸의 재반박

재프와 퀸은 같은 호의 재반박(1993년 12월에 썼다)에서 서스턴의 글을 "극도로 사려 깊은 응답"이라고 불렀다. 그러면서도 그가 "공들여 다듬은 질문들"이 논의를 자기들의 관심사에서 비껴가게 했다고 지적했다. 그들의 반론은 세 가지였다.

• 교사의 이해와 연구자의 숙련은 다르다. "전통적인 논문은 그의 말대로 주제를 소개하는 데는 형편없는 방법이지만, 숙련에 최종적인 날을 세워 주는 숫돌이다."
• 천재를 일반화하지 말라. "서스턴 자신은 비공식적 경로로 만족스러운 이해를 얻을 수 있겠지만, 그는 비범한 힘을 가진 수학자이고 자기 경험을 다른 사람들의 필요로 외삽하는 데 매우 조심해야 한다." 그들은 이것을 나무에 빗댔다. 나무에서 살아 있는 것은 잎과 줄기를 감싼 얇은 층뿐이고, 나무는 출판된 '죽은' 목재가 떠받친다. 목재가 되기 전에 재료가 정말 튼튼해야 한다. 썩은 목재가 너무 많으면 가지가 부러진다. 소수의 엘리트는 새 작업을 스스로 평가하고 오류와 쭉정이를 걸러 내지만 "나머지 모두는 불리하다."
• 와일즈. 1993년 12월 현재 와일즈 증명의 세부는 "여전히 결론이 나지 않았다." "어쨌든 쓰인 문서가 정말로 일차적이다." (와일즈의 증명에는 실제로 틈이 발견됐고, 1994년 9월 테일러와 함께 고쳐 1995년 Annals에 실렸다.)

그래도 마지막에는 공통점을 찾았다. 이론 수학자는 "팀의 일부이지 쇼의 전부가 아님"을 알고 공로를 나눌 줄 알아야 한다는 것, 그리고 서스턴의 결론이 연구가 아니라 교육에 한정된다면 자기들 주장과 "상보적이고 양립한다"는 것이다.

3-7. 이 논쟁에서 무엇을 가져갈까

1993~94년 논쟁의 축은 '사변 대 엄밀'이었다. 재프와 퀸은 이 축 위에서 라벨과 공로 규칙을 정하자고 했고, 서스턴은 축 자체를 거부했다. 수학의 생산물은 정리가 아니라 이해이고, 이해는 그 축 위에 놓이지 않는다는 것이다. 그가 2010년 MathOverflow에 남긴 답변이 그 요약이다. "수학의 생산물은 명료함과 이해다. 정리 자체가 아니다."

2026년에 이 논쟁을 다시 읽으면 축이 하나 더 보인다. 재프와 퀸이 걱정한 '증명 없는 사변'의 자리에, 이제 '이해 없는 증명' 이 들어왔다. 기계가 만들고 Lean이 검증한 증명은 재프와 퀸의 기준을 완벽하게 통과한다. 그런데 서스턴의 기준, 곧 누군가의 이해를 진전시켰는가에서는 2편에서 본 대로 'open (Lean)'이다. 두 사람의 축은 서로 직교했고, 2026년의 문제는 그 직교하는 축의 반대쪽 끝에 있다.

4장. 2000년, 고워스의 「수학의 두 문화」

4-1. 스노의 두 문화에서 출발하다

크게 보기 티머시 고워스, 2011년. 사진: Gert-Martin Greuel, Oberwolfach Photo Collection, Wikimedia Commons, CC BY-SA 2.0 de.

재프–퀸 논쟁의 축이 '사변 대 엄밀'이었다면, 6년 뒤 다른 축이 나왔다. 1998년 필즈상을 받은 케임브리지의 티머시 고워스(Timothy Gowers)가 미국수학회의 밀레니엄 책 『수학: 프런티어와 전망』(2000)에 실은 에세이 「수학의 두 문화(The Two Cultures of Mathematics)」다.

제목은 영국의 물리학자이자 소설가 C. P. 스노가 1959년 케임브리지 리드 강연에서 쓴 「두 문화」에서 따왔다. 스노는 인문학과 과학 사이의 단절을 비판하며 유명한 장면을 남겼다. 교양 있다는 사람들이 과학자들의 무식을 비웃는 자리에서 그가 "열역학 제2법칙을 설명할 수 있는 분이 몇이나 됩니까?"라고 묻자 반응이 싸늘했다는 것이다. 그것은 과학 쪽에서 "셰익스피어 작품을 읽어 보셨습니까?"에 해당하는 질문이었다. 고워스는 순수수학 안에서도 비슷한 사회학적 현상이 보인다고 했다.

내가 말하려는 '두 문화'는 직업 수학자라면 누구에게나 익숙할 것이다. 대략 말해, 자신의 중심 목표를 문제를 푸는 것으로 여기는 수학자와, 이론을 짓고 이해하는 것에 더 관심이 있는 수학자의 구별이다.

어느 쪽인지 모르겠다면 두 문장을 비교해 보라고 했다.

대부분의 수학자는 둘 다 맞다고 하겠지만, 두 문장에 똑같이 강하게 동의하지는 않는다. 고워스는 극단의 예를 둘 들었다. 한쪽은 마이클 아티야다. 1984년 인터뷰에서 문제를 어떻게 고르느냐는 질문에 아티야는 질문 자체가 답을 전제한다며 이렇게 답했다. "나는 수학의 물속을 그냥 돌아다닌다. 생각하고, 궁금해하고, 사람들과 이야기하고, 아이디어를 휘젓는다. 그러면 무언가가 떠오르고 나는 그걸 따라간다. (…) 수학을 이해한다는 목표 말고는 특정한 목표를 가지고 시작한 적이 없다." 다른 쪽은 에르되시다. 엄청난 수의 매혹적인 문제와 그 해답을 세상에 남겼지만, 이론의 발전과는 그만큼 연결되지 않는 사람이다.

고워스는 분명히 해 두었다. 이 분류는 수학자의 우선순위에 대한 것이지, 누가 한 종류의 활동만 한다는 "터무니없는 주장"이 아니다. 그리고 수학에 두 종류의 수학자가 모두 필요하다는 것은 자명하다고 했다.

4-2. 비대칭 — 이론 쪽이 '중심'이다?

스노가 지적한 비대칭이 수학 안에도 있다는 것이 고워스의 진단이다. 지금은 이론 건설자가 좋아하는 분야가 훨씬 유행하고, 그 분야 수학자들은 자기 일을 수학의 "중심 핵(central core)"으로 여긴다(아티야가 정확히 이 말을 쓴다). 조합론 같은 분야는 주변부로 본다. 그는 스노의 장면을 수학으로 옮겼다. 고학력 수학자들이 모여, 양자군·거울 대칭·칼라비–야우 다양체·양–밀스 방정식은커녕 코호몰로지에 대해서도 할 말이 없는 조합론자들의 무지를 비웃는 장면이다. 그때 조합론자가 "{1, 2, …, n}의 부분집합을, 어느 둘의 대칭차도 크기가 n/3 이상이 되게 대략 몇 개나 고를 수 있습니까?"라고 물으면 반응은 "조금 싸늘할" 것이다. 그런데 이 문제는 적절한 기법을 아느냐 모르느냐에 따라 아주 쉽거나 불가능하다. 그 기법은 집합을 무작위로 고르는 것이고, 답은 어떤 상수 c > 0에 대해 e^(cn) 정도다.

왜 문제 해결 분야는 낮게 평가받는가? 고워스는 아티야의 논리를 빌려 왔다. 수학은 너무 많이 생산돼서 전부 기억될 수 없다. 그래서 추상화와 일반화가 중요하다. 개별 정리의 증명이라는 거대한 날것의 데이터를 정리해 다음 세대에 전할 수 있게 해 주기 때문이다. 오래 남는 결과는 일관되게 조직되고 경제적으로 설명될 수 있는 것들이다. 아주 유명한 문제를 푼 결과도 조직하는 틀에 들어맞지 않으면 소수만 자세히 공부할 것이다. 이 기준에서 조합론은 고립된 문제와 결과의 모음처럼 보여 불리하다.

이 문단을 2026년에 읽으면 2편의 소화 이야기와 겹친다. 조직되지 않은 결과는 전해지지 않는다. 기계가 고립된 결과를 하룻밤에 수백 개 내놓는 시대에는 더욱 그렇다.

4-3. 정리가 아니라 원리

고워스의 반론이 이 에세이의 핵심이다. 조합론에도 구조가 있다. 다만 그 조직 원리가 덜 명시적일 뿐이다.

조합론의 중요한 아이디어는 보통 정확히 진술된 정리의 형태로 나타나지 않고, 더 자주 폭넓게 적용되는 일반 원리로 나타난다.

예가 에르되시의 1947년 결과다. 완전그래프의 간선을 빨강과 파랑으로 칠할 때 반드시 한 색의 k개 꼭짓점 완전그래프가 생기게 하려면 꼭짓점이 몇 개 필요한가(램지 수 R(k)). 에르되시는 영리한 색칠을 만드는 대신 동전을 던져 무작위로 칠했다. 한 색 K_k의 기댓값이 1보다 작으면 그런 것이 하나도 없는 색칠이 반드시 존재한다. 계산하면 N = 2^(k/2)에서 기댓값이 1 아래로 내려간다. 그래서 R(k) ≥ 2^(k/2)다.

고워스는 이 결과가 유명한 이유를 이렇게 썼다. 응용이 많아서도, 어려워서도, 오래된 문제를 풀어서도 아니다. 확률적 논증의 수문을 열었기 때문이다. 이 짧은 논증을 이해하면 머릿속에 원리 하나가 자리 잡는다.

어떤 제약 아래 구조의 크기를 최대로 하려는데, 그 제약이 극단적인 예들을 고르게 퍼뜨리도록 강제하는 것 같다면, 예를 무작위로 고르는 것이 좋은 답을 줄 가능성이 크다.

"이 원리를 알게 되는 순간 당신의 수학적 힘은 곧바로 커진다." 앞의 부분집합 문제가 불가능에서 거의 자명한 문제로 바뀐다. 아래 위젯에서 직접 동전을 던져 보자.

고워스는 이런 원리를 몇 개 더 적었다. 거의 독립인 사건들은 함께 일어날 확률이 0이 아니다(로바스 국소 보조정리). 모든 그래프는 기본적으로 무작위처럼 행동하는 몇 조각으로 이뤄진다(세메레디의 정칙성 보조정리). 어떤 집합 안에서 선형방정식의 해를 세려면 그 집합의 특성함수의 푸리에 계수를 추정하면 충분하다. 무작위 그래프의 여러 성질은 서로 동치이므로 '유사 무작위'의 정의로 쓸 수 있다. 측도 집중, 곧 작은 변수 여러 개에 연속적으로 의존하는 함수는 거의 항상 기댓값 근처에 있다.

크게 보기

그리고 결론을 내렸다. 이런 원리들은 이론적인 분야에서 깊고 일반적인 정리가 하는 조직의 역할을 조합론에서 한다. 결과를 두세 개의 주요 아이디어로 줄일 수 있으면 세부를 일일이 따라갈 필요가 없다. 그는 에르되시의 증명을 이렇게 외운다고 했다. "색칠을 무작위로 고르고 뻔한 계산을 하라." 깊이에 대해서도 같은 논리를 폈다. 이론 건설자는 정리 A가 깊은 이유를 B를 쓰고 B는 C를 쓰는 긴 논리적 의존의 사슬에서 찾는다. 문제 해결자의 결과에는 그런 형식적 의존이 없을 수 있다. 하지만 원리에 기반한 의존을 보면 그림이 달라진다. 형식적으로는 무관하지만 한쪽 증명에서 도입된 원리를 몰랐다면 다른 쪽은 증명될 가망이 없었던 사슬이 길게 이어진다.

4-4. 고워스가 원한 것 — 문화 사이의 협업

에세이의 끝은 화해 제안이다. 고워스는 두 문화의 소통 부족이 가져오는 가장 큰 손해가 놓친 기회라고 했다. 이론 쪽 수학자들은 가끔 어떤 문제를 알려진 모든 도구로 공격했는데 "본질적으로 조합론"인 고집스러운 핵이 남는다고 불평한다. 문제 해결형 수학자를 끌어당기는 바로 그런 종류의 어려움이다. 그런 상황은 문화 사이의 협업을 위해 맞춤으로 만들어진 것인데, 그러려면 문제 해결자는 이론을 조금 배우는 노력을, 이론가는 코호몰로지를 모르는 수학자에게 더 많은 공감을 보여야 한다. "그런 노력은 두 수학 문화 모두를 풍요롭게 하지 않을 수 없다."

5장. 차오르는 바다와 새와 개구리 — 다른 두 은유

5-1. 그로텐디크 — 망치와 끌, 그리고 바다

크게 보기 알렉산더 그로텐디크(1928~2014), 1970년. 사진: Konrad Jacobs, Oberwolfach Photo Collection, Wikimedia Commons, CC BY-SA 2.0 de.

이론 건설 문화의 상징을 하나 꼽으라면 알렉산더 그로텐디크다. 그는 1980년대에 쓴 회고록 『거둠과 뿌림(Récoltes et Semailles)』에서 수학의 두 방식을 호두 까기에 빗댔다. 이 원고는 오랫동안 복사본으로만 돌다가 2022년 1월 프랑스 갈리마르 출판사에서 정식으로 나왔다. 아래는 철학자 콜린 매클라티가 2003년 논문 「차오르는 바다」에서 옮긴 영어 번역을 우리말로 다시 옮긴 것이다.

첫째 방식은 망치와 끌이다. 증명할 정리를 껍데기에 싸인 호두로 생각하면, 끌의 날을 껍데기에 대고 세게 내리친다. 필요하면 여러 곳에서 다시 시작해 껍데기가 깨질 때까지 친다. 둘째 방식에 대해 그는 이렇게 썼다.

같은 호두 비유로 두 번째 접근을 보여 줄 수 있다. 처음 떠오른 비유는 호두를 무언가 부드럽게 하는 액체, 그냥 물이라도 좋다, 거기에 담가 두는 것이다. 이따금 문질러 액체가 더 잘 스며들게 하고, 나머지는 그냥 시간이 흐르게 둔다. 몇 주, 몇 달에 걸쳐 껍데기는 유연해진다. 때가 되면 손으로 눌러도 충분하다. 껍데기는 잘 익은 아보카도처럼 열린다!

몇 주 전에 다른 이미지가 떠올랐다. 알아내야 할 미지의 것은 꿰뚫리기를 거부하는 땅이나 단단한 이회암처럼 보였다. (…) 바다는 소리 없이 눈치채지 못하게 다가온다. 아무 일도 일어나지 않는 것 같고, 아무것도 움직이지 않으며, 물은 너무 멀어 소리도 거의 들리지 않는다. (…) 그러나 바다는 마침내 그 완강한 물질을 둘러싼다.

크게 보기

이 '차오르는 바다'에서 정리는 "원래 세우려던 결과를 훨씬 넘어서는, 다소 방대한 이론 속에 잠기고 녹아 버린다." 1960년대에 그로텐디크와 동료들이 그런 식으로 수천 쪽의 이론을 쌓았다. 그 위에서 들리뉴가 1974년 베유 추측의 마지막 부분을 증명했다. 들리뉴는 그로텐디크다운 증명을 "아무 일도 일어나지 않는 것 같은 사소한 단계들이 길게 이어지는데, 끝에 가면 매우 비자명한 정리가 거기 있다"고 묘사했다.

고워스의 두 문화에 겹쳐 보면 이렇다. 망치와 끌은 문제 해결자의 방식이고, 차오르는 바다는 이론 건설자의 방식이다. 다만 그로텐디크에게도 목표는 호두, 곧 특정한 정리였다. 바다는 호두를 여는 다른 방법이었다.

5-2. 다이슨 — 새와 개구리

물리학자 프리먼 다이슨은 2009년 미국수학회 Notices 2월호에 실린 아인슈타인 강연 원고 「새와 개구리」를 이렇게 시작했다.

어떤 수학자는 새이고 어떤 수학자는 개구리다. 새는 하늘 높이 날며 지평선까지 펼쳐진 수학의 넓은 풍경을 내려다본다. 그들은 우리의 생각을 통일하고 풍경의 서로 다른 부분에서 온 다양한 문제를 한데 모으는 개념을 즐긴다. 개구리는 아래 진흙 속에 살며 가까이 핀 꽃만 본다. 그들은 특정한 대상의 세부를 즐기고, 문제를 하나씩 푼다. 나는 개구리이지만 내 가장 좋은 친구들 중 많은 이가 새다. (…) 새가 더 멀리 본다고 개구리보다 낫다거나, 개구리가 더 깊이 본다고 새보다 낫다고 주장하는 것은 어리석다.

크게 보기

세 은유를 나란히 놓아 보자.

다섯 사람의 축은 서로 다르다. 그런데 이 분류들에는 공통된 가정이 하나 숨어 있었다. 어떤 방식으로든 일하는 주체는 사람이다. 문제를 푸는 사람은 푸는 과정에서 원리를 익히고, 이론을 짓는 사람은 짓는 과정에서 문제를 만난다. 지먼의 말대로 "최고의 수학자들은 언제나 둘 다" 했다. 2026년에 달라진 것은 문제를 푸는 주체 중 하나가 사람이 아니게 됐다는 점이다.

6장. 직접 재다 — 기계는 어느 문화에 서 있나

6-1. 무엇을, 어떻게 쟀나

고워스의 구분을 2026년에 적용하면 자연스러운 질문이 나온다. AI가 내놓는 수학은 어느 문화에 속하나? 직관적으로는 문제 해결 쪽일 것 같다. 에르되시 문제, 이름 붙은 추측, 상한과 하한의 개선. 그런데 직관이 맞는지, 얼마나 기울었는지는 재 봐야 안다. 그래서 세 묶음의 초록을 같은 잣대로 분류했다.

판정은 Claude Sonnet 5.5가 맡았다. 판정 모델은 제목과 초록만 보고, 그 글이 AI가 쓴 것인지 사람이 쓴 것인지 모른다. 판정 항목은 넷이다.

• 문화 점수: 1(순수 문제 해결: 특정 문제나 추측을 풀고, 한계를 개선하고, 반례를 만드는 것이 주된 기여) ~ 5(순수 이론 건설: 새 틀, 정의, 일반 이론, 구조적 이해, 통합적 관점이 주된 기여). 1~2는 문제 해결, 3은 둘 다, 4~5는 이론 건설로 묶었다.
• 난제 겨냥: 이름 있는 미해결 문제나 추측을 풀거나 진전시키는가
• 새 개념: 이 문제를 넘어 다시 쓸 수 있는 새 정의·개념·방법을 내놓는가
• 엄밀성(재프–퀸의 축): 완전히 증명됐는가, 일부가 추측이나 수치에 기대는가

Claude Opus 5.5가 무작위 30%(513편)를 따로 판정했다. 두 판정의 문화 분류는 88.1% 일치했다(코헨 카파 0.68). 원래는 Gemini 3.5 Flash를 두 번째 판정자로 쓰려 했지만 게이트웨이의 선불 크레딧이 바닥나 같은 회사 모델로 바꿨다. 두 판정자가 공유하는 편향이 있다면 이 일치도로는 드러나지 않는다. 호출은 모두 약 2,300회였다.

6-2. 결과 — 96.7% 대 64.9% 대 55.0%

괄호는 부트스트랩 95% 신뢰구간.

차이는 컸다. AI 원고 719편 중 이론 건설로 분류된 것은 4편(0.6%)이고, 점수 5는 한 편도 없었다. 사람 논문은 2026년에도 15%가 이론 건설이었다. AI 원고의 90%가 이름 있는 난제를 겨냥했고, 다시 쓸 새 개념을 내놓은 것은 13%였다. 사람 논문은 세 편 중 한 편 남짓이 난제를 겨냥했고, 43%가 새 개념을 내놓았다. 재프와 퀸이 걱정한 '추측에 기댄 결과'는 AI 원고에서 0.3%로 가장 적었다. AI 수학은 재프와 퀸의 축에서는 가장 엄밀하고, 고워스의 축에서는 가장 한쪽으로 쏠려 있다.

분야를 나눠 봐도 같았다. AI 원고가 5편 이상인 모든 분야에서 AI의 평균 점수가 사람 두 묶음보다 낮았다. 예를 들어 대수기하(math.AG)는 AI 1.81, 사람 2026 2.62, 2019 2.90이었고, 표현론(math.RT)은 1.69, 3.15, 3.67이었다. 이론 건설 문화의 본거지로 꼽히는 분야에서도 AI 원고는 문제 해결 쪽에 있었다.

AI 쪽에서 가장 이론적으로 분류된 4편은 이것이다. 정점 연산자 대수와 등각 네트의 대응, 격자 인자의 안정적 복원을 위한 '산술 범주', 첨점 매개변수의 아서 향상, 약한 상호작용 아래 이징 상관함수의 등각 보편성. 연산자 대수, 표현론, 확률론이다.

아래 위젯에서 분야를 골라 직접 확인하고, 가장 이론적인 AI 원고와 가장 문제 해결적인 사람 논문 목록도 훑어볼 수 있다.

6-3. 믿어도 되나 — 견고성 점검

이런 측정에는 함정이 많다. 하나씩 확인했다.

• 초록 길이. 가장 큰 교란 요인이다. AI 원고의 초록은 훨씬 짧다(중앙값 398자 대 사람 802자, 602자). 짧은 초록은 "정리 하나 = 기여"로 읽히기 쉽고, 실제로 점수는 길이와 함께 올랐다. 사람 묶음을 AI의 길이 분포에 맞춰 재가중하면 2026년과의 차이는 0.81점에서 0.62점으로 줄었다. 그래도 남았다. 가장 짧은 구간(327자 미만)만 봐도 AI 1.32, 사람 2026 1.92, 2019 2.35였다.
• 분야 구성. 사람 묶음을 AI의 분야 분포로 재가중해도 평균은 2.39, 2.60으로 거의 움직이지 않았다.
• 강의록과 서베이. 사람 쪽의 강의록·서베이(7편, 6편)를 빼도 결과가 거의 같았다.
• 판정자. Opus는 Sonnet보다 전반적으로 조금 더 문제 해결 쪽으로 매겼다(AI 99.1%, 사람 2026 68.5%, 2019 58.8%). 순서는 같았다.
• 결과 묶음 단위. 같은 결과의 여러 판본이 원고 수를 부풀렸을 수 있다. 결과 묶음 372개를 하나씩만 세도 평균 1.44, 묶음의 95.7%가 전부 문제 해결형이었다.

6-4. 이 숫자가 말하지 않는 것

그래도 이 측정의 결론은 좁게 읽어야 한다.

1. 선택 편향. 무엇을 공개할지는 OpenAI가 골랐다. 이 묶음은 이름 붙은 추측을 풀었다는 쇼케이스 성격이 강하다. 그러니 이 결과는 "AI는 이론을 짓지 못한다"가 아니라 "2026년에 공개된 AI 수학은 문제 해결 문화에 몰려 있다" 까지만 말한다. 1편에서 본 MECA처럼 추측과 틀을 만들려는 연구용 시스템은 이 묶음에 없다.
2. 초록은 자기소개다. 판정은 저자가 초록에서 무엇을 내세웠는지에 대한 판정이다. 이론적 내용이 본문에 있어도 초록이 "~ 추측을 증명한다"로 시작하면 문제 해결로 읽힌다.
3. 비교군 오염. 2026년 사람 묶음에는 AI 사용을 밝히지 않은 논문이 섞여 있을 수 있다. 밝힌 16편은 따로 판정해 보니 전부 문제 해결형(평균 1.38)이었다. 오염이 있다면 차이를 줄이는 방향이다.

6-5. 덤으로 보인 것 — 사람도 움직였다

뜻밖의 결과가 하나 더 있었다. 사람의 수학도 2019년에서 2026년 사이 문제 해결 쪽으로 움직였다. 문제 해결 비율은 55.0%에서 64.9%로 9.9%포인트(95% 구간 3.4~16.3) 올랐다. 이름 있는 난제를 겨냥한 비율은 29.1%에서 41.8%로 12.7%포인트 올랐다. 새 개념을 도입한 비율은 43%로 그대로였다. 길이를 맞춰도 남았다.

원인은 이 자료로 가릴 수 없다. AI 보조를 밝히지 않은 논문이 섞였을 수도 있고, 초록을 "~의 추측을 해결한다"로 쓰는 관행이 늘었을 수도 있고, 단순한 표본 변동일 수도 있다. 다만 고워스가 2000년에 본 비대칭, 곧 이론 쪽이 유행하고 문제 해결 쪽이 주변부라던 풍경은 2026년 초록에서는 이미 뒤집혀 있었다. 기계가 문제 해결 문화에 몰려 들어오는 동안, 사람 쪽도 그 방향으로 걸어가고 있었는지 모른다.

7장. 1993년의 처방, 2026년에 되살아나다

7-1. 라벨 — 'open (Lean)'과 타오의 등급

재프와 퀸의 둘째 처방은 용어였다. 이론적인 결과에는 '정리' 대신 '추측', '증명' 대신 '뒷받침 논증'이라고 쓰자. 슈바르츠는 A~F 등급을, 톰은 요람·묘비·신전의 세 분류를, 허시는 "좋은 포도주처럼 출판된 수학에도 날짜를 붙이자"는 반농담을 내놨다. 1994년에는 아무도 이 라벨을 강제하지 않았다.

2026년에는 라벨이 다시 생겼다. 다만 방향이 뒤집혔다. 2편에서 본 대로 에르되시 문제 커뮤니티 데이터베이스는 7월 25일 상태를 비형식적 상태와 형식적 상태로 쪼갰고, 'open (Lean)'이라는 표시가 생겼다. 재프와 퀸이 걱정한 것은 증명 없는 주장이었다. 'open (Lean)'이 표시하는 것은 증명은 있는데 이해가 없는 상태다. 타오의 '3분의 1, 3분의 2짜리 해답'도 같은 종류의 등급이다. 1993년의 라벨이 "이것은 아직 확실하지 않다"를 알렸다면, 2026년의 라벨은 "이것은 확실하지만 아직 아무도 모른다"를 알린다.

7-2. 공로 — 증명한 사람에게서 설명한 사람에게로

재프와 퀸의 첫째 처방은 공로였다. 최종 결과에 대한 공로의 큰 몫은 이론가가 아니라 그것을 증명한 엄밀한 작업에 가야 한다. 서스턴은 정반대 경험을 내놨다. 그는 기하화 증명의 출판을 늦추고 기반을 설명하는 데 집중해, 다른 사람들이 공로를 가져갈 여지를 남겼다. 그리고 공로 중심 체계 자체가 진보를 해친다고 했다. "축구 팀의 선수를 그가 직접 골을 넣었는지만으로 평가하지 않는다. 우리는 팀이 팀으로서 하는 기능을 평가한다."

2026년의 제안은 서스턴 쪽으로 기울었다. 타오는 8월 우선권을 설명한 사람에게 주자고 했다. 결과를 공개 강연이나 해설로 명료하게 설명해 낸 날을 우선권 날짜로 삼자는 것이다. 에르되시 사이트를 만든 토머스 블룸은 10월 6일 사람이든 AI든 "공로를 주는 표현"을 쓰지 않겠다고 했다. 1993년에는 사변가와 증명자 사이에서 공로를 어떻게 나눌지가 문제였다. 2026년에는 증명을 만든 쪽이 공로를 받을 수 없는 기계라는 점이 문제다. 기계에게 공로를 줄 수 없으니, 남은 공로를 소화하고 설명한 사람에게 주자는 것이다.

7-3. 발표 — 게시판과 학술지

셋째 처방은 연구 발표를 게재 승인 뒤로 미루자는 것이었다. 1994년 허시는 연구 발표 폐지에 반대했고, 슈바르츠는 학술지가 결국 연구 발표와 리뷰만 싣게 될 것이라고 내다봤다. 둘 다 반만 맞았다. 학술지는 살아남았지만, 연구가 처음 세상에 나오는 곳은 arXiv라는 '게시판'이 됐다.

2026년의 게시판은 범람하고 있다. arXiv는 9월 월 제출 40,363건으로 역대 최고를 기록했고, 10월 1일부터 제출자당 월 2건이라는 제한을 시행했다. 에르되시 사이트는 증명 주장 게시를 동결했다. 블룸의 설명은 재프–퀸의 1993년 문장과 겹친다. 사이트와 공개적으로 상호작용하는 주된 방식이 AI 생성 증명을 광고하고 "(점점 무의미해지는) 우선권 주장을 기록하는" 것이 됐다는 것이다.

7-4. 그럼 누가 맞았나

1994년의 논쟁을 2026년에 다시 채점하면 묘한 결과가 나온다.

재프와 퀸은 위험의 방향을 틀렸지만 위험의 구조는 맞혔다. 신뢰할 수 없는 대량의 문헌, 아무도 치우지 않는 잔해, 공로 다툼, 오도되는 학생. 그들이 상상한 원인은 물리학자들의 사변이었다. 2026년의 원인은 그 반대편에서 왔다. 서스턴은 원인을 정확히 짚었다. 수학의 생산물이 이해라면, 이해를 동반하지 않은 정리는 아무리 확실해도 생산물이 아니다.

8장. 코어닷투데이의 정리 — 두 문화와 기계

8-1. 분류 퀴즈로 감 잡기

결론을 내리기 전에 직접 분류해 보자. 유명한 수학적 업적 열 개를 문제 해결과 이론 건설 중 어느 문화로 보낼지 골라 보면, 고워스가 왜 "우선순위의 문제"라고 했는지 실감할 수 있다.

8-2. 세 가지 결론

첫째, 지금 세상에 나온 기계의 수학은 문제 해결자 문화에 서 있다. 6장에서 공개된 AI 원고의 96.7%가 문제 해결형이었고 이론 건설형은 0.6%였다. 이것이 기계의 한계인지 공개하는 쪽의 선택인지는 아직 가릴 수 없지만, 이유를 짐작하기는 어렵지 않다. 문제 해결은 목표가 분명하고, 성공 여부를 검증할 수 있고, 벤치마크로 만들 수 있다. 에르되시 문제 목록은 기계에게 이상적인 과녁이다. 이론 건설은 무엇이 성공인지부터 흐릿하다. 1편에서 본 '좋은 질문 고르기'와 같은 이유로 자동화가 어렵다.

둘째, 그래서 이론 건설의 몫이 커진다. 고워스의 논리를 2026년에 적용하면 이렇다. 수학은 너무 많이 생산돼 전부 기억될 수 없고, 남는 것은 조직하는 틀에 들어간 결과다. 기계가 고립된 결과를 하룻밤에 수백 개 내놓는 시대에, 그 결과들을 몇 개의 원리와 틀로 엮는 일, 곧 고워스가 조합론의 '원리'라고 부른 것과 그로텐디크가 '차오르는 바다'라고 부른 것의 가치는 올라간다. #1196의 소화 논문이 GPT-5.4 Pro의 출력에서 '폰 망골트 사슬'이라는 방법을 뽑아낸 것이 바로 그 일이었다.

셋째, 서스턴의 기준은 사람에게만 적용된다. "수학의 생산물은 명료함과 이해다." 이 문장에서 이해의 주체는 사람이다. 기계가 증명을 아무리 많이 만들어도 이 생산물은 자동으로 늘지 않는다. 늘리는 방법은 서스턴이 기하화 때 한 것과 같다. 증명보다 생각하는 방식을 전하는 데 공을 들이는 것, 정의와 기반을 설명하는 것, 다른 사람이 들어와 자기 몫을 찾을 여지를 남기는 것이다.

크게 보기

1994년 서스턴의 결론을 2026년식으로 바꾸면 이렇다. 수학자들이 기계에게서 가장 원하고 필요로 하는 것은 기계가 푼 해답 자체가 아니다. 그 해답에서 배울 수 있는 생각하는 방식이다. 그리고 그것을 꺼내는 일은 아직 사람의 몫이다.

용어 사전

마치며 — 길은 누가 까나

크게 보기

1993년 재프와 퀸은 사변이 증명을 앞질러 가는 것을 걱정했다. 1994년 서스턴은 증명이 이해를 앞질러 가는 것을 걱정했다. 엽층 이론에서 그가 직접 겪은 일이었다. 2000년 고워스는 문제를 푸는 사람과 이론을 짓는 사람이 서로를 내려다보지 말고 함께 일하자고 했다.

2026년에 이 세 글을 다시 읽으면, 셋 모두 하나를 당연하게 여겼다는 것이 보인다. 문제를 푸는 일과 이론을 짓는 일은 같은 사람들 안에서 오갔다. 지먼의 말처럼 "최고의 수학자들은 언제나 둘 다" 했다. 문제를 풀다 원리를 익히고, 원리로 이론을 지었다. 에르되시의 무작위 색칠이 확률적 방법이라는 이론적 도구가 된 것처럼.

이제 문제를 푸는 일의 상당 부분을 사람이 아닌 존재가 한다. 그 존재가 내놓은 결과는 이 글의 측정에서 96.7%가 문제 해결형이었다. 그 결과가 원리와 이론으로 바뀌려면 누군가 그것을 소화하고, 조직하고, 다른 사람이 쓸 수 있는 형태로 깔아야 한다. 서스턴이 기하화 때 증명보다 기반을 택했던 것처럼. 에르되시 #1196의 소화 논문이 기계의 출력에서 '폰 망골트 사슬'이라는 방법을 꺼낸 것처럼.

웹툰의 마지막 칸이 이 글의 질문이다. 기계가 봉우리마다 깃발을 꽂는 동안, 봉우리 사이에 길은 누가 까나. 2026년 지금, 그 일은 여전히 사람의 몫이고 아마 더 귀해질 것이다.

다음 편에서는 같은 문제를 배우는 사람 쪽에서 본다. AI가 문제를 대신 풀어 주는 세상에서 학생은 무엇을 잃고 무엇을 얻는가. 체육관에 지게차를 들이면 근육은 어떻게 되는지, '바람직한 어려움'과 2025~2026년의 학습 실험들을 읽는다.

참고 자료

1993~94년 논쟁 원문 (모두 무료 열람, © AMS)

• A. Jaffe & F. Quinn, "'Theoretical mathematics': Toward a cultural synthesis of mathematics and theoretical physics", Bull. AMS 29(1) 1–13 (1993), arXiv math/9307227
• M. Atiyah, A. Borel, G. J. Chaitin, D. Friedan, J. Glimm, J. J. Gray, M. W. Hirsch, S. Mac Lane, B. B. Mandelbrot, D. Ruelle, A. Schwarz, K. Uhlenbeck, R. Thom, E. Witten, C. Zeeman, "Responses to 'Theoretical Mathematics'", Bull. AMS 30(2) 178–207 (1994), arXiv math/9404229
• A. Jaffe & F. Quinn, "Response to comments on 'Theoretical mathematics'", Bull. AMS 30(2) 208–211 (1994), arXiv math/9404231
• R. S. Palais, 편집자 칼럼, Bull. AMS 30(2) 159–160 (1994), arXiv math/9404233
• W. P. Thurston, "On proof and progress in mathematics", Bull. AMS 30(2) 161–177 (1994), arXiv math/9404236
• W. P. Thurston, MathOverflow 답변 "What's a mathematician to do?" (2010-10-30)
• F. Quinn, "A Revolution in Mathematics? What Really Happened a Century Ago and Why It Matters Today", Notices AMS 59(1) 31–37 (2012)

두 문화와 은유

• W. T. Gowers, "The Two Cultures of Mathematics", in Mathematics: Frontiers and Perspectives, AMS (2000)
• C. P. Snow, The Two Cultures, Rede Lecture (1959)
• F. Dyson, "Birds and Frogs", Notices AMS 56(2) (2009)
• A. Grothendieck, Récoltes et Semailles (1985~87 집필, Gallimard 2022)
• C. McLarty, "The Rising Sea: Grothendieck on simplicity and generality" (2003)
• P. Erdős, "Some remarks on the theory of graphs", Bull. AMS 53 (1947)

기하화의 뒷이야기

• W. P. Thurston, "Three dimensional manifolds, Kleinian groups and hyperbolic geometry", Bull. AMS 6(3) 357–381 (1982)
• W. P. Thurston, "Hyperbolic structures on 3-manifolds II, III", arXiv math/9801045, math/9801058 (1998)
• J.-P. Otal, Le théorème d'hyperbolisation pour les variétés fibrées de dimension 3, Astérisque 235 (1996)
• G. Perelman, arXiv math/0211159, math/0303109, math/0307245 (2002~2003)

2026년 맥락

• OpenAI, openai/math 저장소 (2026-10-06 공개)
• Proofs and Prompts, "100+ reactions to 100+ solutions" (2026-10-08~19)
• T. Tao, Mathstodon 게시물(2026-04~09)과 「Math 2.0」 강연 슬라이드(2026-10-09)
• teorth/erdosproblems 상태 분리(2026-07-25), erdosproblems.com "Changes"(2026-10-06)
• arXiv, "Updated rate limit policy" (2026-10-01)

이 글의 실측: AI 원고 719편(openai/math CONTENTS.md), arXiv 2026년 9월 사람 논문 593편과 2019년 9월 398편(arXiv API, 층화 무작위). 판정 Claude Sonnet 5.5(전체), Claude Opus 5.5(30% 교차), 2026년 10월 24일 실행. 약 2,300회 호출.

코어닷투데이 관련 글

• 기계가 질문을 만들 때 — '추측 기계' 50년사 (연작 1편)
• AI가 쓴 증명은 누가 소화하나 — 해설 실측 (연작 2편)
• 722편의 원고 — OpenAI의 수학 원고 저장소
• 수학자가 훨씬 더 많이 필요해질 것이다 — '이해'는 누가 하는가
• AI와 수학의 심각한 불일치 — 필즈상 수상자 25인
• 수학을 하기에 지금보다 좋은 때는 없었다 — 3Blue1Brown