AI와 수학의 심각한 불일치 — 필즈상 수상자 25인은 무엇을 두려워하는가: 등대, 파이프라인, 그리고 나비에–스토크스 88시간
2026년 9월 11일, 테런스 타오·페터 숄체·마리나 비아조우스카 등 필즈상 수상자 25명이 'AI와 수학의 심각한 불일치'라는 선언을 냈다. AI 기업이 유명 미해결 문제를 벤치마크 삼아 푸는 경쟁이 수학이라는 학문과 공동체에 해롭다는 것이다. 이 선언은 어디서 왔는가. OpenAI가 1만 개 에이전트로 88시간 만에 '풀었다'고 발표한 나비에–스토크스 문제, 그 직전에 같은 문제를 1년간 파던 두 수학자의 4쪽짜리 성명, '10년간 진전 없음'이라는 문구에 항의한 독일 수학자의 이메일, 타오가 ICM에서 그린 다섯 단계 파이프라인과 굿하트의 법칙까지 — 왜 '문제를 푸는 것'과 '수학을 하는 것'이 갈라졌는지를 논문·선언문·논쟁 100건을 읽고 인터랙티브와 함께 풀어본다.
2026년 9월 11일, 테런스 타오는 자기 블로그에 짧은 글을 올렸다. "필즈상 수상자 25명이 지난 한 주 동안 서로 논의한 끝에 아래 선언에 처음 서명한 사람 중 하나가 된 것이 자랑스럽다." 서명자 목록에는 피에르 들리뉴(1978), 사이먼 도널드슨(1986), 페터 숄체(2018), 마리나 비아조우스카(2022), 그리고 두 달 전 상을 받은 덩위(2026)까지 반세기의 수상자가 나란히 있다.
선언문의 제목은 「A Severe Misalignment of AI in Mathematics」. 첫 문단이 결론을 다 말한다.
"지난 몇 달 동안 LLM의 수학 능력은 극적으로 향상되어, 수학의 여러 분야에서 주요 미해결 문제를 풀 수 있는 수준에 이르렀다. 그러나 AI 기업들이 수학 문제 해결을 벤치마크로 삼아 밀어붙이는 것은 수학이라는 과학과 수학 공동체에 해롭다. AI 기업의 목표와 수학 공동체의 목표는 심각하게 어긋나 있다(severely misaligned)."
'정렬(alignment)'은 원래 AI 안전 분야의 용어다. AI의 목표가 인간의 의도와 맞는가. 이 선언은 그 단어를 뒤집어 쓴다. AI를 만드는 기업의 목표가 그 AI가 풀고 있는 학문의 목표와 맞지 않는다는 것이다. 그리고 선언은 이것이 수학만의 문제가 아니라 "다른 과학·창작 직업, 그리고 사회 전체에 영향을 미치는 더 넓은 정렬 문제의 일부"라고 말한다.
이 글은 그 넉 달을 재구성한다. 무엇이 일어났는지(1장), 선언문이 정확히 무엇을 말하는지(2장), 이 개념이 어디서 왔는지 — 1994년 서스턴의 에세이와 굿하트의 법칙, 타오의 ICM 강연(3장), 가장 큰 사건인 나비에–스토크스 88시간과 그 아키텍처(4장), 비소픽 군·호지 추측·매스어톤의 세 사례(5장), 반론(6장), 그리고 2026년에 이 기술이 놓인 자리(7장).
▲ 필즈 메달 앞면. 아르키메데스의 두상과 "자신을 넘어서, 세계를 붙잡으라(Transire suum pectus mundoque potiri)"는 명문. 4년에 한 번, 40세 미만 수학자에게 최대 네 명까지 수여된다. 이번 선언에는 1978년부터 2026년까지의 수상자 25명이 서명했다. (사진: Stefan Zachow / IMU, 퍼블릭 도메인, Wikimedia Commons)
제1장: 무슨 일이 있었나 — 넉 달의 연대기
선언은 갑자기 나온 것이 아니다. 2026년 5월부터 9월까지, AI가 수학의 '큰 문제'를 하나씩 쓰러뜨리는 동안 수학자들의 감정은 경탄에서 불안으로, 불안에서 분노로 옮겨갔다. 아래 타임라인의 점을 눌러 보라.
요약하면 이렇다.
5월
경탄. OpenAI의 범용 추론 모델이 80년 된 에르되시 단위거리 추측을 반증했다. 수학자 9명이 검증·번역 논문을 함께 냈다. "중심적인 미해결 문제가 AI에 의해 자율적으로 풀린 첫 사례." 반응은 대체로 긍정적이었다 — 다만 방법·데이터·계산 자원이 공개되지 않았다는 비판이 있었다.
6월
규범의 첫 시도. 라이덴 선언. 2025년 9월 로렌츠 센터 워크숍에서 출발한 16인 작업반이 23개 권고를 냈고 국제수학연맹(IMU)이 지지했다. 첫날 1,000명 서명. 『네이처』 사설이 지지.
7월
가속. Anthropic 수학자 레벤트 알푀게가 Claude Fable 5로 87년 된 야코비안 추측의 반례를 찾아 X에 올렸다 — 게시물 하나에 들어갈 만큼 짧은 다항식. 타오는 ICM 강연에서 "능력 논쟁을 멈추고 우리의 목표가 무엇인지 물을 때"라고 말했다.
8월
불안. OpenAI가 '10대 진전'을 발표했다 — 비소픽 군의 존재, 콘 강성 추측 반증 등 10개 결과, 각각 Lean 형식화. '10년간 진전 없음'이라는 문구가 2019년 논문을 핵심으로 쓴 것과 어긋나 항의 끝에 수정됐다. 같은 달 알푀게와 NYU의 트리스탄 버크마스터가 1년간 비밀리에 파던 오일러 방정식의 유한시간 폭발을 Lean으로 검증했다. 8월 31일 알푀게의 X 게시물 "Augustus Mirabilis(기적의 8월)"가 소문을 낳았다.
9월
충돌. 소문을 들은 OpenAI가 9월 1일 나비에–스토크스 캠페인을 시작했다. 9월 6일 통화, 9월 7일 자정 버크마스터의 4쪽 성명, 9월 8일 정오 OpenAI 발표. 9월 10일 칼텍 수학자들의 공개서한과 OpenAI의 매스어톤 후원 철회. 9월 11일 필즈상 25인 선언. 같은 날 타오 블로그에는 비소픽 군 이야기(안드레아스 톰)와 호지 추측 이야기(버트 토타로)가 초청 포스트로 올라왔다.
제2장: 선언문은 정확히 무엇을 말하는가
선언문은 짧다. 아홉 문단. 그러나 문단마다 수학자들이 수십 년 동안 말하지 않고 지켜 온 가치가 하나씩 들어 있다. 전문을 옮기며 읽는다.
2.1 등대
"유명한 문제들은 종종 이정표이자 등대로서, 그것에 비추어 이 지형에 대한 이해가 얼마나 나아졌는지를 잴 수 있게 해 주었다. 그런 문제 하나를 푸는 것은 새로운 통찰과 흥미로운 방법의 확실한 신호였고, 그 통찰과 방법은 강연·토론·단순화라는 길고 고된 과정을 거쳐 수학자 공동체가 연구했다. 그 과정의 끝에서, 이상적으로는, 어떤 대학원생이나 학부생이라도 공부할 수 있는 교과서 서술을 얻게 된다. 어떤 수학적 아이디어는 그 여정을 더 이어가, 수십 년 혹은 수백 년 뒤에 온 인류가 이해하고 쓰는 도구가 된다."
여기가 선언의 핵심 은유다. 등대는 도착지가 아니라 측정 기준이다. 배가 등대에 닿는 것이 항해의 목적이 아니듯, 유명한 문제를 푸는 것이 수학의 목적이 아니다. 등대는 "우리가 얼마나 왔는가"를 알려 주기 위해 있다. 필즈상 수상자 위고 뒤미닐-코팽은 이것을 "위대한 추측을 벤치마크로 쓰는 것은 그것을 모독하는 일"이라고 표현했다.
2.2 가장 귀한 자원: 학생과 아이디어
"수학 공동체는 여러 면에서 인류의 축소판처럼 작동한다. … 우리 직업의 가장 귀한 자원은 학생과 아이디어이고, 우리는 이것을 큰 정성으로 기른다. 학생에게 우리는 연구와 그 밖의 진전에 잘 자리 잡을 수 있는 능력을 기르려는 핵심 의도로 문제를 제안한다. 아이디어는 강연과 사적인 토론과 정성 들인 글로 퍼뜨리며, 다른 사람들의 앞선 아이디어에 연결한다. 이 과정들은 예외 없이 시간이 걸리고 사람 사이의 상호작용에 기반한다."
타오가 Big Think 인터뷰에서 "씨앗 곡물(seed corn)"이라 부른 것이다. 대학원생에게 첫 프로젝트로 주는 훈련용 문제들 — 바로 그 급의 논문을 AI가 이제 만들어 낸다. "대학원생을 AI로 대체하면 대학원생 수준의 논문은 나오겠지만, 다음 세대의 학생은 나오지 않는다."
2.3 도구가 목적을 향해 돌아선다
"최근 몇 달 동안 AI가 주요 수학 문제를 푼 성공은 수학계 밖에서도 헤드라인이 됐다. 그러나 문제를 푸는 것은 개념적 이해와 통찰이라는 일차 목표를 위한 도구이자 대리지표일 뿐이다. AI의 세계에서 이것을 잊으면 도구가 일차 목표를 향해 돌아설 수 있다. 실제로, 점점 빨라지는 속도로 '참/거짓' 문장을 대량생산하는 것은 새 아이디어에 생명을 불어넣기는커녕 비옥한 땅을 파괴할 수 있다."
'대리지표(proxy)'라는 단어에 주목하자. 이것이 3장에서 볼 굿하트의 법칙의 언어다. 문제 해결 수는 이해의 좋은 대리지표였다 — 사람이 풀 때는. 사람은 문제를 풀려면 이해해야 했기 때문이다. AI가 이해 없이 풀 수 있게 되는 순간 대리지표와 목표는 갈라진다.
2.4 러시 발표, 표절, 그리고 끊기는 전달 사슬
"종종 이런 해법은 서둘러 발표되어, 제대로 된 글쓰기, 새 방법과 아이디어의 분리, 다른 이들의 관련 선행 연구 인용을 위한 시간을 남기지 않는다. 모든 창작 직업에서처럼 이것은 심각한 귀속(attribution)과 표절 문제를 제기한다. 더욱이, 그 발전과 수학 정전(canon)으로의 통합을 기꺼이 맡을 수학자들이 없다면, AI가 착상한 아이디어는 결코 온전히 살아나지 못하고 수학자들 사이의 결정적인 인간 전달 사슬이 끊길 것이다."
4장과 5장에서 볼 세 사건 — 나비에–스토크스 발표 초판에서 빠진 인용, '10년간 진전 없음'이라는 문구, 그리고 자기 결과를 설명하러 세미나에 올 사람이 없는 증명 — 이 이 문단의 각주다.
2.5 지적 노동 전체에 대한 위협
"우리는 지적 노동에 대한 일반적인 위협을 목격하고 있다 — AI 사용의 결과와 그 본래 목적 사이의 불일치. 많은 분야와 활동에서 여러 해의 훈련은 전통적으로 최종 답이나 제품을 만드는 것뿐 아니라, 이해와 새로운 질문·아이디어를 정식화하는 능력을 기르는 데 쓰였다. 그러나 방대한 선행 인간 작업 위에 세워진 AI 시스템은 점점 그 작업의 결과를 직접 산출할 수 있게 되고, 이 목표들은 정렬을 멈춘다. … 인류 전체가 마주할 문제: AI가 일하는 방식을 바꾸는 동안, 그 일이 애초에 무엇을 이루려 한 것이었는지를 잊지 않으려면 어떻게 해야 하는가."
2.6 결정은 인간의 것
"AI는 진정한 수학적 연구와 이해를 향상하고 가속할 잠재력을 제공한다. 직업으로서의 수학은 여러 방식으로 이 변화에 적응해야 할 것이다. 그러나 이 변화가 궁극적으로 분야에 이로울지 파괴적일지는 이 새 기술을 통제하는 인간들의 결정에 크게 달려 있다. 이 문제들은 수학 공동체 안에서, 이 기술을 개발하는 기업들에 의해, 그리고 더 넓게는 다른 많은 형태의 지적 노동에서 비슷한 문제를 마주할 사회에 의해 시급히 다루어져야 한다."
선언은 AI를 거부하지 않는다. "향상하고 가속할 잠재력"을 첫 문장에 둔다. 거부하는 것은 특정한 사용 방식 — 벤치마크 경쟁으로서의 문제 해결 — 이고, 책임을 묻는 대상은 기술이 아니라 기술을 통제하는 사람들의 결정이다.
제3장: 이 개념은 어디서 왔나 — 서스턴, 굿하트, 그리고 타오의 파이프라인
3.1 1994년: "우리는 정의·정리·증명의 생산 할당량을 맞추려는 것이 아니다"
타오의 블로그 헤더에는 윌리엄 서스턴의 사진이 걸려 있다. 3차원 다양체의 기하화 추측으로 1982년 필즈상을 받은 서스턴은 1994년 「On proof and progress in mathematics」라는 에세이를 썼다. 계기는 논쟁이었다. 아서 재프와 프랭크 퀸이 "엄밀한 증명 없이 결과를 발표하는 '이론적 수학'이 분야를 오염시킨다"고 비판하자, 서스턴은 자기 경험으로 답했다.
그는 엽층 이론(foliations)에서 강력한 결과를 잇달아 증명했을 때 무슨 일이 일어났는지 회고한다. 문제가 풀리자 사람들이 그 분야를 떠났다. 남은 문제가 없어 보였고, 서스턴의 방법을 이해하는 데 시간이 걸렸기 때문이다. 그는 이것을 뼈아프게 배웠고, 이후 기하화 추측에서는 증명을 발표하는 대신 몇 년에 걸쳐 강의 노트를 쓰고 사람들을 훈련시키는 방식을 택했다. 그의 결론이 타오의 ICM 에세이에 인용된 문장이다.
"우리는 정의·정리·증명의 어떤 추상적인 생산 할당량을 맞추려는 것이 아니다. 우리 성공의 척도는 우리가 하는 일이 사람들이 수학에 대해 더 명확하고 효과적으로 이해하고 생각할 수 있게 해 주는가이다."
이것이 선언문 2.3의 원형이다. 30년 전 서스턴이 '한 천재가 너무 빨리 풀어 버린 분야'에서 본 것을, 2026년의 수학자들은 '1만 개의 에이전트가 88시간 만에 풀어 버린 분야'에서 다시 보고 있다.
경제학자 찰스 굿하트가 1975년 영국 통화정책에 대해 한 관찰을 인류학자 메릴린 스트래선이 1997년 한 문장으로 만들었다. "측정이 목표가 되면, 그것은 좋은 측정이기를 그친다." 유명한 예가 식민지 인도의 코브라 현상금이다. 코브라를 줄이려 사체에 현상금을 걸자 사람들이 코브라를 길렀다. 현상금을 없애자 기르던 코브라를 풀어 놓았고, 코브라는 전보다 늘었다.
타오는 ICM 에세이에서 이 법칙이 AI에서 특히 잘 발동하는 두 가지 이유를 든다.
기술
생성형 AI는 본질적으로 '접지되지 않았다(ungrounded)'
"만족스러운 출력의 외양을 최적화하지, 그 출력이 가리켜야 할 기저 속성을 최적화하지 않는다. 그래서 측정과 측정 대상 사이의 틈을 찾는 데 유별나게 능하다." 정리를 증명했다는 사실(측정)과 그 정리를 이해했다는 것(대상) 사이의 틈이 그것이다.
경제
AI 산업의 금전적 유인은 '입증 가능하고 인용 가능하고 벤치마크 가능한' 성취를 보상한다
"정확히 우리가 역사적으로 대리지표로 써 온 종류의 지표에 대해서." 밀레니엄 문제는 이름값이 있고, 형식 검증은 즉시 확인되며, 보도자료에 담기 좋다.
결과
역사적으로 함께 움직이던 수학의 목표들이 갈라진다
문제 해결, 이론 구축, 공동체 유지, 다음 세대 훈련, 미적 가치 — 하나가 나아지면 다른 것도 나아졌기에 아무도 목록을 쓸 필요가 없었다. 과도한 최적화 아래서 이것들은 발산한다.
▲ 타오, 「Mathematics in the age of AI」 Figure 2. 가운데 '수학적 지식'에서 여덟 방향으로 화살표가 뻗는다 — 연구 문제 풀기, 에르되시 문제 풀기, 올림피아드 문제 풀기, 이론 구축, 지식 응용, 공동체 구축, 다음 세대 훈련, 미적 작품. 타오는 "물론 극도로 단순화된 그림이며 실제로는 훨씬 고차원"이라고 덧붙인다. (출처: arXiv:2608.16753)
3.3 타오의 ICM 강연: 능력이 아니라 가치의 위기
2026년 7월 국제수학자대회(ICM) 공개 강연에서 타오는 논쟁의 축을 바꿨다. 지금까지 AI와 수학 논쟁의 대부분은 "AI가 무엇을 할 수 있는가"였다. 그는 그 질문을 조건부로 치워 둔다.
"AI 능력 추측(템플릿 형태). 가까운 미래의 어느 시점에, 어떤 AI 도구가, 어떤 비용으로, 어떤 수준의 인간 감독 아래, 수학의 어떤 분야에서 어떤 연구 수준의 과제를, 어떤 비자명한 성공률로, 어떤 수준의 정확성과 품질로 수행할 수 있을 것이다."
각 '어떤'을 어떻게 채우느냐에 따라 약한 추측과 강한 추측이 나온다. 타오는 독자에게 "합리적으로 강한 형태가 참이라고 가정하라"고 한 뒤 — 믿으라는 것도 원하라는 것도 아니다 — 직교하는 질문을 던진다. "그렇다면 우리 수학 공동체의 정확한 목표·목적·가치는 무엇인가? 대중과 학생과 재단에 말하는 명시적 목표가 아니라, 우리가 실제로 최적화하는 암묵적 목표는?"
그는 이것을 1900~1930년의 기초의 위기에 비유한다. 러셀의 역설과 괴델의 불완전성 정리가 수학자들에게 '집합이 무엇인가, 증명이 무엇인가'라는 암묵적 가정을 명시하도록 강제했듯, AI는 '기여가 무엇인가, 무엇을 보상하는가, 무엇을 이해된 것으로 치는가, 누가 — 혹은 무엇이 — 일을 했다고 볼 것인가'라는 가치와 관행의 암묵적 틀을 명시하도록 강제한다. 그리고 기초의 위기가 결국 더 튼튼한 수학을 낳았듯, 이 위기도 그럴 수 있다고.
AI 이전부터 부적절했다. 이 지표를 최적화하면 리만 가설의 틀린 증명이 대량 생산된다(수학자라면 누구나 받아 본 이메일).
6.2
…그리고 맞는지 검증한다
새 실패 모드: AI가 긴 증명을 만들고 형식 검증까지 됐는데 아무도 — 프롬프트를 쓴 사람조차 — 이해하지 못한다면? 에르되시 문제 데이터베이스에는 이미 수십 건의 AI 증명이 있고, 여러 건은 제출자 스스로 검증할 자격이 없다고 밝혔다.
6.3
…그리고 공동체가 이해할 수 있게 전달한다
AI 글쓰기는 문법은 완벽하지만 "사소한 것에 오래 머물고 가장 새로운 부분은 서둘러 지나가거나 가린다." 그리고 설명도 과최적화될 수 있다 — 아래 3.5절.
6.4
…그리고 공동체가 소화하고 수용한다
수용은 본성상 느리고 인간적이다. 편집자와 심사자의 무보수 노동이 개인의 성취를 집단의 진보로 바꾼다. AI 필터는 도울 수 있지만 대체할 수 없다.
6.5
…그리고 분야의 결정적 이론에 편입한다
정착(canonicalization): 결과를 자연스러운 일반성으로 다시 쓰고, 첫 증명이 아니라 옳은 증명을 주고, 이웃과 연결해 표준 도구에 흡수하는 것. 가장 느리고, AI 최적화에 가장 덜 맞고, 가장 가치 있는 단계. "AI 도구의 훈련 데이터는 문자 그대로 정착 과정의 산출물이다."
▲ 타오, Figure 4. "하나의 화살표로 시작한 것이 다섯 단계의 사슬이 되었고, 그중 첫 번째만이 공동체의 명시적 목표였다." (출처: arXiv:2608.16753)
그리고 결론. "작업 가설이 성립하면, 적절한 정책·문화 변화가 없는 한 파이프라인 전체에 '임피던스 불일치' — 덜 점잖은 은유로는 증명 소화불량 — 이 나타날 것이다." AI 증명은 검증보다 빨리 쌓이고, 검증된 증명은 글로 정리되는 것보다 빨리 쌓이고, 정리된 증명은 자원봉사 심사 체계를 압도하고, 출판된 증명도 결정적 형태로 다듬기엔 너무 많다. 증명 희소의 시대에서 증명 과잉의 시대로. 저널, 우선권 관행, 채용·승진 기준, 상, '연구 프로그램'이라는 개념 자체가 희소를 전제로 설계됐으니 과잉 아래서 오작동하는 것은 놀랍지 않다.
아래 시뮬레이터에서 앞 단계만 가속하면 어디에 대기가 쌓이는지, 그리고 '검증된 결과 중 읽을 수 있게 정리된 비율'이 어떻게 무너지는지 보라.
3.5 "읽기는 쉽고 배우기는 어렵다" — 과최적화된 설명
타오가 강조하는 덜 알려진 논점이 있다. 설명도 과최적화될 수 있다.
"사람이 쓴 증명에서, 저자가 어려워한 부분은 대개 자연스러운 마찰을 남긴다 — 변명하는 듯한 한마디, 유별나게 조심스러운 보조정리, 표기의 변경, 분명히 여러 번 고쳐 쓴 문단. 이 마찰은 정보다. 독자에게 어디서 속도를 늦추고 주의를 기울일지 알려 주고, 분야의 암묵지가 전달되는 주요 통로 중 하나다. 지나치게 AI로 다듬어진 증명은 '인공적' 마찰(오타, 어색한 문장, 산만함)과 함께 '자연스러운' 마찰까지 갈아 없애, 읽기는 쉽고 배우기는 어려운 글을 남긴다."
▲ 타오, Figure 3. "훨씬 젊고 (매우 좌절한) 내가 주석을 단 부르갱의 1991년 논문 한 쪽. 그러나 이 글들과 싸우며 나는 부르갱의 사고방식을 이해하게 됐고, 나중에는 그의 논문을 찾아 읽게 됐다." 여백에 'I hate Jean Bourgain'이라는 낙서가 보인다. (출처: arXiv:2608.16753)
이 논점은 수학은 언어다 시리즈에서 타오가 말한 '헬리콥터와 등산'의 정확한 텍스트 버전이다. 헬리콥터는 폭포에 데려다 주지만 길을 가르쳐 주지 않는다. 과최적화된 증명은 결론에 데려다 주지만 어디가 어려웠는지를 가르쳐 주지 않는다.
3.6 소거된 실패, 묻힌 체
타오는 선언 이전에 이미 여러 차례 반사실적 사고실험을 제시했다. 가장 자주 든 것이 소수 간격의 역사다. 2005년 골드스턴–핀츠–이을드름, 2013년 장이탕의 7,000만, 2013~14년 메이너드의 혁명적 체(sieve)와 폴리매스 8b의 246, 그 뒤 슈타들만. 만약 2005년에 벤치마크에 집중하는 AI 기업이 있었다면? "간격은 몇 주 안에 세 자릿수로 떨어졌을 것이고, 문제는 버려졌을 것이며, 메이너드의 체는 기계 산출물 속에 묻혔을 것이고, 분야는 수치상 진전에도 불구하고 수십 년의 수학적 발전을 잃었을 것이다."
나비에–스토크스도 마찬가지다. 그 문제의 가치는 "해가 존재하는가 아닌가"가 아니라 "왜 이 접근이 실패하는지를 발견하고 반복적으로 조정하는 과정"에 있다. "최종 해를 미리 알면 교훈적인 막다른 길들이 억제된다. 자율 하네스가 비밀리에 이 문제를 자율적으로 푼다면, 기술적으로는 풀렸지만 수학에는 거의 아무 가치도 더해지지 않을 것이다."
이것이 선언문의 '비옥한 땅'이다. 문제는 답을 얻는 것이 아니다. 답을 얻는 과정에서 나오는 부산물 — 방법, 반례, 막다른 길, 그것을 배운 학생 — 이 수학의 실제 산출물이고, 답만 먼저 도착하면 그 부산물이 나오지 않는다.
제4장: 나비에–스토크스 88시간 — 무엇을, 어떻게, 그리고 무슨 일이 있었나
선언의 직접적 방아쇠가 된 사건이다. 세 겹으로 본다. 문제 자체(4.1), OpenAI의 아키텍처와 증명(4.2~4.3), 그리고 논쟁(4.4~4.5).
▲ 2012년 4월 5일 NASA 테라 위성이 찍은 얀마옌 섬 하류의 카르만 소용돌이 열. 유체가 장애물을 지나며 만드는 이 규칙적 소용돌이는 나비에–스토크스 방정식이 기술하는 현상의 한 예다. (출처: NASA MODIS Rapid Response Team, 퍼블릭 도메인)
나비에–스토크스 방정식은 물과 공기의 흐름을 뉴턴의 제2법칙으로 쓴 것이다. 점성(마찰)이 있는 유체가 압력과 외력 아래 어떻게 움직이는지. 1934년 르레가 '약한 해'의 존재를 증명한 뒤 90년 동안 남은 질문은 이것이다. 매끄러운 초기 조건에서 출발한 3차원 흐름이 유한한 시간 안에 특이점 — 어떤 점에서 속도가 무한대가 되는 곳 — 을 만들 수 있는가? 물리적으로는 불가능해 보인다. 그러나 수학적으로 증명된 적이 없었다.
2000년 클레이 수학연구소가 100만 달러를 걸고, 찰스 페퍼먼이 공식 문제 진술을 썼다. 네 가지 중 하나를 증명하면 된다.
대안
주장
쉽게 말하면
(A)
ℝ³에서 존재와 매끄러움. 외력 0, 매끄러운 초기 속도 → 영원히 매끄러운 해 존재
"유체는 절대 폭발하지 않는다" (전 공간)
(B)
ℝ³/ℤ³(주기적 상자)에서 존재와 매끄러움
"유체는 절대 폭발하지 않는다" (주기 상자)
(C)
ℝ³에서 붕괴. 매끄러운 초기 속도와 매끄러운 외력이 있어, 유한 에너지의 매끄러운 해가 영원히 존재하지 않음
"적절히 밀어 주면 유체는 폭발한다" (전 공간)
(D)
ℝ³/ℤ³에서 붕괴
"적절히 밀어 주면 유체는 폭발한다" (주기 상자)
핵심 조건은 (C)·(D)의 '매끄러운 외력'이다. 아무 힘이나 허용하면 폭발을 만드는 것은 쉽다 — 힘 자체를 특이하게 주면 된다. 어려운 것은 모든 도함수가 유계인 얌전한 힘으로 유체가 스스로 무한대로 가속하게 만드는 것이다. 타오가 2016년에 보인 것은 '평균화된' 나비에–스토크스(원래 비선형 항의 에너지 상쇄는 유지하되 구조를 바꾼 방정식)의 폭발이었고, 2023~25년 마드리드의 디에고 코르도바와 루이스 마르티네스-소로아가 오일러 방정식(점성 0)과 '저(低)소산' 변형에서 특이점을 구성했다 — 그러나 힘이 매끄럽지 않거나 점성이 원래 문제와 달랐다.
4.2 두 갈래의 접근: 1년의 두 사람 vs 88시간의 1만 에이전트
알푀게–버크마스터
OpenAI
가네슈람–뒤뤼소–아난드쿠마르 (칼텍)
사람
2명 (NYU 교수 + Anthropic 수학자, 개인 연구)
OpenAI 연구팀 (세바스티앵 뷔베크 등), "인간 입력은 아주 적음"
3명
기간
1년 이상 (비밀리에). 2025년 대부분 진전 느림 → 2026년 8월 15일 돌파
9월 1일 시작 → 9월 8일 발표. 본 캠페인 88시간
수개월
AI 사용
Codex와 Claude 모델을 초안 작성·증명 탐색에 광범위하게 사용. 모든 초안을 Codex 세션에 넣음
미공개 내부 모델. 약 100개 에이전트 50시간(오일러) + 약 10,000개 에이전트 88시간(나비에–스토크스). 메시지 270만~500만 건, 출력 토큰 1,300억 개. 별도 모델이 17시간 Lean 형식화
물리 정보 신경망(PINN)으로 자기유사 특이점 후보를 수치적으로 탐색. LLM은 부적합하다고 판단
결과
IPM·2차원 부시네스크·3차원 오일러의 매끄러운 외력 하 유한시간 폭발. 8월 22일 Lean 검증. 나비에–스토크스는 미검증 초안 단계
나비에–스토크스 (C)·(D): 모든 점성 ν>0에서 정지 상태에서 출발, 콤팩트 지지 매끄러운 힘 아래 속도 무한대·에너지 유계. 166쪽 + Lean
외력 없는 ℝ³ 오일러의 수치적으로 안정한 자기유사 후보. 엄밀 증명은 미완
발표 방식
9월 7일 자정 직전 마스토돈 성명 + 세 논문(스스로 "AI 슬롭"이라 부른 초안 포함). 타오에게 30분 전화로 핵심 설명
9월 8일 정오 기자 통화와 블로그. 초판에 코르도바–마르티네스-소로아 인용 누락 → 개정판에 추가
OpenAI 아키텍처의 요점은 병렬 규모다. 코어닷투데이가 다룬 Anthropic의 페르마 형식화는 수십 개 에이전트가 11일 동안 Prove2Me의 공유 의존 그래프를 매개로 협업했다. OpenAI의 나비에–스토크스는 1만 개 에이전트가 88시간 동안 수백만 건의 메시지를 주고받았다. 두 프로젝트의 차이는 규모만이 아니다. 페르마는 이미 증명된 정리의 형식화였고 케빈 버저드의 검토와 저장소 공개, "재검사 전까지는 형식화됐다고 말하지 말자"는 에이전트 자신의 정직한 요약이 있었다. 나비에–스토크스는 미해결 문제의 해결 주장이었고, 기자 통화로 발표됐으며, 12시간 전 같은 문제를 파던 사람들의 성명과 충돌했다.
4.3 증명의 물리: 스파게티처럼 늘어나는 소용돌이
OpenAI 논문은 166쪽이지만 2절 '폭발의 물리적 기술'은 읽을 만하다. 핵심 아이디어는 세 겹이다.
▲ OpenAI, 「Finite time blowup for Navier–Stokes」 Figure 1. 특이 시각에 가까워지는 세 시점 t₁ < t₂ < t₃ < 1의 내부 코어. 유체가 안쪽으로 나선을 그리며 들어오고 z = 0 근처의 분리층 양쪽으로 축 방향으로 빠져나간다. 반지름이 높이보다 빨리 줄어 코어는 점점 가늘고 빠른 기둥이 된다. (출처: OpenAI, 2026-09-08)
①
자기유사 코어. 원점에서 t = 1에 특이점이 생기도록 소용돌이를 설계한다. 남은 시간 τ = 1 − t에 대해 반지름은 τ^(1/2), 높이는 τ^(1/2−h)로 줄어든다(h는 1/100보다 작은 고정 상수). 반지름이 높이보다 빨리 줄어 "점점 가늘어지는 기둥" — OpenAI는 "스파게티"라 불렀다. 안쪽으로 들어오는 유체는 각운동량 보존으로 회전이 빨라지고(피겨 스케이터가 팔을 모으듯), 비압축성 때문에 축 방향으로 빠져나간다. 속도는 τ^(−1/2−h)로 발산하지만 코어의 운동 에너지는 τ^(1/2−3h)로 0에 수렴한다. 회전 레이놀즈 수는 무한대로, 반지름 방향 레이놀즈 수는 유계로 — 점성이 계속 경쟁하는 미묘한 균형.
②
문제: 코어 바깥 고리에서 힘이 발산한다. 어떤 흐름이든 '외력'을 방정식의 잔차로 정의하면 방정식은 자동으로 성립한다. 어려운 것은 그 잔차가 매끄럽게 유지되도록 흐름을 고르는 것. 코어를 바깥의 얌전한 흐름에 이으면 그 사이 고리에서 운동량 불균형이 생기고, 그것을 메우는 외력은 t → 1에서 무한대가 된다. 이대로는 (C)를 만족하지 못한다.
③
해법: 진동 펄스가 스스로 힘을 공급한다. 반지름·높이·시간에 국소화되었지만 고리 전체를 도는 공간 진동 펄스들을 더한다. 지수적으로 작은 외력이 펄스를 씨 뿌리고, 배경 전단(shear)이 그것을 키운다. 펄스의 속도 성분은 각 방향 평균이 0이지만 운동량 플럭스는 0이 아니어서 — 바깥으로 나가는 유체가 회전 과잉을, 안으로 들어오는 유체가 회전 결핍을 실어 나르면 둘 다 바깥 방향 각운동량 플럭스를 키운다 — 이 내부 힘이 배경 잔차의 특이한 부분을 상쇄한다. 점점 미세한 공간·시간 스케일에 펄스를 배치하고 남은 오차를 고차 보정으로 제거하면, 힘은 t = 1을 지나 매끄럽게 연장된다.
▲ OpenAI, Figure 2. 왼쪽: 고정된 높이에서 펄스 포락선이 완전한 고리를 차지한다(확대: 반지름·각 방향 섭동 속도). 오른쪽: 반지름–축 단면, 국소 패치 하나하나가 고리의 단면이다. 두 색은 두 가족의 펄스. "배치는 도식적이며 위치·간격·비율은 예시"라고 논문은 밝힌다. (출처: OpenAI)
이 전략 — 다중 스케일의 진동 보정을 쌓아 올려 특이점을 만들되 힘은 매끄럽게 유지 — 은 코르도바–마르티네스-소로아의 프로그램이다. 알푀게–버크마스터도 같은 프로그램 위에서 "고주파 보정의 공간 국소화가 더 좋고 ODE가 더 불안정한" 변형을 찾았다고 타오는 해설했다. OpenAI 논문 자체가 서론에서 이 계보를 인정한다(개정판 기준). 프린스턴의 찰스 페퍼먼 — 문제 진술을 쓴 사람 — 은 "문제가 풀려 기뻤다"면서 코르도바와 마르티네스-소로아를 "이 이야기의 영웅"이라 불렀고, 코르도바는 "나는 AI를 안 쓴다. 나에겐 루이스가 있다"고 농담했다. 버크마스터는 성명에서 "이 연구 전체를 볼 때 루이스 마르티네스-소로아는 필즈상을 받을 자격이 있다"고 썼다.
이제 논쟁의 층이다. 버크마스터의 4쪽 성명과 위키백과 「Navier–Stokes priority controversy」 항목, 테크크런치·포천·사이언티픽 아메리칸 보도, 그리고 OpenAI의 반박을 종합하면 순서는 이렇다.
2025-09-19 — 알푀게가 버크마스터에게 이메일: 나비에–스토크스는 "가까운 미래에 풀릴 유일한 밀레니엄 문제"이며 기업들이 순수수학의 깊은 결과를 가져갈 수 있다고 경고. 두 사람은 이후 1년간 비밀리에 작업.
2026-08-15 → 08-22 — 오일러·IPM·부시네스크 폭발 증명, Lean 검증.
08-28 — OpenAI가 모델 훈련 시작(노암 브라운: 이전 밀레니엄 문제 시도들은 실패했었다). 08-31 알푀게의 "Augustus Mirabilis" 게시물 → 소문.
09-01 — OpenAI 캠페인 시작. OpenAI는 뒤에 "소문이 계기였다"고 인정.
09-02 / 09-03 — 알푀게, 버크마스터가 각각 OpenAI에 연락. 자신들의 진전이 OpenAI에 새어 나갔다는 것을 알게 됨.
09-06 — 뷔베크가 두 사람에게 메시지: "인간 입력은 아주 적었다", "인간 프롬프트를 공유하겠다". 버크마스터·뷔베크·익명의 OpenAI 수학자 통화(알푀게 불참). 버크마스터는 OpenAI가 자신들이 발전시켜 온 코르도바–마르티네스-소로아 프로그램을 따랐다고 결론.
09-06, 제안 — OpenAI: 버크마스터가 먼저 발표하거나, 공동 결과를 쓰되 알푀게를 저자에서 제외(Anthropic 소속 = 이해 충돌). 100만 달러 클레이 상금은 두 수학자에게 양보. 버크마스터 거부. 공개를 예고하자 "왜 경력을 망치려 하나?" 뒤이어 "내가 친절하길 원치 않는다면 친절하지 않아도 된다." (뷔베크는 나중에 표현을 사과.)
09-07 자정 직전 — 성명 공개. "나는 OpenAI의 증명을 보지 못했다. 그들의 모델이 무엇을 어떻게 했는지 모른다. 우리 데이터가 쓰였는지 모른다. 나는 누구도 고발하지 않는다." 목적은 "발표가 내가 거짓임을 아는 것을 말하지 않게 하려는 것".
09-08 정오 — OpenAI 발표. 뷔베크: "우리는 그들의 프롬프트나 증명을 모델에 쓰지 않았다. 연구자든 에이전트든, 어젯밤 공개되기 전까지 그들의 작업을 어떤 수단으로도 보지 못했다." 동시에 "알푀게와 버크마스터의 작업의 우선권을 인정한다." 오일러 3차원은 두 사람의 것, 나비에–스토크스 자체는 OpenAI 것이라는 정리.
데이터 질문 — 버크마스터: "모델이 우리 Codex 세션 — 프로젝트 내내 모든 초안을 넣었던 — 으로 훈련됐거나 접근했는지 물었다. 모델은 사용자 데이터를 조회하지 않는다고 했다. 훈련에 대해 다시 물었고, 답을 듣지 못했다." OpenAI: 특정 사용자 데이터 접근은 없었으나 "제품 사용에서 파생된 비식별 데이터가 모델 개선에 도움이 됐을 가능성은 배제할 수 없다". 이후 추가 성명: 직전 두 달의 Codex 프롬프트는 훈련을 포함해 시스템에 영향을 줄 수 없었다.
무엇이 사실인지는 이 글이 판정할 수 없다. 관찰할 수 있는 것은 구조다. 한쪽에는 자기 초안을 통째로 상대 회사의 도구에 넣어 온 두 연구자가 있고, 다른 쪽에는 그 도구의 사용 데이터로 모델을 개선하는 회사가 있으며, 회사는 "특정 데이터를 보지 않았다"와 "비식별 파생 데이터가 도움이 됐을 수 있다"를 동시에 말한다. 라이덴 선언이 석 달 전에 쓴 문장이 정확히 이것이다. "자료는 동의 없이 훈련 데이터로 쓰여서는 안 되며, 출판 계약은 저자가 그런 사용에서 옵트아웃할 수 있게 해야 한다."
그리고 버크마스터가 끝까지 붙든 것은 상금도 경주의 승리도 아니었다. 9월 8일 오후 그는 상금과 경주에 관심이 없다고 말했다. 그가 원한 것은 "[수학의] 이야기의 일부가 되는 것"이었고, 알푀게를 빼라는 요구가 "가장 큰 걸림돌"이었다. 프린스턴의 피터 사르낙은 그를 "수학자가 행동하는 방식으로 행동했다"고 평했다.
아래 계산기에서 같은 날짜들이 규범에 따라 어떻게 다른 '먼저'를 만드는지 보라. 타오의 제안 — 공개 시각은 프리프린트·설명·형식화 날짜의 최댓값 — 에서 '설명'이 비어 있는 쪽은 아직 공개한 것이 아니다.
4.5 클레이 연구소와 남은 것
클레이 수학연구소 소장 마틴 브리드슨은 발표들을 "흥미롭다"면서도 상 검토는 동료심사 출판 뒤라고 못 박았다(규정상 출판 후 2년 대기). 미국수학회의 라비 바킬과 존 마이어는 양쪽 모두에게 "인류 지식의 이정표적 진전"을 축하했다. 그리고 검증되지 않은 것이 하나 남는다. Lean은 "이 형식 문장이 이 공리에서 따라 나온다"를 보증한다. 그 형식 문장이 페퍼먼이 쓴 (C)와 정확히 같은 것인가 — 매끄러운 외력, 경계 없음, 3차원, 유한 에너지 — 는 사람이 읽어야 한다. 페르마 특집에서 본 것과 같은 경계다. 커널은 문장 아래를 검사하고, 문장 자체의 의미는 사람의 몫이다.
제5장: 세 개의 다른 사례 — 비소픽 군, 호지 추측, 매스어톤
5.1 "10년간 진전 없음" — 안드레아스 톰의 이메일
8월 1일 아침, 드레스덴의 안드레아스 톰은 동료들의 이메일로 잠을 깼다. OpenAI가 비소픽 군의 존재를 증명했다는 것이다. 소픽 군은 1999년 그로모프가 도입한 개념으로, '유한 순열로 근사할 수 있는 군'이다. 모든 군이 소픽인가는 27년 동안 열려 있었다. OpenAI의 증명은 쿤의 확장자 분해와 쿤–톰의 2019년 논문을 결정적 명제 2.3에 썼다.
톰은 놀랐고, 동시에 기뻤다. "중심화자 강성 이론이 언젠가 중요한 응용을 가지길 바랐지만 알맞은 설정을 찾지 못했었다." 그는 며칠 뒤 MathOverflow에 아이디어를 설명하는 글을 올렸다. 그런데 공개 발표문에 "지난 10년간 진전 없음"이라는 표현이 있었다.
"나는 그 표현이 지적으로 정직하지 못하다고 본다. 당신들은 공개 발표에서 10년의 무진전을 말하면서 2019년 논문을 결정적으로 쓸 수는 없다. … 마지막 돌이 건물을 완성하고, 대개 그것을 놓은 사람이 문제를 푼 공로를 받는다는 것은 맞다. 나는 그것에 아무 문제가 없고 개인적으로 공로에 큰 관심도 없다. 하지만 앞선 기여를 깎아내리지 않아도 충분한 찬사를 받을 것이다."
마크 셀케가 동의했고 발표문은 수정됐다(8월 6일 개정판). 톰은 "발표 PDF에도 웹사이트에도 연락처가 없어서, 셀케가 8월 1일 초안을 보내 주지 않았다면 반응할 방법이 없었을 것"이라고 덧붙인다.
그런데 이야기에는 두 번째 층이 있다. 쿤–톰의 접근은 비소픽 문제의 주류가 아니었다. 양자 게임 쪽이 더 유망해 보였고 실제로 콘 매장 문제와 올더스–라이언스 추측이 그쪽에서 풀렸다. 그러니 OpenAI 모델이 왜 이 비주류 경로를 그렇게 능숙하게 찾았는가. 톰은 지난 몇 달 동안 드레스덴의 동료와 함께 바로 이 기법과 그 확장을 ChatGPT와 긴 세션으로 논의했었다. 그래서 같은 이메일에 물었다. 그 대화가 훈련 데이터에 들어갔거나 추론 과정에 접근 가능했는가?
셀케의 답 전문: "당신의 ChatGPT 대화에 관해서: 그런 일은 없었다."
톰은 이 답을 일단 받아들이고 수학으로 돌아가 쿤과 후속 논문을 썼다 — "새 결과를 수학 지형에 통합하는 것이 자연스러운 다음 단계"였으므로. 그러다 버크마스터 사건을 읽고 되돌아왔다. OpenAI가 버크마스터 건에서 "특정 사용자 데이터 접근은 없었지만 비식별 파생 데이터가 모델 개선에 도움이 됐을 가능성은 배제할 수 없다"고 말한 것을 보고, 자신이 받은 답이 (1) 훈련 데이터 포함과 (2) 추론 접근 중 무엇을 부정한 것인지 알 수 없게 되었기 때문이다.
"나는 누군가 개별 대화를 읽었다거나 우리 대화가 실제로 훈련에 쓰였다고 주장하는 것이 아니다. 나는 모른다. 내 비판은 범주적 부정에 대한 것이다. 훈련 데이터에 무엇이 들어갔는지 몰랐다면(가장 가능성 높은 시나리오), 그렇게 말했어야 한다. … 비식별화는 이름을 지울 수 있지만 수학적 아이디어의 지적 내용을 지우지는 못한다."
이 글을 마친 뒤 셀케가 다시 연락해 톰이 "주어진 증거로 합리적으로 그 결론에 이르렀음을 이해한다"고 했고, 버크마스터의 Codex 프롬프트가 시스템에 영향을 줄 수 없었다는 OpenAI의 새 성명을 알려 왔다. 톰: "더 믿을 수 있으면 좋겠다. 어쨌든 수학 공동체가 산업에 압력을 가해 이 문제를 조금은 더 진지하게 다루게 할 수 있다는 것을 시사한다."
그리고 그는 선언문이 말한 '끊기는 사슬'을 자기 언어로 정리한다.
"수학 출판물은 세 가지를 한데 묶었다. 결과를 알리고, 그것을 만든 사람을 밝히고, 수학에 대한 인간의 이해에 무언가를 더했다. 그래서 동시에 지식의 기록이자, 공로 배분의 근거이자, 수학자의 능력의 증거가 될 수 있었다. AI는 이 연결을 끊는다. AI 시스템은 어떤 인간도 발견하지 않았고 이해조차 하지 못한 논증으로 옳은 증명을 만들 수 있다."
5.2 10대 진전을 사람이 감사하면 — 시에니키의 회계
OpenAI의 10대 결과를 사람이 얼마나 확인했는가를 따진 논문이 있다. 미코와이·크시슈토프 시에니키의 「A Human Audit of OpenAI's AI-Generated Mathematical Proofs」(arXiv:2608.14673, 9월 10일 3판). 8월 27일 기준 23개 문서 중 18개의 장별 심사 보고서를 검토한 결과다.
장
결과
보고서 수
평가의 초점과 한계
1
고차원 구 채우기 — 콘–엘키스 선형계획의 점근 강도
2
점근 상수·정규화·멜린/푸리에 구조. 해석적 추정을 전부 새로 유도하지는 않음
2
이진·구면 부호의 상한을 지수 인자만큼 개선
2
표현론·콤팩트성 접점은 전문가 검토 필요
3
비소픽 군 존재
2
관례와 중첩된 보조 매개변수의 세심한 대조 필요. 후속 연구가 증명 메커니즘을 독립적으로 재사용(푸르니에-파시오, 비틀림 없는 비소픽 군)
4
콘 강성 추측 반증
1
주 구성은 호의적, 검토 중복이 적음. 추측이 거짓임은 독립 확인, 더 강한 무한족 결과는 미재현
5
산술 회로 복잡도(퍼머넌트 하한)
3
증명·매개변수 검사 호의적. 새로움·귀속은 별도 판단
6
양자 병렬 반복
1
'부호 오류' 지적이 있었으나 PDF 텍스트 추출에서 윗줄(overbar)이 사라진 것이 원인. 조판 원본 확인 후 철회
7
최근접 벡터 문제 — 3SAT에서 n^(1/400) 난이도
2
재구성·지수 회계 호의적. 후속 연구가 더 강한 난이도 정리로 직접 확증
8
에르하르트 부피 추측
2
확인된 오류는 없으나 압축된 해석적 전이가 미해결 — 한 전문가가 대폭 수정 요구. 완전 검증 주장 불가
9
다색 램지 수 R_k(3)의 초지수 하한
1
재귀 구성과 점근이 일관. 보고서 1건뿐
10
에르되시–시모노비츠 콤팩트성 추측 등 반증
2
두 주요 결과 호의적, 최적화 하나는 명시적 유도 필요
표 출처: Sienicki & Sienicki (2026), Table 1을 재구성. 보고서 수는 '검토의 범위'이지 독립 검증 횟수가 아니다.
이 감사의 결론은 선언과 같은 방향을 다른 어조로 말한다. 6장의 사례가 인상적이다. 감사자가 발견한 '논리 오류'는 PDF에서 텍스트를 추출할 때 윗줄 하나가 사라진 것이었다. 조판 원본을 보니 오류는 없었다. 시에니키는 타오 블로그 댓글에 이렇게 썼다. "수학적 결과는 발표문이나 추출된 텍스트나 자동 검증만으로 안전하게 판단될 수 없다. … Lean 증명조차 형식 결론이 형식 가정에서 따라 나온다는 것만 확인한다. 그 형식 문장이 사람들이 증명하려던 정리인지, 아이디어가 정말 새로운지, 선행 연구가 제대로 인정됐는지, 왜 중요한지는 말해 주지 않는다." 그의 처방은 "AI 발견을 늦추지 말고, 무엇을 완성된 수학적 결과로 칠 것인가를 바꾸자 — 정확한 문장, 읽을 수 있는 설명, 의존 관계 기록, 진지한 선행 연구 조사, 재현 가능한 자료, 독립적 인간 평가."
선언과 같은 날 UCLA의 버트 토타로가 타오 블로그에 올린 초청 포스트는 등대 은유의 가장 선명한 실례다. 첫 문장: "수학자들에게 이상한 시대다. AI 기업들이 호지 추측에 대한 새 사실을 증명하기 위해 막대한 자원을 태울 가능성이 이제 있어 보인다."
호지 추측(1950)은 위상과 대수기하 — 실기하와 복소기하 — 의 관계를 묻는다. 실수 부분다양체는 유연하고 복소 부분다양체는 단단한데, 어떤 실수 부분다양체가 연속적으로 움직여 복소 부분다양체가 될 수 있는지를 특정 적분이 0인지로 예측한다. 토타로의 사고실험:
"추측이 제기된 다음 날 어떤 비인간 오라클이 답은 '예'라고 말해 주고 추측이 '풀린' 것으로 간주된 반사실적 세계를 가정해 보자. 우리 세계를 살펴보면, 잃어버렸을 방대한 수학 지식을 볼 수 있다. 우리 세계에서 위대한 추측에게 바라는 것은 — 원래 질문이 열려 있더라도 — 온갖 다른 발견을 고무하는 도전이다."
그 '온갖 다른 발견'의 목록: 1924년 레프셰츠의 정리(추측이 진술되기도 전에 코차원 1의 경우를 해결, 그러나 증명에 틈이 있어 고다이라 등이 30년에 걸쳐 메움), 1960년대 그리피스의 '호지 구조의 변형' 이론, 들리뉴의 '절대 호지 사이클', 그리피스가 호지 이론을 써서 그로텐디크의 한 추측을 반증한 일, 클레르 부아쟁의 수십 년 작업, 그리고 2025년 에얄 마크만이 아벨 다양체 4·5차원에서 호지 추측을 증명한 "기념비적 작업" — 바일(1977), 무넨–자린(1995), 블로흐(1972)와 부흐바이츠–플레너(2003)의 반정칙성, 프리덤(2024)의 뒤틀린 층으로의 확장 위에 서 있는.
"어떤 척도로는 호지 추측의 진전은 제한적이었다고 말할 수 있다. 첫 번째 열린 경우(4차원 다양체의 코차원 2 사이클)는 여전히 손이 닿지 않는다. 그러나 호지 추측은 새로운 수학 이론을 고무하는 데 엄청나게 성공적이었다." 그의 마지막 문장이 선언문의 다른 판본이다. "수학적 아이디어의 힘은 사람들 사이의 지속적인 협상에서 온다. 우리가 아끼는 것은 고립된 사실이라기보다, 탐색이 이끄는 아이디어와 영감이다."
5.4 매스어톤 — "슬롭 수학의 무급 검증장"
세 번째 사례는 대학 안에서 터졌다. 칼텍은 10월 30일 시작하는 '매스어톤'을 준비 중이었다. 100개 팀이 "AI 도구로 수학에 대한 인간의 이해를 어떻게 책임 있게 증진할 것인가"를 주제로 열린 연구 문제에 도전하고, 팀당 40시간과 2만 달러어치 토큰 — OpenAI가 1만 달러, Anthropic이 1만 달러 — 을 받는다. 총 200만 달러 크레딧.
9월 10일 전·현직 칼텍 수학자들의 공개서한이 나왔다. AI 기업들이 제품 홍보를 위해 수학 연구의 목표에 대한 오해를 퍼뜨렸으며, 이 행사는 연구 수학을 광고 기회로 바꾸고, AI가 만든 '슬롭 수학(slop mathematics)' — 이해를 더하지 않으면서 수학자의 작업을 재활용해 결론에 이르는 것 — 을 참가자들이 무급으로 검증하게 만들며, 참가자를 AI 기업에 너무 가깝게 묶어 평판을 해칠 수 있다는 것이다. 서명은 500명에서 1,000명을 넘었다.
같은 날 OpenAI 연구 책임자 댄 로버츠가 철회를 발표했다. "AI의 수학 분야 빠른 진전이 파괴적임을 인식한다. … 이 기술을 통합하는 최선의 방법에 대해 수학 공동체와 더 교류하겠다." 주최 측은 "OpenAI가 2만 중 1만을 후원했고, 다른 기업들과 협의 중"이라며 행사에 실질적 영향은 없을 것이라 했다.
그런데 같은 날 타오 자신이 공동 조직한 대회가 열렸다. SAIR 재단과 칼텍 Math-AI 그룹의 앤드루스–커티스 추측 챌린지. 차이는 무엇인가. 타오의 설명: 대회를 "해답에 먼저 도달한 사람이 아니라 새 통찰에 먼저 도달한 사람"을 보상하도록 재구성하고, "통찰과 난이도 지형을 식별하는 분석이 필요한 문제 부류를 지정해, 그것 없는 날것의 해답은 무시할 만한 것으로 친다"는 것이다. 벤치마크 자체가 문제가 아니다. 무엇을 재는 벤치마크인가가 문제다.
제6장: 반론 — 타오 블로그 댓글 100개
선언은 만장일치가 아니다. 타오 블로그에는 이틀 만에 100개 넘는 댓글이 달렸고, 상당수가 반대하거나 다른 길을 제안한다. 공정하게 옮긴다.
반론
요지
선언 측(또는 타오)의 응답 논리
체스·바둑 비유
"카스파로프도 이세돌도 AI를 막지 못했지만 그 분야는 죽지 않았다. 그랜드마스터는 이제 AI로 더 깊이 훈련한다. 계산기가 산수를 죽이지 않았듯 정리 증명기는 직관을 망치지 않는다."
체스의 목적은 이기는 것이고 수학의 목적은 이해다. 컴퓨터 수(手)를 "표시하고 경탄하고 인간이 접근 가능한 변화로 돌아가는" 것은 가능하지만, 그것은 문제 하나가 아니라 문제를 낳는 땅이 사라질 때는 통하지 않는다.
"그냥 무시하면 되지 않나"
"AI가 수학자들이 원하는 방식으로 풀지 않는다면, AI 해법을 무시하고 원하는 대로 진행하라."
답이 알려진 문제에는 학생을 붙이기 어렵고 기금이 오지 않는다. 타오의 '미해결 문제는 재생되지 않는 자원' 논변 — 소문이 돌면 AI가 몰려와 난이도 지형을 평평하게 만들고, 유망한 방향을 숨겨야 한다면 "수백 년의 열린 과학 전통을 뒤집는" 일이 된다.
진보의 윤리 (R Pi)
"수십 년·수백 년의 시간 척도를 태연히 받아들이는 것이 답답하다. 수학 지식은 과학 진보의 씨앗이고, 진보를 인위적으로 늦추는 것은 모두의 생활 수준을 낮추는 것이다. 생화학이나 의학에 같은 논리를 적용해 보라. 그리고 Lean 검증된 나비에–스토크스 증명이 나온 뒤 사람들은 전문가의 소화를 기다리지 않고 AI로 더 많이 이해하고 있다."
선언은 진보를 늦추자는 것이 아니라 진보의 정의를 묻는 것이다. 답이 빨리 온다고 응용이 빨리 오지 않는다 — "많은 응용은 기저 이론이 완전히 소화된 뒤에야 가능해진다"(타오). 다만 'AI로 더 많이 이해한다'는 관찰은 정당하며, 선언이 다루지 않은 빈틈이다.
검증 ≠ 이해, 그러나 대립도 아니다 (롭 틸리, AI 기업)
"문제 해결과 개념적 이해는 상호 배타적이지 않다. 중요한 것은 해답 뒤에 무엇이 남는가 — 재사용 가능한 구성, 새 보조정리, 일반화되는 방법, 조명하는 반례. 이 구분을 인간과 기계에 동등하게 적용하라. 발견의 가치와 그것을 소화하는 데 드는 시간을 구별하라. AI 개발자에게 구체적 의무를 — 독립 검사 가능한 산출물, 의존 관계·귀속 문서화, 이해 가능하게 만드는 투자."
선언 측도 대부분 동의할 내용이다. 차이는 '벤치마크로서의 문제 해결 자체가 해롭다'는 문장의 강도. 틸리는 "결함 있는 진보 척도가 진보 자체의 해로움은 아니다"라고 본다.
수학계 자신의 유인 (벤저민 스타인버그 외)
"AI 기업이 대규모로 하는 일을 수학자들도 자기 분야의 큰 추측을 AI로 쓰러뜨리며 하고 있다. 모든 논문이 큰 문제를 부숴야 출판된다는 분위기." "Scale AI와 Epoch AI가 연구 수준 벤치마크를 쓰려고 수학자를 모집할 때 우리는 어디 있었나? 몇 명이나 벤치마크 문제를 쓰거나 프런티어 랩 컨설팅으로 이익을 봤나?" "테뉴어 전에 추측 하나를 증명해야 한다는 문화가 AI 기업이 밀레니엄 상을 저격하게 만든 독성 문화의 원형이다."
타오의 ICM 에세이가 이미 인정한 것 — 소화불량의 징후는 "AI 이전부터 나타나고 있었다". 선언이 '자기 성찰'이 부족하다는 비판은 유효하다.
"오라클이 있어도 배울 것이 많다"
"불가해한 증명과 반증을 뱉는 오라클이라도, 어떤 것이 같은지 다른지, 어떤 가정이 필요한지, 왜 사람들이 증명에 애를 먹었는지 많이 알려 준다. 추측이 참인지 거짓인지 알면 여러 방식으로 변형해 왜인지 알 수 있다."
토타로의 반사실이 정확히 반대 예시다 — 호지 추측에 대해 오라클이 '예'라고 했다면 그리피스·들리뉴·부아쟁의 이론이 나왔을까. 다만 '변형해서 왜를 묻는' 연구 양식이 새로 생길 수 있다는 점은 열려 있다.
그리고 라지비우(막심 라지비우, 칼텍)가 댓글에서 든 사례는 선언의 논리를 가장 간명하게 보여 준다.
"나는 이미 '쌍둥이 소수는 무한히 많다'가 참이라는 것을 안다. 심지어 '왜'도 안다 — 스스로 제곱근 상쇄를 갖는 마이너 아크(minor arc)들 사이의 상쇄. AI 기업이 이 문장의 ZFC로부터의 1,000만 줄 Lean 유도를 제공하면 내 지식에는 거의 아무것도 더해지지 않는다. '(S)의 ZFC 유도가 현재 존재한다'는 것 이상은. … 반면 AI 기업이 Lean 인증서의 존재만으로, 어떤 이해도 없이 (S)의 해결에 대한 전적인 공로를 주장하면, 공동체에 음의 가치를 만든다. 왜 (S)가 증명 가능한지를 설명하는 이해 가능한 해법을 쓸 공로가 남지 않기 때문이다. … 유일한 출구는 AI 기업에 수학자에게 요구하는 것과 같은 기준을 요구하는 것이다. 실제로 이해를 가졌을 때만 증명을 제공하라. 예컨대 세미나에 사람을 보내 증명을 설명하고 모든 질문에 유능하게 답할 수 있어야 한다."
ICM 에세이의 마지막 절에서 타오는 라이덴 선언의 네 권고를 인용하고 자기 주석을 단다. 요약하면 세 가지다.
책임 있는 공개를 정상화하라. 체크박스가 아니라 실제 채팅 로그와 흔적을 — 실패한 시도까지 — 공개하라. "저자들이 AI 도구를 몰래 쓰고 동료의 비판을 피하려 그것을 숨기는 시나리오를 어떤 대가를 치르더라도 피해야 한다." 학생들이 거장도 넘어졌다는 것을 배우는 문화적 전환이기도 하다.
증명 생성과 '최초'에 대한 강조를 줄이고, 설명·심사·출판·정착에 대한 강조를 높여라. 다비드 베시스의 표현으로 "정리 경제(theorem economy)"에서 벗어나기.
출판을 역량에 걸어라. "저자들이 결과에 대해 정확하고 출처가 제대로 밝혀진 명확한 전문가 수준의 강연을 할 수 있음을 설득력 있게 보이지 못하면, 그 결과는 출판되어서는 안 된다. 어떤 인간도 제대로 설명할 수 없는 증명은 형식 검증됐더라도 미완성으로 봐야 한다."
세 번째가 이 논쟁 전체의 실무적 결론이다. 형식 검증은 필요조건이지 충분조건이 아니다. 라지비우의 '세미나 시험'과 같은 것이다. 그리고 이것은 AI를 배제하지 않는다. AI가 만든 증명이라도 사람이 강연할 수 있을 만큼 소화하면 출판할 수 있다. 소화의 책임을 누가 지는가가 달라질 뿐이다.
7.2 우선권과 '증명 입양'
타오는 8월 초 두 가지 구체적 제안을 더 했다. 첫째, 우선권의 재정의. 현재 우선권은 저널 출판 → arXiv 타임스탬프 → AI 증명의 소셜미디어 경주로 표류하고 있다. 그는 "공개 시각을 프리프린트·설명·형식화 날짜의 최댓값"으로 잡자고 제안한다. 속도 경쟁을 위해 검증과 설명을 건너뛰는 유인을 없애는 것이다(4.4절의 계산기).
둘째, 증명 입양(proof adoption). AI 기업이 증명을 생성·검증하고는 더 발전시킬 "의향을 보이지 않아" 수학자들이 무급 보호자로 남는 것을 그는 "충격적"이라 했다. 그래서 "증명을 생성한 공로를 주장하려는 저자는 그 증명을 적어도 출판 단계까지 발전시키는 데 최선을 다하겠다고 약속해야 한다"는 규범을, 그것이 불가능할 때는 대리 저자·양육 관리자·명시적 인계 같은 입양 메커니즘을 — 아동 복지 제도에 빗대어 — 제안한다. 논쟁적임을 스스로 인정하면서도 "즉흥적 방치보다 낫다"고.
타오의 최근 사고에서 가장 날카로운 전환이다. 미해결 문제는 무한히 많지만 주목할 가치가 있는 것은 극히 일부이고, 어느 것이 그런지 알려면 분야의 난이도 지형에 대한 친밀한 지식이 필요하다. "바다에 둘러싸인 지역도 식수 부족을 겪을 수 있다." 유망한 문제를 식별하는 일은 귀하고, 소문이 난 문제에 AI가 몰려오면 인간 프로젝트가 익기 전에 난이도가 평평해진다. 포천 기사에 실린 그의 문장이 이것이다. "미해결 문제의 무차별적 노천 채굴(strip-mining)은 다음 세대의 수학적 기법·문제·연구자가 자라났을 생태계를 파괴할 수 있다."
건설적 대응도 있다. 풀린 문제를 소진하는 대신 새 문제 광맥을 의도적으로 탐사하기(수백만에서 수십억 개의 함의로 규모를 키우기), 대회를 '첫 통찰' 보상으로 재구성하기, 통찰과 난이도 분석을 요구하는 문제 부류 지정하기. 그리고 'AI 단일문화(monoculture)'에 대한 경고 — AI가 특정 수학 양식을 선호하므로 기금과 명예가 AI에 맞는 문제로 쏠려 이론 구축과 기초 작업이 굶을 수 있다.
도구 사용 공개(논문에 '도구·계산 자원 공개' 절) · 심사자를 위한 배려(정확한 참고문헌, 가능하면 형식 증명) · 정확성의 책임은 인간 저자에게 · 저자성은 인간에게 · 귀속에 적극적 노력, 불가능하면 명시 · 공적 담론 참여 · 어떤 도구를 쓸지 신중히(개발자가 선언의 가치와 맞는가, 비독점·저에너지 시스템으로 충분한가) · 연구의 윤리적 결과 평가
기관·비영리 재단
전문성 축적과 전략적 준비("비관례적 수단으로 주요 결과가 주장될 때 개입할 준비") · 출판·심사 정책 주도 · 엄밀성 기준 유지(자동 도구로 얻은 중심 논증의 인간 서술 요구, 적절 시 형식 검증) · 저자 권리 보호(동의 없는 훈련 데이터 사용 금지, 옵트아웃) · 적절한 출판 창구 고수("보도자료나 블로그는 동료심사를 대체할 수 없다") · 산업에서 독립된 공공 연구소 지원 · 산업 협력 시 법률 지원
정책가
저자 권리의 법적 보호 강화 · "과장을 믿지 말라"(보도자료 대신 수학자 등 전문가와 상의) · AI 산업 규제 · 공공 계산 인프라 투자
기업
수학이 AI 개발에 매력적인 이유 — 형식 증명의 정확성은 사람 없이 자동 검사되어 사실상 무한한 훈련 피드백을 제공 — 를 명시하고, 그 모델이 전쟁·감시·민주주의 훼손에 쓰일 수 있음을 지적. "최소한 동료에게 기대하는 기준을 지키라." 직원의 양심의 자유 존중
두 선언을 나란히 놓으면 분업이 보인다. 라이덴은 어떻게(절차)를, 필즈상 25인은 왜(가치)를 말한다. 그리고 필즈상 선언이 "라이덴처럼 협의 과정을 거칠 시간이 없었다"고 사과한 것은, 넉 달 사이 상황이 얼마나 빨라졌는지를 보여 준다.
7.5 이것은 수학만의 이야기가 아니다
선언은 스스로 말한다. "다른 과학·창작 직업이 마주한 문제와 비슷하며, 인류 전체가 마주할 문제를 가리킨다." 수학이 먼저 겪는 이유는 산출물의 형식이 선명하기 때문이다 — 증명은 참 아니면 거짓이고, Lean은 그것을 즉시 판정한다. 그래서 굿하트의 법칙이 가장 먼저, 가장 순수하게 발동한다. 한 댓글의 표현으로 "수학은 이것이 가시화되는 첫 영역일 뿐이다. 마지막 영역은 아닐 것이다."
이 논쟁을 소프트웨어·연구·콘텐츠 조직에 옮기면 세 가지 질문이 남는다.
①
우리 조직의 '문제 해결 수'는 무엇의 대리지표였나
닫힌 티켓 수, 출시 기능 수, 발행 글 수는 원래 '고객 문제 이해', '제품 방향 학습', '독자 신뢰'의 대리였다. AI가 대리지표를 이해 없이 채울 수 있게 되는 순간, 굿하트가 발동한다. 선언의 질문을 그대로 물어야 한다: 이 일이 애초에 무엇을 이루려 한 것이었나.
②
우리 파이프라인의 뒷단은 누가 맡는가
생성과 검증이 빨라지면 설명·수용·정착에 대기가 쌓인다. AI가 만든 코드·문서·분석을 강연할 수 있을 만큼 이해한 사람이 조직에 있는가. 타오의 '강연 시험'은 코드 리뷰와 인수인계에 그대로 적용된다 — "AI 출력을 추가 AI 도움 없이 발표하고 질문에 답할 수 없다면 워크플로에 넣지 말라."
③
우리의 '씨앗 곡물'은 무엇인가
주니어에게 주던 훈련용 과제를 AI가 대신하면 산출물은 나오지만 다음 세대의 시니어는 나오지 않는다. 훈련의 목적은 결과물이 아니라 '어려운 자료를 흡수하고 좋은 질문을 던지는 능력'이었다는 타오의 말을, 조직의 성장 경로에 대입해 보아야 한다.
용어 사전
용어
뜻
이 글에서
정렬(alignment)
AI의 목표가 사람의 의도와 맞는 것. AI 안전 용어
선언은 'AI 기업의 목표'와 '학문의 목표'의 불일치로 뒤집어 씀
대리지표(proxy)
직접 재기 어려운 것을 대신 재는 지표
'문제 해결 수'는 '이해'의 대리지표였다
굿하트의 법칙
측정이 목표가 되면 좋은 측정이기를 그친다
AI가 이 법칙을 특히 잘 발동시키는 기술적·경제적 이유(3.2)
증명 소화불량
타오의 용어. 증명이 검증·설명·출판·정착 능력보다 빨리 쌓이는 상태
희소에서 과잉으로의 전환(3.4)
정착(canonicalization)
결과를 자연스러운 일반성으로 다시 쓰고 옳은 증명을 주어 표준 도구에 흡수하는 것
가장 느리고 가장 가치 있는 단계. AI 훈련 데이터의 원천
형식 검증(Lean)
증명의 모든 단계를 컴퓨터 커널이 검사하는 것
"문장이 공리에서 따라 나온다"는 보증. 문장의 의미·새로움·귀속은 보증하지 않음
밀레니엄 문제 (C)·(D)
페퍼먼 진술의 '붕괴' 대안. 매끄러운 외력 아래 유한 에너지 매끄러운 해가 존재하지 않음
OpenAI가 확립했다고 주장한 부분(4.1)
유한시간 폭발(blowup)
해가 유한한 시간 안에 무한대가 되는 것
속도는 무한대, 에너지는 유계 — 스파게티 소용돌이(4.3)
소픽 군
유한 순열로 근사되는 군(그로모프 1999)
비소픽 군의 존재가 OpenAI 10대 결과의 헤드라인(5.1)
슬롭 수학
칼텍 서한의 용어. 이해를 더하지 않고 수학자의 작업을 재활용해 결론에 이르는 AI 산출물
매스어톤 논쟁(5.4)
노천 채굴(strip-mining)
타오의 은유. 미해결 문제를 무차별적으로 소진하는 것
재생되지 않는 자원(7.3)
마치며 — 등대를 끄지 않는 법
이 선언을 '수학자들이 AI를 거부했다'로 읽으면 놓친다. 서명자 중 한 사람은 두 달 전 "형식화는 AI에 대해 거리낌 없이 좋게 느끼는 자리"라고 말한 사람이고, 넉 달 전 에르되시 문제 데이터베이스의 AI 활용 정책을 모범이라 칭찬한 사람이며, 선언 당일에 AI 수학 대회를 공동 개최한 사람이다. 그가 반대하는 것은 AI가 아니라 AI를 무엇에 최적화하느냐다.
서스턴은 1994년에 물었다. "우리 성공의 척도는 무엇인가." 답은 정리의 수가 아니라 "사람들이 더 명확하고 효과적으로 생각할 수 있게 되는가"였다. 2026년의 선언은 같은 답을 같은 이유로 반복한다. 다만 이번엔 정리를 만드는 것이 사람이 아니고, 만드는 속도가 사람의 소화 속도를 넘어섰으며, 만드는 주체의 유인이 학문의 유인과 다르다.
그래서 남는 질문은 기술의 질문이 아니라 결정의 질문이다. 선언의 마지막 문장을 다시 옮긴다. "이 변화가 궁극적으로 분야에 이로울지 파괴적일지는 이 새 기술을 통제하는 인간들의 결정에 크게 달려 있다." 그 결정에는 AI 기업의 결정도, 벤치마크를 쓰고 컨설팅을 한 수학자들의 결정도, 그리고 AI가 만든 것을 '강연할 수 있을 만큼' 이해할지 말지를 매일 정하는 우리 각자의 결정도 들어 있다.
선언문·타오 에세이·블로그 포스트·댓글의 인용은 영문 원문을 코어닷투데이가 한국어로 옮긴 것입니다. OpenAI 논문 Figure 1·2와 타오 에세이 Figure 2·3·4는 원 저작자의 것이며, 카르만 소용돌이 열 사진은 NASA(퍼블릭 도메인)입니다. 그 외 일러스트는 코어닷투데이가 제작했습니다. 9월 6일 통화의 내용은 버크마스터의 성명과 OpenAI의 공개 반박을 함께 옮긴 것으로, 사실관계는 확정되지 않았습니다.