coredot.today
수학은 언어다 (3편) 기하: 닿을 수 없는 것을 재는 법, 못생긴 공리 하나가 열어 준 휘어진 우주, 그리고 오렌지 쌓기가 무선 통신이 된 이야기
블로그로 돌아가기
수학은 언어다테런스 타오기하닮음비유클리드 기하구 채우기상대성이론시리즈

수학은 언어다 (3편) 기하: 닿을 수 없는 것을 재는 법, 못생긴 공리 하나가 열어 준 휘어진 우주, 그리고 오렌지 쌓기가 무선 통신이 된 이야기

테런스 타오의 여섯 기둥 중 세 번째, 기하. 그리스어로 '땅을 재는 것'인 기하는 각과 거리 사이의 법칙으로 직접 닿을 수 없는 것을 측정하게 해 준다 — 고대 그리스인은 위성 없이 달까지의 거리를 어림했다. 유클리드의 다섯 공리 중 유독 못생긴 하나를 의심한 사람들이 휘어진 공간의 기하를 발견했고, 그것이 아인슈타인이 중력을 쓸 때 필요한 정확한 언어였다. 대포알 쌓기 문제가 400년 뒤 무선 통신 산업의 기초가 된 이야기까지, 두 개의 인터랙티브로 따라간다.

코어닷투데이2026-09-0926

시리즈 「수학은 언어다」0편 여섯 기둥과 AI 시대 · 1편 수 · 2편 대수 · 3편 기하 · 4편 확률 · 5편 해석 · 6편 동역학

타오의 한 줄

"기하를 알면, 손으로 만지고 직접 잴 수 있는 것 너머로 감각을 확장할 수 있다." — 테런스 타오, Big Think 인터뷰 11:39


제1장: 직관 — 땅을 재는 사람들

기하(geometry)는 그리스어 geo(땅) + metron(측정)이다. 타오는 이 어원에서 시작한다.

"고대부터 한 곳에서 다른 곳까지 몇 마일인지 아는 것, 바다나 황야에서 별을 보고 항해하는 법을 아는 것이 중요했다. 우리는 각도와 거리처럼 관찰할 수 있는 것을 교통 같은 아주 실용적인 문제에 쓰는 법을 이해해야 했다."

우리는 이미 공간을 직관으로 안다. 멀다, 가깝다, 기울었다, 평행하다, 저것은 이것의 축소판이다. 아이도 그림자가 길어지면 해가 낮다는 것을 알고, 멀리 있는 사람이 작게 보인다는 것을 안다. 기하가 덧붙이는 것은 이 직관들 사이의 법칙이다.

"수에 a + b = b + a 같은 패턴이 있듯이, 점 사이의 거리와 각을 재기 시작하면 그 측정값들 사이에도 아주, 아주 많은 관계가 있다. 기하는 수가 법칙을 따르듯 법칙을 따른다."

이 문장은 2편 대수의 논리를 그대로 기하에 적용한 것이다. 수에 법칙이 있어 지름길이 생겼듯, 공간에도 법칙이 있어 지름길이 생긴다. 그 지름길 덕분에 우리는 가 보지 않은 곳의 거리를 안다.


제2장: 언어가 되는 순간 — 닮음

2.1 하나를 알면 전부를 안다

타오가 첫 법칙으로 꼽는 것은 닮음(similarity)이다.

"두 도형이 닮았다는 것 — 같은 각을 가진다는 것 — 을 알면, 모든 변이 비례한다. 큰 삼각형의 한 변이 작은 삼각형의 한 변보다 두 배 크다는 것을 알면, 큰 삼각형의 다른 모든 변도 두 배 크다는 것을 안다. 비율이 같다."

각이 같으면 모양이 같고, 모양이 같으면 한 변의 비율이 모든 변의 비율이다. 이것이 왜 언어인가. 측정 하나가 측정 여럿을 대신하기 때문이다. 1편에서 수가 양을 휴대 가능하게, 2편에서 대수가 계산을 휴대 가능하게 만들었다면, 기하의 닮음은 측정을 휴대 가능하게 만든다. 손 위의 작은 삼각형이 산 크기의 큰 삼각형을 대신한다.

"이것이 유용한 이유는 직접 닿을 수 없는 — 직접 잴 수 없는 — 거리나 크기의 측정을 예측할 수 있게 해 주기 때문이다. 멀리 있는 산을 보고 얼마나 먼지 어림할 수 있다 — 산의 높이와 고도각을 알기 때문에, 닮은 삼각형을 써서 축척 모형을 만들 수 있다. 그러면 돛배에서 직접 보이지 않는 먼 곳에 가는 길을 항해할 수 있다."

2.2 그리스인이 달을 잰 법

"고대 그리스 시대에도 그들은 달과 태양까지의 거리를 잴 수 있었다. 직접 잴 수는 절대 없었지만, 기하의 법칙 — 닮은 삼각형과 그 비슷한 것들, 그 시대에 이미 알아냈던 것들 — 만으로 위성이나 첨단 기술 없이 그럴싸한 측정값을 얻었다."

기원전 3세기, 사모스의 아리스타르코스는 반달일 때 태양·지구·달이 직각삼각형을 이룬다는 점을 이용했다. 반달인 순간 달에서 보면 태양과 지구가 직각을 이룬다. 그러니 지구에서 태양과 달 사이의 각을 재면 삼각형의 세 각을 모두 알고, 세 각을 알면 변의 비율을 안다. 그는 태양이 달보다 18~20배 멀다고 결론 냈다. 실제 값은 약 390배로 크게 틀렸는데, 이유는 각도 측정의 오차였다(그는 87°로 잰 각이 실제로는 89.85°에 가깝다). 방법은 옳았고 측정이 부족했다 — 이 구분이 5편 해석의 주제, 오차 전파의 첫 사례다.

에라토스테네스는 같은 시대에 두 도시(시에네와 알렉산드리아)에서 같은 날 정오의 그림자 각도 차이(약 7.2°, 원의 1/50)와 두 도시 사이 거리로 지구의 둘레를 계산했다. 결과는 실제 값(약 40,000km)과 수 퍼센트 이내다. 아무도 지구를 한 바퀴 걷지 않았다. 각도 하나와 거리 하나, 그리고 닮음의 법칙이었다.

아래 위젯으로 직접 해 보자. 산의 높이(지도에서 아는 값)와 고도각(각도기로 잰 값)만으로 거리가 나온다. 각도를 1°만 바꿔 보면 아리스타르코스가 왜 틀렸는지도 보인다.


제3장: '두 배 크게'는 무엇을 두 배로 만드나

닮음의 법칙에는 실무에서 매일 쓰이는 결론이 하나 딸려 있다. 길이를 k배 하면 면적은 k², 부피는 k³이 된다는 것이다.

"화면을 두 배 크게"라는 말은 세 가지 다른 뜻일 수 있다. 대각선을 두 배로(길이 ×2, 면적 ×4, 픽셀 수 ×4), 면적을 두 배로(길이 ×1.41), 혹은 그냥 '더 크게'. 27인치 모니터를 54인치로 바꾸면 같은 픽셀 밀도를 유지하기 위해 픽셀이 4배 필요하고, 그래픽 카드의 부담도 4배가 된다. 이것을 모르고 "두 배 큰 화면이니 두 배 성능이면 되겠지"라고 계획하면 절반이 모자란다.

길이 ×k면적 ×k²부피 ×k³실무에서
화면 대각선 2배픽셀 4배GPU·대역폭 4배
피자 지름 1.5배양 2.25배지름 비례 가격이면 큰 것이 이득
물탱크 치수 2배표면(재료·열손실) 4배용량 8배큰 탱크가 단위 용량당 더 싸고 덜 식는다
1:10 모형 → 실물표면 100배무게 1,000배모형이 튼튼해도 실물은 자기 무게에 무너질 수 있다
도시 반경 2배면적 4배도로·배관 길이는 4배 이상, 이동 거리도 는다

마지막 두 줄이 생물학과 공학의 오래된 주제 — 갈릴레오의 '제곱-세제곱 법칙' — 이다. 개미를 사람 크기로 키우면 다리 단면(면적, k²)보다 몸무게(부피, k³)가 훨씬 빨리 늘어 서지 못한다. 코끼리의 다리가 굵은 이유, 큰 배가 작은 배보다 톤당 연료를 덜 쓰는 이유, 데이터센터의 냉각이 규모에 따라 유리해지는 이유가 모두 같은 법칙이다.


제4장: 못생긴 공리 하나가 열어 준 우주

인터뷰의 2장에서 타오가 "호기심에서 출발한 수학이 깊은 과학적 진보로 이어진" 첫 사례로 든 것이 기하의 이야기다.

4.1 유클리드의 다섯 공리와 하나의 골칫거리

"기원전 3세기 유클리드는 증명이라는 개념을 도입했다 — 기하의 복잡한 결과들을 더 단순한 공리들로부터 설명하는 것. 예컨대 삼각형의 세 각의 합이 늘 180°라는 것을 더 단순한 공리들로 설명할 수 있었다. 그는 다섯 개의 기하 공리를 놓았고, 그중 넷은 아주 단순했다 — 두 점을 주면 그 사이에 늘 직선을 그릴 수 있다, 같은 것들. 그런데 평행선 공준이라는 공리 하나가 그에게 큰 고민을 안겼다."

단순화된 형태는 이렇다. 직선 하나와 그 위에 없는 점 하나가 있으면, 그 점을 지나며 원래 직선과 만나지 않는 직선은 정확히 하나 있다. 이것이 있어야 삼각형의 내각 합이 180°라는 것과 유클리드 기하의 다른 고전적 결과들이 따라 나온다. "하지만 아주 우아한 다른 넷에 비해 아주 못생긴 공리였다."

4.2 평행선이 없는 기하, 평행선이 여럿인 기하

2,000년 동안 사람들은 이 공리를 다른 넷에서 유도하려 했고 실패했다. 19세기에 가우스·보여이·로바체프스키·리만이 다른 길을 갔다. 이 공리가 틀렸다고 가정하면 어떤 기하가 나오는가?

기하평행선삼각형 내각의 합타오의 설명
유클리드 (평면)정확히 하나= 180°우리가 학교에서 배운 기하
구면없음> 180°"직선 대신 대원(大圓)이 있다 — 적도나 경선처럼. 구 위의 대원은 늘 만난다. 평행한 대원 둘을 만들 수 없다."
쌍곡여럿< 180°"더 이상하고 시각화하기 어렵다. 직선들이 서로 갈라진다 — 평행해 보이며 출발했다가 점점 멀어진다. 한 점에서 주어진 직선에 평행한 직선을 여러 개 그릴 수 있다."

"두 기하는 완전히 자기일관적이었고, 결국 유클리드 기하 외에도 기하가 더 있다는 것이 받아들여졌다. … 하나의 기하만 있다는 관념에서 자유로워지자 모든 수문이 열렸다. 사람들은 온갖 다른 기하를 연구했다 — 휘어진 공간, 도넛 모양이나 꼬임이 있는 공간. 오른손잡이가 우주를 탐험하고 돌아오면 왼손잡이가 되어 있는 기하도 있다 — 여행만으로 방향성이 바뀌는 것. 그리고 이 모든 것을 기술하는 아주 좋은 언어가 개발됐다 — 베른하르트 리만의 이름을 딴 리만 기하."

4.3 아인슈타인의 친구

그리고 0편에서 본 파이프라인이 작동한다.

"그것은 호기심이었다 — 추상적인 휘어진 공간들 — 우리가 사는 우주는 완전히 평평해 보였다. 그런데 아인슈타인이 중력을 이해하려 하다가 결국, 중력이 하는 일은 공간과 시간을 어떤 방식으로 휘게 하는 것이라는 결론에 이르렀고, 빛이 직선이 아니게 되고 때로 서로 만나거나 갈라지도록 시공간이 휘는 방식을 기술할 언어가 필요했다. 그는 수학자 친구에게 이런 것을 기술하는 기존 수학이 있느냐고 물었고, 친구는 '아, 있지, 베른하르트 리만이라는 영리한 친구가 그 이론을 만들었어'라고 했다. 그것은 아인슈타인 방정식을 기술하는 거의 정확히 맞는 언어였다."

그 친구는 취리히 공대 동창 마르셀 그로스만이었다. 리만 기하에는 '곡률'이라는 개념이 있고, 아인슈타인 방정식은 이 언어로 놀랄 만큼 단순하게 진술된다. 타오의 요약은 이것이다. "질량과 에너지가 곡률을 만든다. 시공간의 곡률은 그 시스템에 질량과 에너지가 얼마나 있는지에 비례한다." 진술은 단순하지만 푸는 것은 다른 문제다 — "충돌하는 블랙홀 두 개를 모델링하는 것도 현대 슈퍼컴퓨터로 겨우 한다."

여기에 2편의 교훈이 있다. 리만은 중력을 위해 기하를 만들지 않았다. 못생긴 공리 하나를 의심한 호기심이 60년 뒤 우주의 문법이 되었다. 그리고 GPS 위성의 시계는 이 문법 없이는 하루에 수십 마이크로초씩 틀려 위치 오차가 킬로미터 단위로 쌓인다. 휘어진 공간의 기하는 지금 모든 스마트폰 안에서 작동하고 있다.


제5장: 오렌지 쌓기가 무선 통신이 되기까지

타오의 두 번째 역사 사례도 기하다.

5.1 선원의 질문, 케플러의 추측

"어떤 영국 선원이 배의 선창에 대포알을 쌓아야 하는데, 대포알은 둥글어서 쌓으면 낭비되는 공간이 생기니, 일정한 공간에 가장 많은 대포알을 넣는 가장 효율적인 쌓기가 무엇인지 궁금해했다. 그는 의사 친구에게 물었고, 그 친구는 우연히 요하네스 케플러를 알았다."

케플러가 제안한 답은 오늘날 마트에서 오렌지를 쌓는 방식 — 육방 밀집 쌓기(hexagonal close packing) — 였다. 한 층을 삼각 격자로 깔고, 그 위에 살짝 어긋난 삼각 격자를 쌓는다. 효율은 π/√18 ≈ 74.05%(타오는 인터뷰에서 "약 76%"라고 말하지만 정확한 값은 이것이다). 케플러는 이보다 나은 방법은 없다고 믿었지만 증명하지 못했고, 이것이 케플러 추측이 되어 "수백 년 동안 기하에서 가장 유명한 미해결 문제 중 하나"였다.

"2차원 — 평면에 원반을 채우는 것 — 은 더 단순한 문제로 1900년경 풀렸다. 3차원은 가능성이 너무 많았다. 사실 우리는 지금도 사람이 혼자 완전히 이해할 수 있는 간단한 증명을 갖지 못했다. 추측은 1998년에 풀려 출판됐지만 컴퓨터가 필요했다 — 최초의 컴퓨터 보조 증명 중 하나였다. 심사자 팀은 모든 계산을 검증할 수는 없지만 전략은 옳다고 믿는다고 했고, 의심은 남았다. 훨씬 뒤인 2014년에야 증명이 증명 보조기 언어로 변환됐다 — 100% 확실성으로 증명을 검사하도록 설계된 컴퓨터 언어. 케플러 추측은 이제 형식 검증됐다."

이 대목은 코어닷투데이가 페르마의 마지막 정리 형식화 특집에서 다룬 이야기와 직접 이어진다. 토머스 헤일스의 1998년 증명은 12명의 심사위원이 4년 동안 검토한 뒤 "99% 확신"으로 타협했고, 헤일스는 20명 규모의 Flyspeck 프로젝트로 그것을 형식화했다. 사람이 읽을 수 없는 증명을 기계가 검증하는 시대는 페르마 이전에 케플러에서 시작됐다.

5.2 4차원 오렌지는 없다 — 그런데

"수학자들은 3차원 문제에 만족하지 않고 4차원, 5차원, 6차원에서는 어떻게 되느냐고 물었다. 물론 여기에는 실용적 응용이 없다 — 쌓고 싶은 4차원 오렌지나 대포알은 없다. 그래도 물었다. 또 연속 공간 대신 이산 공간이면 어떻게 되느냐고도 물었다. 컴퓨터과학이 발전하자, x·y·z 좌표가 실수인 보통 공간의 기하뿐 아니라 비트열의 기하에도 관심이 생겼다."

비트열 — 0과 1의 나열 — 의 공간은 원래 문제와 아주 멀어 보인다. 차원이 수천이고, 공간이 연속이 아니라 이산이다. "그래도 그것은 기하이고, 구 채우기를 이해하는 많은 기법이 이 설정에서도 통한다."

그리고 응용이 나타났다.

"휴대폰이 디지털이 되자, 이미지나 문자 같은 모든 신호는 비트열로 부호화되어 무선망으로 보내진다. 그런데 다른 사람들도 신호를 보내고, 당신의 신호가 간섭으로 망가져 남의 신호로 오인되면 안 된다. 그러니 서로 다른 신호들을 이 비트열 공간에서 가능한 한 서로 떨어뜨려 놓고 싶다. 그리고 수학적으로 이 문제 — 신호들을 서로 헷갈리지 않게 분리하는 것 — 는 거의 정확히 구 채우기 문제다. 고차원이고 이산일 뿐."

각 신호를 중심으로 '오차 허용 반경'만큼의 구를 그리면, 구들이 겹치지 않아야 신호를 구별할 수 있고, 구를 많이 넣을수록 보낼 수 있는 신호가 많다. 이것이 오류 정정 부호의 기하다. 타오는 결론을 이렇게 맺는다.

"구 채우기를 이해하는 데 쓰인 수학의 많은 부분이 아주 효율적인 부호를 설계하는 데 쓰였다 — 부호 설계뿐 아니라, 통신의 이론적 한계가 무엇인지 엔지니어에게 알려 주는 데도. 특정 무선 스펙트럼에서 초당 최대 몇 비트를 보낼 수 있는지. 그것이 프로토콜의 효율을 재는 아주 좋은 기준이 됐고, 어떤 무선 스펙트럼에 수십억 달러를 지불해야 하는지 가격을 매길 수 있게 했다 — 얼마나 많은 데이터를 밀어 넣을 수 있는지 정확히 알기 때문이다. 무선 통신 산업 전체가 아주 높은 차원에서 오렌지를 쌓을 수 있는 능력에 기반한다."

1611
선원의 질문 → 케플러의 추측. 대포알을 어떻게 쌓아야 가장 많이 들어가나.
1900년경
2차원(원반 채우기) 해결. 3차원은 "가능성이 너무 많다."
1940년대~
섀넌·해밍의 정보이론과 부호이론. 비트열 공간의 '구 채우기'가 통신 용량의 한계를 정한다.
1998 → 2014
헤일스의 컴퓨터 보조 증명 → Flyspeck 형식 검증. 케플러 추측은 이제 100% 확실.
2016
마리나 비아조우스카가 8차원과 24차원의 최적 구 채우기를 증명(2022년 필즈상). "4차원 오렌지는 없다"던 호기심의 질문에 답이 왔고, 그 구조(E₈·리치 격자)는 부호이론과 물리학에 쓰인다.

제6장: 오늘의 일에 대입하면

6.1 닿을 수 없는 것을 재는 세 가지 방법

기하의 닮음은 "직접 잴 수 없는 것을 아는 것과 각도로 추정"하는 방법이다. 실무에서 같은 구조의 추정이 매일 일어난다.

  • 샘플로 전체를 안다. 200건을 검토해 오류율 3%를 얻으면 1만 건에는 약 300건이라고 추정한다. 작은 삼각형(샘플)과 큰 삼각형(전체)이 닮았다는 가정 위에 서 있다. 그 가정이 깨지는 지점(편향된 샘플)이 4편 확률의 주제다.
  • 파일럿으로 본 사업을 안다. 매장 3곳의 결과로 300곳을 추정한다. 단, 3편의 제곱-세제곱 법칙을 기억할 것 — 규모가 커지면 어떤 비용은 선형으로, 어떤 비용은 제곱으로 는다. 파일럿의 비율이 그대로 유지된다는 가정은 '닮음'이 성립할 때만 맞다.
  • 벤치마크로 실제 성능을 안다. 테스트셋 점수로 배포 후 성능을 추정한다. 테스트셋과 실제 트래픽이 '닮았을' 때만 맞고, 아니면 아리스타르코스처럼 방법은 옳되 측정이 어긋난다.

6.2 '두 배'를 말할 때 무엇의 두 배인지 명시하기

"트래픽이 두 배가 되면 서버도 두 배"는 대개 틀린다. 어떤 자원은 트래픽에 선형(대역폭), 어떤 것은 제곱에 가깝게(모든 쌍을 비교하는 연산, 예: 유사도 매트릭스), 어떤 것은 로그로(인덱스 조회) 는다. 기획서에 '두 배'가 나오면 "무엇을 두 배로 만들면, 무엇이 몇 배가 되는가"를 한 줄 덧붙이는 습관이 기하적 사고다.

6.3 공리를 의심하기

평행선 공준의 이야기는 실무에도 옮겨진다. 조직에는 "당연히 그렇다"고 여겨 아무도 검토하지 않는 가정이 있다. 그 가정이 틀렸다고 잠깐 가정해 보는 연습 — "고객은 늘 가격에 민감하다"가 틀리면? "배포는 주 1회여야 한다"가 틀리면? — 은 로바체프스키가 한 일과 같은 종류다. 대부분은 원래 가정이 맞다는 것을 다시 확인하는 데서 끝나지만, 가끔 새 기하가 열린다.


제7장: 흔한 오해

오해 1
"기하 = 도형 문제"
기하의 대상은 도형이 아니라 '측정값 사이의 법칙'이다. 비트열의 공간도 기하이고, 시공간도 기하이고, 데이터 포인트들의 유사도 공간도 기하다. 도형은 그 법칙을 처음 발견한 장소일 뿐이다.
오해 2
"방법이 옳으면 답도 옳다"
아리스타르코스의 방법은 옳았고 답은 20배 틀렸다. 각도 87°와 89.85°의 차이가 결과를 18배와 390배로 갈랐다. 기하는 측정을 '증폭'하기도 한다 — 그래서 5편 해석이 필요하다.
오해 3
"현실은 유클리드 공간이다"
지구 표면은 구면 기하(비행기가 대원 항로를 날고, 삼각형 내각 합이 180°를 넘는다). 시공간은 리만 기하. 유클리드 기하는 작은 스케일에서의 훌륭한 근사다 — 근사라는 사실을 아는 것이 중요하다.
핵심
감각을 확장하는 도구
기하는 손이 닿는 곳의 측정을 손이 닿지 않는 곳으로 옮기는 법칙이다. 그 옮김이 정당한 조건(닮음, 같은 기하)을 아는 것이 이 언어의 문법이다.

제8장: 이 언어로 말하기 — 체크리스트

  1. 직접 잴 수 없는 것을 무엇으로 대신 재는지 적는다. 샘플, 파일럿, 벤치마크 — 그것이 '작은 삼각형'이다.
  2. 닮음이 성립하는지 묻는다. 작은 것과 큰 것이 같은 비율을 유지하는가. 유지되지 않는 지점(규모의 비선형)을 미리 찾는다.
  3. '두 배'에 대상을 붙인다. 길이·면적·부피 중 무엇의 두 배인가. 그러면 다른 것은 몇 배가 되는가.
  4. 각도(입력)의 오차가 거리(출력)에서 얼마가 되는지 본다. 5편의 오차 전파를 미리 쓰는 것이다.
  5. 당연한 공리 하나를 골라 부정해 본다. 대부분 원래대로 돌아오지만, 가끔 새 공간이 열린다.
  6. 호기심의 질문을 버리지 않는다. "4차원 오렌지"는 400년 뒤 무선 통신이 됐다. 지금 응용이 없는 질문이 파이프라인의 맨 앞에 있다.

다음 편

4편 「확률」 — 도박사들이 수학자 친구에게 보낸 편지에서 태어난 학문. 모든 결과를 정확히 계산하는 대신 '어떤 결과가 더 자주 오는가'를 다루기로 한 결단. 주사위든 키든 실험 오차든 왜 같은 종 모양으로 수렴하는가(보편성), 그리고 "80%짜리 작업을 세 번 시도하면 99.2%"라는 계산이 언제 맞고 언제 틀리는가.


참고 자료

타오 인용은 Big Think 공개 대본의 영문 원문을 코어닷투데이가 한국어로 옮긴 것입니다. 일러스트는 코어닷투데이가 제작했습니다.