테런스 타오의 여섯 기둥 중 다섯 번째, 해석. '대략 2m, 플러스 마이너스 10cm' — 해석은 오차 막대의 수학이자 무한을 역설 없이 다루는 수학이다. 잃을 때마다 판돈을 두 배로 걸면 무한한 돈으로는 항상 이기지만 유한한 돈으로는 왜 파산하는가, 무한 원숭이는 셰익스피어를 치지만 왜 한 페이지에도 우주의 나이 이상이 걸리는가, 그리고 타오가 어린 시절 게임 치트에서 배운 문제 풀이의 비법 — 먼저 무한한 자원으로 풀고, 유한한 세계로 돌아오라 — 를 세 개의 인터랙티브로 확인한다.
시리즈 「수학은 언어다」 — 0편 여섯 기둥과 AI 시대 · 1편 수 · 2편 대수 · 3편 기하 · 4편 확률 · 5편 해석 · 6편 동역학
"해석은 오차 막대의 수학이다. … 그리고 무한은 제대로 다루도록 훈련받지 않으면 아주 위험한 짐승이다." — 테런스 타오, Big Think 인터뷰 17:00
해석(analysis)은 여섯 기둥 중 이름이 가장 낯설다. 학교에서는 '미적분'이라는 이름으로 그 일부를 만난다. 그런데 타오의 정의는 미적분보다 훨씬 일상적이다.
"해석은 수학이 두 가지를 다루는 방식이다. 하나는 측정의 부정확함 — 때로 그것은 무작위성이 아니라 그냥 정밀하지 않음이다. 해석은 오차 막대의 수학이다. 우리는 어떤 양의 수치가 얼마인지뿐 아니라 얼마나 불확실한지 — 그 주위의 플러스 마이너스 오차 막대가 얼마인지 — 도 이해해야 한다는 것을 깨달았다. 이것은 '크다', '작다'라는 정성적 언어만으로는 말할 수조차 없는 개념이다."
우리는 이것을 이미 안다. "대략 2미터"라고 말할 때 우리는 정확히 2.000m라는 뜻이 아니라는 것을 안다. 그런데 "대략"이 ±1cm인지 ±30cm인지는 말하지 않는다. 해석은 그 "대략"에 숫자를 붙인다. 2m ± 10cm. 그러면 두 가지가 가능해진다. 오차가 다음 계산에서 얼마로 커지는지 따라갈 수 있고, 오차를 줄이려면 어디를 더 정밀하게 재야 하는지 알 수 있다.
4편의 확률과 무엇이 다른가. 확률은 결과가 여럿일 때(동전이 앞 또는 뒤)의 빈도를 다룬다. 해석은 결과가 하나인데 우리가 정확히 모를 때(막대의 길이는 하나인데 눈금이 거칠다)의 오차를 다룬다. 둘은 자주 함께 쓰이지만 다른 종류의 불확실성이다.
한 변이 약 2m인 정사각형의 넓이는 4㎡. 그런데 한 변이 1.9~2.1m라면 넓이는 3.61~4.41㎡다. 입력의 오차 ±5%가 출력에서는 대략 ±10%가 됐다. 넓이는 길이의 제곱이니 상대 오차가 두 배로 커진다. 부피라면 세 배. 3편의 아리스타르코스가 각도를 3° 잘못 재고 거리를 20배 틀린 것도 같은 현상이다 — 어떤 계산은 오차를 크게 증폭한다.
"이상적으로는 오차가 0이면 좋지만 실세계에서는 늘 0으로 만들 수 없다. 그런데 오차를 점점 작게 만들면, 더 정밀한 측정을 계속하면, 오차를 0으로 수렴시킬 수 있다. 다만 오차를 완전히 0으로 내리는 데는 무한한 정밀도, 혹은 무한한 시간이 걸릴 수 있다."
여기서 해석의 두 얼굴이 만난다. 오차를 따라가는 일(오차 전파)과 오차를 0으로 보내는 일(극한). 아래 계산기로 첫 얼굴을 만져 보자. 같은 ±10cm가 넓이·부피·역수·지수를 거치면 어떻게 다르게 커지는지, 그리고 제곱근처럼 오차를 줄이는 연산도 있다는 것을 보라.
오차 전파가 실무에서 가장 유용한 이유는 "더 정밀하게 재라"보다 먼저 "어느 입력의 정밀도가 결과를 지배하는가"를 알려 주기 때문이다. 매출 예측 = 고객 수 × 전환율 × 객단가에서 세 입력의 오차가 각각 ±5%, ±30%, ±3%라면, 결과의 오차는 거의 전환율이 결정한다. 고객 수를 더 정밀하게 조사하는 데 예산을 쓰는 것은 낭비다. 해석은 예산을 어디에 쓸지 알려 준다.
"해석은 극한을 취하는 법과 무한을 다루는 법에 관한 것이기도 하다. 대수의 법칙은 유한한 횟수의 연산에서는 아주 잘 작동한다. 다섯 개를 더하는 데는 문제가 없다 — 어떤 순서로든 재배열할 수 있다. 그런데 무한한 횟수의 연산을 하려 하면 이상한 역설들이 나타난다 — 때로 무한한 개수의 항을 재배열하면 재배열 전과 다른 합이 나온다. 유한한 합에서는 일어나지 않는 일이다."
2편에서 배운 교환법칙이 깨지는 것이다. 1 − 1/2 + 1/3 − 1/4 + … 는 ln 2 ≈ 0.693으로 수렴한다. 그런데 같은 항들을 순서만 바꿔 더하면 원하는 어떤 값으로도 수렴시킬 수 있다(리만 재배열 정리). 유한한 세계의 상식이 무한에서는 통하지 않는다.
"해석 이전에는 아주 부정확한 수학이 많았다. 사람들은 '이걸 무한히 반복하면 이 문제들을 다 없앨 수 있다'고 말했다. 무한이 아주 위험한 짐승이라는 것을 깨닫는 데 시간이 걸렸다. 하지만 우리는 실세계에서 늘 무한을 다뤄야 한다 — 글쎄, 무한은 아니지만 아주 큰 수를 다뤄야 하고, 무한은 큰 수를 다루는 법을 이해하는 아주 좋은 근사다. 다만 조심해서 써야 한다."
타오가 든 첫 사례는 도박이다.
"룰렛에서 늘 빨강이나 검정에 건다면 50% 이기고 50% 잃는다. 유한한 돈만 있다면 장기적으로 이기는 것을 보장하는 전략은 없다는 정리가 있다. 어떤 베팅 전략도 하우스를 이길 수 없다. 그런데 잃을 때마다 판돈을 두 배로 올리는 전략이 있다 — 한 번만 이기면 1달러를 되찾는다. 그러니 하우스를 계속 이기는 방법이 있는 셈이다. 문제는 그것이 무한한 돈을 가정한다는 것이다. 이 전략이 하는 일은 돈을 잃는 모든 위험을 늘 지기만 하는 아주, 아주 작은 사건에 압축하는 것이다. 어느 순간 수백만 달러를 걸고 있고, 어느 순간 파산한다."
1, 2, 4, 8, 16, … 연패 10회면 판돈은 1,024원이고 그때까지 잃은 돈은 1,023원이다. 연패 20회면 100만 원이 넘는다. 무한한 돈이 있으면 언젠가 이기니 늘 1원을 딴다. 유한한 돈이 있으면 언젠가 연패가 지갑을 넘어서고, 그 한 번에 모든 것을 잃는다. 기대값은 여전히 0이다. 바뀐 것은 위험의 분포 — 자주 조금 따고 드물게 전부 잃는 모양으로.
"해석은 이런 꼬리 위험이 정확히 무엇인지, 그리고 이 모든 역설을 피하면서 무한을 추론하는 법을 이해하게 해 준다."
아래 시뮬레이터로 세션을 여러 번 돌려 보자. 초록 점이 이어지다가 붉은 점이 나타나는 순간이 해석이 경고하는 지점이다.
이 구조는 도박장 밖에서 더 자주 보인다. "지금까지 문제없었다"는 시스템, 손실을 만회하려 포지션을 키우는 트레이더, 실패한 프로젝트에 예산을 두 배로 붓는 조직, 재시도할 때마다 타임아웃을 두 배로 늘리는 코드. 모두 위험을 없앤 것이 아니라 작고 치명적인 사건으로 압축한 것이다. 해석의 언어로 물어야 할 질문은 "평균 결과가 무엇인가"가 아니라 "꼬리에서 무슨 일이 일어나며, 그것이 올 때 내 자원이 버티는가"다.
"무한의 반직관적 성질을 보여 주는 유명한 시연이 무한 원숭이 정리다. 타자기를 무작위로 치는 원숭이가 영원히 친다면, 대개는 헛소리를 치지만 가끔 단어나 문장을 친다. 충분히 오래 기다리면 원숭이가 당신이 원하는 것 — 셰익스피어 전집이든 햄릿이든 위키백과든 — 을 결국 칠 것이 거의 확실히 보장된다. 수학적으로 증명할 수 있다 — 원숭이가 한 번에 그것을 칠 확률이 양수라면, 아무리 작아도, 충분히 기다리면 그 패턴이 나올 확률은 1로 간다."
여기까지가 무한의 이야기다. 그리고 타오는 유한으로 돌아온다.
"그런데 걸리는 시간은 텍스트의 크기에 지수적으로 는다. 네 글자 단어면 한 시간쯤 걸릴 수 있다. 일곱 글자 — 'Shakespeare'라는 단어 — 라면 이미 몇 년이 걸릴 수 있다. 한 문장이면 수천 년. 햄릿의 한 조각 — 한 쪽만이라도 — 은 실제로 보기까지 우주의 나이보다 훨씬 오래 걸린다."
'확률이 양수면 결국 일어난다'(무한)와 '그 결국이 우리 시간 안에 오는가'(유한)는 다른 질문이다. 아래 계산기에서 문구를 바꿔 보라. 글자 하나가 늘 때마다 기대 시간이 27배씩 는다.
"그러니 무한은 사실 당신이 생각해 낼 수 있는 어떤 고정된 수보다도 훨씬 클 수 있는 수의 자리표시자일 뿐이다."
이 문장이 해석이라는 언어의 핵심 어휘다. 무한은 신비로운 실체가 아니라 "어떤 유한한 한계도 넘을 수 있음"을 뜻하는 문법 장치다. 그렇게 보면 무한은 위험하지 않다. 위험한 것은 무한에서 얻은 결론을 유한에 그대로 가져오는 일이다.
이 편에서 가장 실용적인 대목이다. 타오는 무한을 문제 풀이의 도구로 쓴다.
"실세계에는 무한히 많은 원숭이도, 무한한 예산도 없지만, 우리는 종종 무한으로 먼저 추론한다 — 이상화된 상황으로, 무엇이 가능한지 보기 위해. 그리고 거기서 유한한 자원으로 정확히 무엇을 할 수 있는지라는 더 정량적인 질문으로 넘어간다. 하지만 먼저 무한한 자원으로 무엇을 할지 이해한다."
그리고 어린 시절의 비유가 나온다.
"어릴 때 컴퓨터 게임을 많이 했다. 많은 게임에 치트가 있었다 — 무한 체력이나 무한 탄약을 줄 수 있었다. 체력 포션이나 탄약 관리를 걱정하지 않고 치트를 켠 채로 먼저 게임을 해서 어떻게 깨는지 보고, 그다음 더 어려운 모드로 어떻게 더 효율적으로 하는지 보는 것이 때로 도움이 됐다. 수학의 많은 문제가 실제로 이렇게 풀린다."
왜 이것이 가능한가. 0편에서 본 타오의 관찰 — 수학에서는 실패가 싸다 — 때문이다.
"수학이 다른 분야와 다른 점 하나는 실패할 자유가 있다는 것이다. 사업 결정을 잘못해 회사가 파산하면 끔찍한 실수다. 외과의사가 잘못 자르면 끔찍한 실수다. 하지만 수학 문제를 풀다 틀린 가정을 해서 안 되면 그리 나쁜 실수가 아니다 — 다시 하면 된다. 문제를 풀 때 먼저 이상화된 가정을 하는 것 — 무한한 에너지, 마찰 0, 그 밖의 비현실적 가정 — 은 사실 좋은 수다. 그렇게 문제를 풀고, 그다음 무한한 세계에서 유한한 세계로 돌아오려 한다. 여기서 해석이 들어온다 — 무한 수학의 어떤 특징이 유한 세계에서도 여전히 통하고 어떤 것이 무너지는지 신중하게 보는 것."
4편에서 시작한 타오의 압축 센싱 이야기를 여기서 끝내자. 그는 "그 데이터량으로는 불가능하다"는 것을 증명하러 집에 갔다.
"그날 밤 집에 가서 그들이 측정한 적은 데이터로는 올바른 영상을 맞게 추측할 방법이 없다는 증명을 쓰려 했다. 그런데 쓰다 보니 내 단계 중 하나가 통하지 않았다 — 사실 그것은 반대를 보여 줬다. 어떤 측정 행렬이 어떤 성질을 갖는다면, 그들이 하는 것이 실제로 통한다는 것을. 그리고 그들의 측정 행렬이 실제로 그 성질을 따르는 것 같다는 것을 확인했다."
이것이 해석의 방법이다. '불가능'을 증명하려면 오차의 하한을 보여야 한다 — 어떤 방법을 써도 오차가 이 아래로는 내려가지 않는다는 것. 타오는 하한을 세우려다 그 하한이 서지 않는 조건을 발견했다. 신호가 희소(대부분 0이고 몇 개만 값이 있음, 의료 영상의 경계선처럼)하고, 측정 행렬이 어떤 균등성 조건(제한 등거리 성질)을 만족하면, 정보이론적으로 필요한 최소 측정 수보다 훨씬 적은 측정으로 오차 0의 복원이 가능하다. 잡음이 있으면 오차를 잡음 크기에 비례해 통제한 복원이 가능하다.
낱말 퍼즐 비유로 돌아가면, 글자의 10%만 알아도 나머지를 채울 수 있는 이유는 답이 '단어'라는 구조를 갖기 때문이다. 아무 글자 나열이 아니라 사전에 있는 단어라는 제약이 정보 부족을 보상한다. 압축 센싱의 '희소성'이 그 제약이고, 해석은 그 제약이 얼마나 많은 측정을 절약해 주는지 정확한 부등식으로 말한다. 이렇게 하나의 부등식이 MRI·지진학·천문학·무선 통신의 개별 트릭들을 하나로 묶었다.
6편 「동역학」 — 마지막 기둥. 지금 상태가 다음 상태를 만드는 규칙의 수학. LA 고속도로의 원인 없는 정체는 몇 시간 전 사고가 남긴 압축파다. 아래로 늘어진 진자와 거꾸로 선 진자는 둘 다 평형이지만 살짝 밀면 운명이 갈린다. 뉴턴은 2체 문제를 풀었지만 3체 문제는 "유일하게 두통을 준 문제"였고, 그 끝에서 완전히 결정론적인 시스템조차 확률로 근사해야 하는 카오스가 발견됐다. 그리고 인류가 1만 년 동안 살았던 기후의 안정 평형을 떠나는 일에 대해.
타오 인용은 Big Think 공개 대본의 영문 원문을 코어닷투데이가 한국어로 옮긴 것입니다. 일러스트는 코어닷투데이가 제작했습니다.
RELATED
