테런스 타오의 여섯 기둥 중 네 번째, 확률. 모든 결과를 정확히 계산하는 대신 '어떤 결과가 더 자주 오는가'를 다루기로 한 결단은 도박사들이 수학자 친구에게 보낸 편지에서 시작됐다. 주사위든 사람의 키든 실험 오차든 왜 같은 종 모양으로 수렴하는가(보편성), 확률이 잘 작동하는 조건과 작동하지 않는 조건(백 년에 한 번 오는 사건), 그리고 '성공률 80%짜리 작업을 세 번 시도하면 99.2%'라는 계산이 독립 가정 없이는 무너지는 이유를 두 개의 인터랙티브로 확인한다.
시리즈 「수학은 언어다」 — 0편 여섯 기둥과 AI 시대 · 1편 수 · 2편 대수 · 3편 기하 · 4편 확률 · 5편 해석 · 6편 동역학
"결국 깨달은 것은, 모든 결과에 대해 늘 정확한 답을 계산하려 하기보다, 때로는 어떤 측정에 결과의 범위가 있다는 것을 받아들여야 한다는 것이다. 중요한 것은 어느 것이 더 자주 오고 어느 것이 덜 자주 오는가다." — 테런스 타오, Big Think 인터뷰 13:30
타오는 확률을 소개하며 학교 수학을 비판한다.
"초등학교나 고등학교에서 수학을 가르칠 때, 우리는 아주 소독된, 예측 가능한 문장제를 낸다 — 애니에게 사과 30개가 있고, 절반을 제임스에게 주면 제임스는 몇 개를 갖는가 — 모든 것이 정확하고 모든 정보를 안다. 그런데 실세계에는 불확실성과 예측 불가능성이 있다."
우리는 이것을 이미 안다. 내일 비가 올 수도 안 올 수도 있다. 이 프로젝트는 성공할 수도 실패할 수도 있다. 동전을 던지면 앞이 나올 수도 뒤가 나올 수도 있다. 그리고 우리는 '될 수도 안 될 수도'가 모두 같은 정도가 아니라는 것도 안다. 어떤 것은 더 자주 된다. 이 직관 — 불확실하지만 빈도는 다르다 — 이 확률의 출발점이다.
타오의 동전 설명에는 미묘한 지점이 있다.
"동전에 정확히 얼마의 힘을 가했는지와 그 모든 측정값을 알면, 충분한 시뮬레이션으로 동전이 어느 쪽으로 떨어질지 정확히 예측할 수도 있을 것이다. 하지만 이것은 극도로 어렵고, 대개 그 데이터가 없다."
동전 던지기는 원리적으로 결정론적이다. 확률은 세계가 근본적으로 무작위여서 필요한 것이 아니라(양자역학은 별개의 이야기), 모든 것을 계산하기에는 정보와 계산이 부족해서 택하는 언어다. 이 관점이 중요하다. 확률은 무지에 대한 정직한 회계다. 그리고 6편 동역학의 끝에서 타오는 완전히 결정론적인 카오스 시스템조차 확률로 근사하는 것이 최선이라고 말한다.
"이것이 중요하다는 것을 처음 깨달은 사람들은 도박사였다. 도박사는 특정 사건에 돈을 걸었다 — 주사위 눈의 합이 특정 수가 되는 것 같은. 승산을 옳게 계산하면 돈을 벌고, 옳게 계산하지 못하면 장기적으로 돈을 잃었다. 확률의 수학은 도박사들이 수학자 친구에게 자기 도박 전략을 최적화해 달라고 쓴 여러 통의 편지로 만들어졌다."
1654년, 파리의 도박사 슈발리에 드 메레가 블레즈 파스칼에게 물었다. 게임을 중간에 멈추면 판돈을 어떻게 나눠야 공정한가? 파스칼은 피에르 드 페르마 — 그렇다, 1편 시리즈 밖 페르마 특집의 그 페르마 — 와 편지를 주고받으며 답을 찾았다. 이 편지들이 확률론의 출생증명서다. '기대값'이라는 개념, 즉 각 결과의 값에 그 결과의 빈도를 곱해 더한 것이 여기서 나왔다.
왜 도박사였는가. 1편의 교훈이 여기 있다. 시적으로 말하는 것("운이 좋으면 이긴다")의 비용이 돈으로 즉시 청구되는 곳에서 정밀한 언어가 태어났다. 위험과 보상이 반복적으로 측정되는 곳에서 확률은 필수였다.
"확률은 도박의 뿌리를 훨씬 넘어 꽃피었다. 제일 원리(first principles)에서 끝까지 모델링하기에 너무 복잡한 시스템이 있을 때마다 어떤 확률적 요소가 있을 것이고, 우리는 확률 모델을 원한다. 주식시장이든, 어떤 약이 성공할지든, 우리는 확률로 향한다."
여기서 타오는 이 언어의 한계를 정직하게 말한다.
"아주 자주, 우리는 승산이 얼마인지 모른다. 확률은 반복해서, 반복해서 일어나는 사건 — 수천, 수천 번의 시행 — 에서 가장 잘 작동한다. 그러면 승산을 잘 측정하기 시작할 수 있다. 한 세기에 한 번 일어나는 사건이라면 그것은 맞는 수학이 아닐 수 있고, 우리는 극도로 희귀한 사건에 대해 확률보다 나은 대체 수학을 아직 찾고 있다."
이 구분은 실무에서 결정적이다. A/B 테스트(수만 번 반복)에는 확률이 완벽하게 맞는 언어다. 신제품의 성공 여부(한 번)에 "성공 확률 70%"라고 말하는 것은 다른 종류의 진술이다 — 빈도가 아니라 믿음의 정도이고, 그것을 뒷받침할 반복이 없다. 두 진술이 같은 '70%'라는 옷을 입고 있어서 혼동된다. 이 언어를 쓸 때 첫 질문은 "이 사건은 반복되는가?"이다.
타오가 "확률을 효과적으로 만드는 기적"이라 부르는 것이 있다.
"실험을 바꿀 때마다 — 의학 시험 대신 주사위 결과를, 혹은 진화에서 어떤 유전 형질이 나타날지를 이해하려 할 때 — 상황마다 아주 다른 분포가 나올 것이라고 생각할 수 있다. 어떤 것은 꼬리가 두껍고 어떤 것은 좁고. 그런데 확률에는 보편성 법칙이라는 재미있는 법칙들이 있어서, 아주 일반적인 종류의 무작위 시스템들이 공통의 모양을 만들어 낸다. 가장 유명한 것이 가우시안, 종 모양 곡선이다 — 남성이나 여성의 키 같은 많은 분포가 거의 완벽한 종 모양을 이룬다. 우리는 이제 좋은 설명을 갖고 있다 — 확률을 충분히 이해해서 이 보편 법칙 중 상당수를 수학으로 설명할 수 있다. 다만 일부는 여전히 미스터리다."
가장 유명한 설명이 중심극한정리다. 서로 독립적인 작은 무작위 요인들을 많이 더하면, 각 요인의 분포가 무엇이든 합의 분포는 종 모양에 가까워진다. 사람의 키는 수천 개의 유전자와 환경 요인의 합이다. 측정 오차는 수십 개의 작은 교란의 합이다. 시험 점수는 여러 문항의 합이다. 그래서 종 모양이 어디에나 있다 — 세계가 가우시안을 좋아해서가 아니라, 더하기가 가우시안을 만들기 때문이다.
아래 실험에서 직접 확인해 보자. 출발 분포를 극단적으로 치우친 것으로 골라도, 그것을 몇 개 더하면 종 모양이 나온다.
위젯의 마지막 문장을 놓치지 말자. 중심극한정리에는 조건이 있다. 더하는 요인들이 독립이고 분산이 유한해야 한다. 두 조건이 깨지면 종 모양이 나오지 않는다.
두 번째 조건이 다음 장의 주제다.
어떤 작업이 매번 80% 확률로 성공한다. 세 번 시도해서 한 번 이상 성공할 확률은? 세 번 모두 실패할 확률은 0.2 × 0.2 × 0.2 = 0.008이니, 한 번 이상 성공은 1 − 0.008 = 99.2%다.
이 계산은 맞다. 단 하나의 조건이 있다 — 세 번의 시도가 독립이어야 한다. 첫 시도의 실패가 두 번째 시도의 성공 확률을 바꾸지 않아야 한다. 곱셈 규칙 P(A and B) = P(A) × P(B)는 독립일 때만 성립한다.
AI 에이전트에게 코드를 짜게 했다가 실패해서 다시 시킨다. 두 번째 시도는 첫 번째와 독립인가? 같은 모델, 같은 프롬프트, 같은 문제 이해라면 같은 이유로 다시 실패할 확률이 높다. 서버 요청이 타임아웃되어 재시도한다. 첫 실패의 원인이 서버 과부하라면 두 번째도 과부하다. 면접에서 떨어져 같은 회사에 다시 지원한다. 같은 이력서라면 같은 결과다.
이런 경우 '80%'는 시도마다 독립적으로 던지는 주사위가 아니라, 한 번 정해지면 모든 시도에 같이 적용되는 상태에 가깝다. 극단적으로 모든 실패가 공통 원인이라면, 세 번 시도해도 성공 확률은 80%에서 한 발도 못 움직인다.
아래 검사기에서 '공통 원인으로 함께 실패하는 비율'을 올려 보라. 재시도의 힘이 어떻게 사라지는지 보인다.
이 편에서 가장 실용적인 문장은 이것이다. 확률값을 받으면 그 값을 계산한 가정을 함께 확인하라. 99.2%는 틀린 숫자가 아니다. 독립이라는 가정이 붙어 있는 숫자다. 가정이 깨지면 숫자도 깨진다. 1편에서 "숫자를 받으면 어떻게 셌는지 묻자"고 했다면, 4편에서는 "확률을 받으면 무엇을 독립이라 가정했는지 묻자"가 된다.
그리고 공통 원인이 지배할 때의 대응은 '한 번 더'가 아니다. 원인을 바꾸는 것이다. 다른 모델로, 다른 프롬프트로, 다른 접근으로. 재시도가 독립이 되도록 설계하는 것 — 그것이 확률의 언어가 알려 주는 엔지니어링이다.
인터뷰 2장에서 타오가 "내가 관여한 수학 응용 중 가장 자랑스러운 것"이라 부른 압축 센싱은 확률과 해석이 만나는 곳에 있다. 이야기의 앞부분은 여기서, 수학적 핵심은 5편에서 다룬다.
"LA의 수학 연구소 학제 프로그램에서 통계학자 친구를 만났는데, 그는 전기공학자와 함께 의료 영상 — MRI — 을 개선하려 하고 있었다. 당시 MRI는 꽤 느렸다 — 몸의 좋은 영상을 재구성할 만큼 여러 각도에서 데이터를 모으려면 3분쯤 기계 안에 앉아 있어야 했다. 아이들은 2분쯤 지나면 꿈틀거려서 때로 진정제를 맞아야 했다."
30초만 앉으면 데이터가 부족하다. 표준 기법(최소제곱)으로 복원하면 진단에 쓸 수 없을 만큼 흐린 영상이 나온다. 그들은 다른 기법(총변동 최소화)을 시험했고, 조금 더 선명하기를 기대했는데 — 거의 완벽한 영상이 나왔다.
"낱말 퍼즐에서 글자의 10%만 채워 줬는데 갑자기 힌트를 보지 않고 나머지 글자를 전부 채우는 것 같은 일이었다."
타오의 첫 반응은 "당신들이 실수했다"였다. 그는 그 데이터량으로는 불가능함을 증명하러 집에 갔다. 그리고 증명의 한 단계가 통하지 않았다 — 오히려 반대를 보여 줬다. 측정 행렬이 어떤 성질을 갖추면 그 방법이 통한다는 것. 그리고 그들의 측정 행렬은 실제로 그 성질을 갖고 있었다.
여기서 확률이 등장한다. 그 성질을 갖는 측정 행렬을 설계하는 것은 어렵지만, 무작위로 만들면 높은 확률로 그 성질을 갖는다. 압축 센싱의 표준 레시피는 "측정을 무작위로 하라"이다. 무작위성이 정보를 잃게 하는 것이 아니라 오히려 정보를 고르게 잡아 주는 도구가 된다 — 도박사의 주사위가 3세기 반 뒤 MRI 시간을 6분의 1로 줄인 것이다.
"지진학자들은 다른 문제 — 적은 지진 데이터로 단층선을 찾는 것 — 에서 비슷한 방법을 발견했다. 천문학자들은 아주 적은 관측 데이터로 별의 위치를 재는 비슷한 문제가 있었다. 각자 데이터에서 해상도를 더 짜내는 임시 처방을 찾았지만, 왜 통하는지 수학적으로 설명하지 못했다. 지진학자들은 '이 트릭은 지진계에만 통한다'고 생각했고, 천문학자들은 천문학에만 통한다고 생각했다. 수학적 설명을 찾자, 그것이 일반 기법이라는 것을 알게 됐다."
이것이 0편에서 본 '언어'의 마지막 기능이다. 언어는 서로 다른 분야가 각자 갖고 있던 경험적 트릭을 하나의 문장으로 만들어, 그 문장이 적용되는 다른 모든 곳을 보이게 한다.
| 진술 | 반복되는가 | 확률의 종류 | 어떻게 다뤄야 하나 |
|---|---|---|---|
| "이 버튼 색이 전환율을 2% 올릴 확률 95%" | 예 (수만 명) | 빈도 | 표본 크기와 신뢰구간을 요구한다. 확률이 가장 잘 작동하는 영역 |
| "이 배치 작업이 밤새 성공할 확률 99%" | 예 (매일) | 빈도 | 지난 100일의 기록으로 검증 가능. 단, 실패의 공통 원인(월말·배포일)을 분리해서 본다 |
| "이 AI 답변이 정확할 확률 90%" | 부분적 | 빈도 + 조건 | 어떤 종류의 질문에서 90%인지 조건을 붙여야 한다. 조건이 바뀌면 숫자도 바뀐다 |
| "신제품이 성공할 확률 70%" | 아니오 (한 번) | 믿음의 정도 | 빈도가 아님을 인정하고, 어떤 근거로 70%인지 명시한다. 비슷한 과거 사례가 있으면 그 기저율을 먼저 본다 |
| "이런 규모의 장애가 올해 일어날 확률" | 희귀 | 꼬리 사건 | 타오의 경고: 확률이 맞는 수학이 아닐 수 있다. 확률보다 '일어났을 때의 피해'와 대비에 집중한다 |
재시도·백업·이중화의 가치는 모두 독립 가정 위에 있다. 두 개의 백업이 같은 데이터센터에 있으면 이중화가 아니다. 두 명의 검토자가 같은 체크리스트로 같은 순서로 보면 두 번 검토한 것이 아니다. AI 결과를 같은 모델에게 "검토해"라고 시키면 독립적 검증이 아니다. 독립을 얻으려면 원인을 다르게 해야 한다 — 다른 지역, 다른 관점, 다른 모델. 이것이 확률의 언어가 시스템 설계에 주는 가장 직접적인 지시다.
"평균 응답 시간 200ms"는 종 모양을 가정할 때만 안심할 수 있는 말이다. 분포의 꼬리가 두꺼우면(대부분 100ms, 1%가 10초) 평균은 사용자 경험을 전혀 대표하지 않는다. 그래서 엔지니어들은 평균 대신 p95, p99(95%, 99% 지점의 값)를 본다. 보편성이 성립하지 않는 곳에서 종 모양의 요약 통계(평균, 표준편차)를 쓰는 것이 가장 흔한 확률의 오용이다.
5편 「해석」 — "대략 2m, 플러스 마이너스 10cm." 오차 막대의 수학이자 무한을 길들이는 수학. 잃을 때마다 판돈을 두 배로 걸면 무한한 돈으로는 항상 이기지만 유한한 돈으로는 왜 파산하는가, 무한 원숭이는 셰익스피어를 치지만 왜 한 페이지에도 우주의 나이가 걸리는가, 그리고 타오가 어린 시절 게임 치트에서 배운 문제 풀이의 비법 — 먼저 무한한 자원으로 풀고, 유한한 세계로 돌아오라.
타오 인용은 Big Think 공개 대본의 영문 원문을 코어닷투데이가 한국어로 옮긴 것입니다. 일러스트는 코어닷투데이가 제작했습니다.
RELATED
