수학은 언어다 (6편) 동역학: 원인 없는 정체, 거꾸로 선 진자, 뉴턴의 두통, 그리고 결정론이 확률로 바뀌는 곳
테런스 타오의 여섯 기둥 중 마지막, 동역학. 지금 상태가 다음 상태를 만드는 규칙의 수학이다. 단순한 규칙을 반복하면 예상 못 한 창발 현상이 나오고(진화, 교통 체증), 어떤 평형은 안정하고 어떤 평형은 불안정하며(늘어진 진자와 거꾸로 선 진자, 그리고 기후), 뉴턴이 '유일하게 두통을 준 문제'라 부른 3체 문제의 끝에는 카오스가 있다 — 완전히 결정론적인 시스템조차 확률로 근사하는 것이 최선인 세계. 세 개의 인터랙티브로 확인하고, 시리즈를 마무리한다.
"동역학은 시간에 따른 변화의 수학이다 — 점진적 변화의 규칙, 상태가 한 시점에서 다음 시점으로 어떻게 진화하는지, 그리고 처음 규칙에서는 기대하지 못한 온갖 창발적이고 흥미로운 행동의 연구다. 우리는 아주 단순한 규칙도 충분히 오래 반복하면 극도로 복잡한 창발 행동을 만들 수 있다는 것을 알게 됐다."
— 테런스 타오, Big Think 인터뷰 24:07
제1장: 직관 — 지금이 다음을 만든다
우리는 이미 안다. 오늘 저축한 돈이 내일의 잔고를 만들고, 그 잔고가 이자를 낳아 그다음 날의 잔고를 만든다. 오늘 밀린 일이 내일의 할 일을 늘리고, 늘어난 할 일이 또 밀린다. 눈덩이는 굴러가며 커지고, 소문은 퍼지며 바뀐다. 지금 상태가 규칙을 거쳐 다음 상태가 된다 — 이것이 동역학의 직관이고, 우리는 그것을 몸으로 안다.
동역학이 덧붙이는 것은 두 가지다. 첫째, 규칙을 반복했을 때 무엇이 나오는지 계산하는 법. 둘째, 그 결과가 규칙만 보고는 짐작할 수 없는 것일 때가 많다는 깨달음. 타오가 든 첫 사례가 진화다.
"생물학에서 진화가 좋은 예다. 생물들이 있고 번식하고, 더 적합한 것이 더 약한 것보다 자주 살아남고, 형질을 자손에게 넘긴다. 아주 단순한 규칙들이다. 그런데 이 규칙들이 엄청난 종의 다양성과 포식자–피식자 관계와 믿기 어려울 만큼 복잡한 동역학을 만들어 낸다."
규칙 세 줄에서 생물권이 나온다. 이것이 창발이다.
제2장: 언어가 되는 순간 ① — 창발과 압축파
타오의 두 번째 사례는 LA 주민의 일상이다.
"고속도로에 차들이 있고, 각 차는 앞차를 고려해 가능한 한 빨리 가려 한다 — 앞에 차가 많으면 늦추고, 적으면 속도를 낸다. 각 차는 복잡한 일을 전혀 하지 않는다. 그냥 자기 흐름을 최적화할 뿐이다. 그런데 모든 차를 함께 놓고 전체 네트워크에 무슨 일이 생기는지 보면 교통파(traffic wave) 같은 놀라운 창발 현상이 나온다. 슬링키(스프링 장난감)처럼 압축되고 자라는 파동 — 압축파와 팽창파가 생기고, 처음에는 기대하지 않았던 현상으로 이어진다."
그리고 '원인 없는 정체'의 정체가 밝혀진다.
"사고 같은 교통 충격이 있어 차들이 쌓이면, 사고가 치워지고 통행을 막는 것이 전혀 없어진 뒤에도, 동역학을 반복하면 — 실제로 계산해 보면 — 압축파가 사라지는 데 시간이 걸린다. LA에 살면서 이 현상을 자주 겪는다 — 사고도 없고 즉각적인 원인도 없는데 느려지는 구간이 있다. 몇 시간 전에 무언가가 느려짐을 일으켰고, 파동이 사라지는 데 동역학이 일정한 시간을 요구하기 때문이다."
이것이 동역학이라는 언어의 첫 문법이다. 현재 상태는 현재 원인의 결과가 아니라 과거 원인의 누적일 수 있다. 지금 아무 문제가 없어 보이는데 대기가 쌓여 있다면, 원인은 지금이 아니라 이력에 있다. 이 문법을 모르면 "왜 느리지? 지금 아무 문제 없는데"라고 말하며 원인을 못 찾는다.
아래 시뮬레이터로 만져 보자. 분당 도착과 처리를 정하고, 몇 분 동안 처리가 멈추는 '충격'을 넣어 보라. 충격이 끝나도 대기가 바로 사라지지 않고, 여유분(처리 − 도착)이 작을수록 오래 남는다.
2.1 예측과 역설
"동역학을 정말 잘 이해하면 모델링과 시뮬레이션을 할 수 있고 예측할 수 있다 — 이 고속도로에 차선을 하나 더하면 교통이 나아질까? 사실 때로는 나아지지 않는다. 특정 차선을 닫는 것이 전체 흐름을 더 빠르게 만드는 역설들이 있다."
브라에스의 역설(Braess's paradox)이다. 각 운전자가 자기에게 최선인 길을 고르는 규칙을 반복하면, 길을 추가하는 것이 모두를 느리게 만들 수 있다. 서울과 뉴욕 모두에서 도로를 없앴는데 교통이 좋아진 실제 사례가 있다. 동역학의 결론은 직관을 배반할 수 있고, 그래서 시뮬레이션이 필요하다.
제3장: 언어가 되는 순간 ② — 어떤 평형은 안정하고 어떤 평형은 아니다
"어떤 동역학은 예측 가능하다. 때로 평형이 있다 — 영원히 같은 상태로 머무는 상태. 그리고 때로 이 평형은 안정하다 — 그 상태에서 조금 벗어나면 다시 돌아온다. 아래로 늘어진 진자가 안정 평형이다 — 건드리면 조금 움직이다가 안정 평형으로 돌아온다. 그런데 진자를 거꾸로 세워 끝으로 균형을 잡으면, 기술적으로는 그 자세로 영원히 머물 수 있다. 하지만 아주 조금만 건드려도 시간이 지나며 평형에서 멀어진다. 그러니 어느 평형이 안정하고 어느 것이 아닌지 아는 것이 중요하다."
평형은 '변하지 않는 상태'다. 안정성은 '건드렸을 때 돌아오는가'다. 둘은 다른 질문이고, 두 번째가 훨씬 중요하다. 세상에 완전히 건드려지지 않는 것은 없기 때문이다. 골짜기의 공은 밀면 돌아오고, 언덕 위의 공은 밀면 떠난다. 그리고 떠나는 속도는 지수적이다 — 처음엔 느리게, 곧 걷잡을 수 없이.
아래에서 교란의 크기와 반응 속도를 바꿔 보라. 교란이 아무리 작아도 불안정 평형은 결국 떠나고, 아무리 커도 안정 평형은 결국 돌아온다. 안정성은 교란의 크기가 아니라 시스템의 성질이다.
3.1 기후 — 1만 년의 안정 평형을 떠나는 일
타오는 이 언어를 기후에 적용한다. 인터뷰에서 그가 가장 무겁게 말하는 대목이다.
"우리는 이제 기후 변화의 세계를 마주하고 있다. 우리는 1만 년 동안 평형에 아주 가까운 기후에서 살았다 — 어떤 해는 더 덥고 어떤 해는 더 추웠지만 평형으로 되돌아왔다. 그리고 지금 우리는 실제로 그 평형을 떠나 훨씬 덜 안정적인 동역학으로 갈 위험에 처해 있다. 무섭지만 모델링해야 하고, 농업과 다른 모든 관행을 어떻게 적응시키고 바꿀지 알아내야 할 수도 있다."
동역학의 언어가 없으면 이 문장은 "날씨가 좀 더워진다"로 들린다. 언어가 있으면 다르게 들린다. 지금까지 우리를 되돌려 준 것은 복원력이 있는 안정 평형이었고, 걱정은 온도 몇 도가 아니라 복원력을 잃고 다른 평형(혹은 평형 없음)으로 넘어가는 것이다. 골짜기에서 언덕 위로 공을 옮기는 일. 그때부터는 작은 교란도 되돌아오지 않는다.
3.2 조직과 시스템의 평형
재정: 수입 = 지출인 상태는 평형이지만, 적자가 나면 이자가 붙어 적자를 키우는 구조라면 불안정 평형이다. 안정 평형(자동으로 회복되는 구조)인지 불안정 평형(자동으로 악화되는 구조)인지가 '지금 균형인가'보다 중요하다.
팀의 업무 부하: 도착 = 처리는 평형이지만, 밀린 일이 야근을 부르고 야근이 실수를 부르고 실수가 재작업을 부르면 불안정 평형이다. 2장의 시뮬레이터에서 도착 = 처리로 놓고 충격을 넣어 보라 — 쌓인 대기가 스스로 풀리지 않는다.
서비스 안정성: 부하가 오르면 응답이 느려지고, 느려지면 재시도가 늘고, 재시도가 부하를 올리는 구조는 불안정 평형이다. 회로 차단기(circuit breaker)와 백오프는 이 양의 되먹임을 끊어 시스템을 골짜기로 옮기는 장치다.
제4장: 언어가 되는 순간 ③ — 뉴턴의 두통과 카오스
4.1 두 물체는 풀렸다
"뉴턴이 중력 법칙을 도입했을 때, 그 이론의 큰 성공 하나는 지구 주위 달의 운동과 태양 주위 지구의 운동을 설명한 것이었다 — 케플러의 이상한 법칙들, 행성이 왜 타원으로 움직이는지를 사후적으로 전부 설명할 수 있었다. 그는 우리가 지금 2체 문제라 부르는 것을 풀었다 — 태양과 지구처럼 무거운 두 물체가 뉴턴의 역제곱 중력 법칙 하나에 지배되어 움직일 때, 새로 유도한 미적분으로 방정식을 풀어 궤도의 완벽한 공식을 얻었다. 완벽한 타원이었고, 케플러의 이론을 정확히 검증했다. 놀라운 성취였다."
4.2 세 물체는 풀리지 않았다
"2체 문제를 풀자 뉴턴의 후계자들 — 그리고 뉴턴 자신도 — 이 3체 문제를 풀려 한 것은 아주 자연스러웠다. 뉴턴은 이것이 자기에게 두통을 준 유일한 문제라고 말했다고 한다 — 무엇을 시도해도 정확한 해를 얻을 수 없었기 때문이다. 당대의 주요 학회들이 해를 쓰는 사람에게 큰 상을 걸었다. 수학의 주요 미해결 문제 중 하나로 여겨졌다. 우리는 지금도 이 방정식의 정확한 해를 갖고 있지 않고, 지금의 믿음은 깔끔한 공식으로 쓸 수 있는 해는 사실 없다는 것이다."
물체가 둘에서 셋으로 늘었을 뿐인데 문제의 성격이 바뀐다. 이것이 동역학의 세 번째 문법이다. 규칙은 같아도 부품이 조금 늘면 예측 가능성이 질적으로 달라질 수 있다.
"실제로 수치를 보면 깔끔한 주기 패턴이 아니다 — 오랫동안 주기적으로 머물다가 갑자기 조금 다른 것으로 바뀌고, 또 바뀐다."
4.3 태양계도 안정하지 않다
"우리는 지금 여덟 행성을 가진 태양계가 과거에는 다른 행성들도 갖고 있었다고 의심한다. 그것들은 대부분 케플러의 타원 궤도로 움직였지만, 이따금 목성이나 화성의 중력이 미치는 작은 상호작용이 이 행성들을 보통 궤도에서 조금 흔들었고, 가끔은 완전히 벗어나 두 행성이 충돌하거나 하나가 태양계를 탈출했다 — 예컨대 소행성대는 수백만 년 전 충돌의 잔해라고 믿는다. 태양계처럼 가장 안정한 시스템, 수천 년 동안 변하지 않은 듯한 시스템도 장기 불안정성을 갖는다. 가장 단순한 시스템을 넘어서면, 이따금 쌓일 수 있는 작고 예측 불가능하거나 예측이 아주 어려운 편차들이 많다 — 가끔 원숭이 떼가 셰익스피어를 쓰듯, 가끔 중력 교란이 행성 하나를 궤도에서 떼어 낸다."
5편의 무한 원숭이가 여기서 돌아온다. 아주 드문 사건도 충분히 긴 시간에는 일어난다. 태양계의 시간은 충분히 길다.
▲ 로렌츠 끌개. 에드워드 로렌츠가 1963년 대기 대류를 단순화한 세 개의 방정식에서 발견한 궤적. 규칙은 완전히 결정론적이지만 궤적은 결코 반복되지 않고, 아주 가까운 두 출발점이 곧 완전히 다른 곳으로 간다 — '나비 효과'의 원형. (이미지: Wikimol·Dschwen, CC BY-SA 3.0, Wikimedia Commons)
"동역학의 발견 중 하나는 대부분의 시스템이 카오스라 불리는 것을 보인다는 것이다. 이것은 놀라움으로 왔다. … 오늘날 동역학의 가장 발전된 형태에서는, 예측 불가능성이 전혀 없는 완전히 결정론적인 시스템으로 시작해도, 그것을 모델링하는 최선의 방법은 확률로 근사하는 것임을 자주 발견한다 — 어떤 무작위 요동이 왔다 갔다 한다고 그냥 가정하고, 결국 예측은 점점 흐릿해진다. 이것은 많은 시스템이 갖는 카오스의 근본적 특징인 듯하다."
왜 이런 일이 일어나는가. 카오스 시스템은 초기 조건의 아주 작은 차이를 지수적으로 증폭한다(3장의 불안정 평형이 시스템 전체에 퍼져 있는 것과 비슷하다). 그런데 5편에서 배운 대로 모든 측정은 오차를 갖는다. 초기 조건을 소수점 여섯째 자리까지 알아도 일곱째 자리의 오차가 몇십 단계 뒤 완전히 다른 결과를 만든다. 규칙은 결정론적이지만 우리의 지식은 유한하므로, 장기 예측은 원리적으로 흐려진다. 그리고 그 흐림을 정직하게 기술하는 언어가 4편의 확률이다.
아래에서 한 줄짜리 규칙(로지스틱 사상)으로 이것을 직접 볼 수 있다. 성장률 r을 올리면 안정 → 주기 → 카오스가 나오고, 카오스 구간에서는 초기값의 10⁻⁶ 차이가 몇십 단계 뒤 완전히 다른 궤적을 만든다.
4.5 그래도 예측은 된다 — 7일의 날씨
"날씨 예보 같은 아주 평범한 것들이 있다. 우리는 다음 7일의 정확한 날씨 예보를 당연하게 여긴다 — 이것은 사실 대기과학자들의 놀라운 성취였다. 그들은 아주 많은 데이터를 모았지만, 오차율을 일주일 앞의 예보를 믿을 수 있는 수준까지 낮추는 동역학 문제들도 많이 풀었다. 여전히 100% 정확하지는 않지만 그냥 찍는 것보다 훨씬 정확하다. 사람이 많이 관여하는 시스템은 여전히 매우 예측 불가능하다 — 주식시장이나 정치의 동역학은 현재 동역학 이론이 모델링할 능력을 훨씬 넘어선다. 하지만 자연 시스템과 교통 같은 일부 인간 시스템은 실제로 모델링할 수 있다."
카오스는 '예측 불가능'이 아니라 '예측 가능한 지평이 유한'하다는 뜻이다. 날씨는 7일, 태양계는 수천만 년. 그 지평 안에서는 정밀한 예측이 가능하고, 지평 밖에서는 확률(기후의 통계)로 말해야 한다. 어디까지가 지평인지 아는 것이 동역학의 실용적 결론이다.
제5장: 오늘의 일에 대입하면
5.1 세 가지 질문
동역학의 언어로 시스템을 볼 때 던지는 질문은 세 개다.
질문
동역학의 개념
실무의 예
① 지금 값이 아니라 변화율은?
상태와 규칙의 분리. 도착 − 처리
"대기 30명"이 아니라 "분당 +1명". 잔고가 아니라 현금흐름. 버그 수가 아니라 유입 − 해결
② 건드리면 돌아오는가, 떠나는가?
평형의 안정성. 되먹임의 부호
부하 → 지연 → 재시도 → 부하(양의 되먹임, 불안정). 재고 부족 → 가격 상승 → 수요 감소(음의 되먹임, 안정)
③ 예측 지평은 어디까지인가?
카오스, 리아푸노프 시간
분기 매출은 예측 가능, 5년 뒤 시장은 시나리오(확률)로. 다음 스프린트는 계획, 다음 해는 방향
5.2 AI 에이전트의 동역학
0편에서 다룬 페르마 형식화 프로젝트의 첫 시도가 실패한 이유는 동역학의 언어로 정확히 기술된다. 에이전트들이 "프로젝트의 상태를 놓치고 협업을 멈췬" 것은 상태를 각 에이전트의 기억(유한하고 열화하는 것)에 두었기 때문이고, 그것은 시간이 갈수록 오차가 증폭되는 불안정 평형이었다. 성공한 두 번째 시도는 상태를 외부의 불변 그래프에 두어 되먹임의 부호를 바꿨다. 에이전트가 하나 실수해도 그래프가 그것을 되돌린다 — 안정 평형.
일반화하면, 멀티에이전트 시스템을 설계할 때 물어야 할 것은 "각 에이전트가 얼마나 똑똑한가"(현재 값)가 아니라 "한 에이전트의 실수가 다음 단계에서 증폭되는가 감쇠되는가"(변화의 규칙)다. 검증 단계가 감쇠기 역할을 하지 않으면, 아무리 좋은 모델도 카오스로 간다.
5.3 이력을 의심하기
"지금 아무 문제가 없는데 왜 느리지?"라는 질문을 들으면 압축파를 떠올리자. 지금의 대기는 지금의 원인이 아니라 지난 몇 시간의 누적일 수 있다. 원인을 찾을 때 현재 스냅숏만 보지 말고 변화의 이력을 본다. 모니터링 대시보드에서 현재 값보다 시계열 그래프가 중요한 이유다.
제6장: 흔한 오해
오해 1
"지금 문제가 없으면 원인도 없다"
압축파는 사고가 치워진 뒤 몇 시간 동안 남는다. 현재 상태는 과거 원인의 누적일 수 있다. 스냅숏이 아니라 이력을 본다.
오해 2
"균형 상태면 안전하다"
거꾸로 선 진자도 균형이다. 질문은 '균형인가'가 아니라 '건드리면 돌아오는가'. 되먹임의 부호를 확인한다.
오해 3
"카오스 = 무작위 = 예측 불가"
카오스는 결정론적이다. 무작위가 아니라 초기 조건에 극도로 민감한 것이고, 그래서 예측 지평이 유한하다. 지평 안에서는 정밀하게, 밖에서는 확률로 말하면 된다.
오해 4
"더 좋은 부품을 넣으면 시스템이 좋아진다"
차선을 더하면 교통이 나빠질 수 있다(브라에스의 역설). 시스템의 행동은 부품의 합이 아니라 규칙의 반복이 낳는 창발이다. 시뮬레이션 없이 직관으로 판단하지 않는다.
제7장: 이 언어로 말하기 — 체크리스트
상태와 규칙을 분리한다. 지금 값(대기 30명)과 변화의 규칙(분당 도착 6, 처리 5)을 따로 적는다. 대응은 규칙에 한다.
되먹임의 부호를 찾는다. 벗어남이 스스로 커지는 고리(양)가 있으면 그것이 불안정의 원인이다. 그 고리를 끊거나 음의 되먹임을 넣는다.
충격 후 회복 시간을 계산한다. 여유분(처리 − 도착)이 회복 속도다. 여유분이 0에 가까우면 어떤 충격도 영구화된다.
예측 지평을 명시한다. 이 시스템에서 정밀 예측이 통하는 시간은 얼마인가. 그 밖은 시나리오와 확률로 말한다.
이력을 본다. 현재 스냅숏이 아니라 시계열. 지금의 문제가 몇 시간·몇 달 전의 원인일 수 있다.
시뮬레이션한다. 규칙이 단순해도 결과는 직관을 배반할 수 있다. 차선을 더하기 전에 돌려 본다.
안정 평형을 지킨다. 우리를 되돌려 주는 복원력이 무엇인지 알고, 그것을 소모하지 않는다. 기후에 대한 타오의 말은 조직에도 적용된다.
시리즈를 마치며 — 여섯 개의 문법, 하나의 언어
여섯 편을 지나왔다. 되돌아보면 여섯 기둥은 하나의 문장으로 이어진다.
수가 인상을 비교 가능한 값으로 바꾼다. 대수가 그 값들 사이의 계산을 재사용 가능한 규칙으로 만들고, 어떤 연산이 순서에 민감한지 알려 준다. 기하가 그 규칙으로 직접 닿을 수 없는 것을 측정하게 한다. 확률이 결과가 여럿일 때의 빈도를, 해석이 결과가 하나인데 우리가 정확히 모를 때의 오차를 다룬다. 그리고 동역학이 이 모든 것을 시간 위에 놓아, 지금의 값이 아니라 변화의 규칙을 보게 하고, 어디까지 예측이 가능한지 알려 준다.
타오의 정의로 돌아가자. "기술적 복잡성을 전부 벗겨내면 이것들은 극도로 직관적인 개념이고, 수학은 그것을 아주 정밀하게 기술하는 언어일 뿐이다." 이 시리즈가 보여 주려 한 것은 그 언어가 강의실 밖에서 — 회의실에서, 대시보드에서, AI에게 일을 맡기는 프롬프트에서 — 매일 쓰인다는 것이다. 다만 대개 시적으로 쓰인다. '많이', '보통', '대략', '언젠가', '지금은 괜찮다'. 여섯 기둥은 그 말들을 정밀하게 만드는 법이다.
0편에서 타오가 AI 시대에 대해 한 말을 마지막으로 다시 놓는다. AI가 결과물을 쏟아낼 때 사람에게 남는 일은 무엇을 물을지 정하고, 나온 답이 뜻하는 바를 판단하고, 그 판단을 남에게 정밀하게 전달하는 것이다. 세 가지 모두 언어의 일이다. 그리고 타오는 이렇게 맺었다. "수학과 과학의 기본적인 이해는 주변 세계를 훨씬 덜 무섭게, 훨씬 더 명확하게 만든다." 여섯 개의 문법이 독자의 세계를 조금 더 명확하게 만들었기를 바란다.