테런스 타오의 여섯 기둥 중 두 번째, 대수. 숫자 대신 x와 y를 쓰는 것은 시작일 뿐이고, 대수의 진짜 대상은 '연산 자체의 성질'이다. 30° 회전과 60° 회전은 순서가 상관없지만 양말과 신발은 순서가 결과를 바꾼다. 같은 법칙을 따르는 대상 사이에서는 직관을 옮길 수 있고, 그래서 수의 직관이 행렬로 옮겨져 LLM의 심장이 됐다. 케플러가 와인 시장에서 막대 하나로 부피를 재는 상인을 보고 집에 가서 한 계산까지, 두 개의 인터랙티브로 따라간다.
시리즈 「수학은 언어다」 — 0편 여섯 기둥과 AI 시대 · 1편 수 · 2편 대수 · 3편 기하 · 4편 확률 · 5편 해석 · 6편 동역학
"대수는 수 위에 놓인 두 번째 추상 층이다. … 대수는 한 걸음 더 나아가 7이나 17 같은 특정한 수를 보지 않는다. 수를 x, y 같은 더 일반적인 자리표시자로 바꾸는 것은 물론이고, 연산 자체 — 더하기와 곱하기와 그 밖의 모든 연산 — 를 연구하며, 수가 아니라 연산이 어떤 성질을 갖는지 묻는다." — 테런스 타오, Big Think 인터뷰 05:56
대수라는 말을 들으면 대부분 'x를 구하라'는 문제를 떠올린다. 그러나 타오가 대수를 설명하며 든 첫 사례에는 x가 없다.
"물체를 30도 회전시키고 다시 60도 회전시킨다. 순서를 바꿔 60도 먼저, 30도 다음에 회전시켜도 같은 위치에 도착한다. 두 회전은 교환한다(commute). 이 연산은 전통적인 의미의 덧셈이나 곱셈과 아무 관계가 없지만, 같은 대수 구조를 갖는다. 반면 어떤 것들은 교환법칙을 따르지 않는다. 양말을 신고 신발을 신는 것과 신발을 먼저 신고 양말을 신는 것은 다른 결과를 낳는다. 두 연산은 교환하지 않는다."
우리는 이것을 이미 안다. 커피에 우유를 넣고 설탕을 넣는 것과 설탕을 넣고 우유를 넣는 것은 같다. 옷을 입고 샤워하는 것과 샤워하고 옷을 입는 것은 다르다. 설치 순서가 중요한 프로그램이 있고, 아무 순서로 깔아도 되는 프로그램이 있다. 어떤 일들은 순서에 무관하고 어떤 일들은 순서가 결과를 바꾼다 — 이 직관이 대수의 출발점이다.
대수가 덧붙이는 것은 이 직관에 이름을 붙이고, 그 성질을 갖는 것과 갖지 않는 것을 분류하고, 성질이 같은 것들 사이에서 직관을 옮기는 것이다.
1편의 행사로 돌아가자. 참가자 480명에게 기념품을 하나씩 준다. 개당 3,500원이면 총비용은 1,680,000원. 그런데 다음 행사는 520명이고 기념품 단가는 4,200원으로 바뀐다. 다시 계산한다. 그다음 행사는… 매번 처음부터 생각할 필요는 없다.
총비용 = 참가자 수 × 개당 비용
이 한 줄이 대수의 첫 단계다. 구체적인 480과 3,500을 '참가자 수'와 '개당 비용'이라는 이름으로 바꾸는 순간, 계산 하나가 규칙이 된다. 규칙은 다른 행사에도 적용되고, 스프레드시트의 셀에 들어가고, 다른 사람에게 넘길 수 있다. 1편에서 수가 '양을 휴대 가능하게' 만들었다면, 대수는 계산을 휴대 가능하게 만든다.
여기서부터가 타오가 말하는 진짜 대수다. 덧셈에는 '교환법칙'이 있다. a + b = b + a. 곱셈도 그렇다. 이것들이 왜 중요한가.
"덧셈에는 교환성이라는 성질이 있다 — a에 b를 더하는 것은 b에 a를 더하는 것과 같다. 그리고 그것은 덧셈이 관여하는 문제를 푸는 데 극도로 유용한 성질로 밝혀진다."
성질을 알면 계산을 재배열할 수 있다. 1 + 2 + 3 + … + 100을 앞에서부터 더하는 대신 (1+100) + (2+99) + … 로 묶어 50 × 101 = 5,050을 얻는 것은 교환법칙과 결합법칙 덕분이다. 성질을 모르면 5,050을 얻기 위해 99번 더해야 한다. 성질을 알면 한 번 곱한다. 연산의 성질은 지름길의 목록이다.
그리고 결정적인 도약이 온다.
"때로 어떤 대상에 있는 법칙이 우리가 이미 이해하는 법칙, 이를테면 수의 법칙과 아주 비슷하다는 것을 본다. 그 덕분에 수의 이론에서 얻은 직관과 아이디어와 증명을 다른 설정으로 옮길 수 있다. 예를 들어 행렬은 수보다 훨씬 복잡한 개념이다 — 수 하나가 아니라 수의 정사각 배열 전체다. 그런데 행렬은 수와 아주 비슷한 대수 법칙을 따른다. 수를 다루는 데 아주 능숙하다면, 행렬도 같은 방식으로 다루기 시작할 수 있다. 우리의 현대 기술 다수 — 예컨대 대규모 언어 모델 — 은 행렬을 아주, 아주 효율적으로 다루는 능력에 기반한다."
이것이 대수가 '언어'인 이유다. 언어는 한 곳에서 배운 것을 다른 곳에서 말할 수 있게 한다. 회전이 덧셈과 같은 법칙을 따른다면, 덧셈에 대해 아는 것을 회전에 대해 말할 수 있다. 행렬이 수와 거의 같은 법칙을 따른다면, 수에 대한 직관 대부분을 행렬에 쓸 수 있다. 단 하나, 행렬 곱은 교환법칙을 따르지 않는다. AB ≠ BA. 그러니 '거의'가 어디까지인지 아는 것이 이 언어의 문법이다.
아래 실험실에서 여섯 가지 연산 쌍을 두 순서로 실행해 보라. 회전·양말·이미지 편집·행렬·할인·배포 — 무엇이 교환하고 무엇이 교환하지 않는가.
트랜스포머 모델이 하는 일의 거의 전부는 행렬 곱이다. 입력 토큰을 벡터로 바꾸고, 그 벡터에 가중치 행렬을 곱하고, 그 결과에 또 다른 행렬을 곱한다. 수천억 개의 파라미터란 수천억 개의 행렬 원소다. GPU가 AI의 하드웨어가 된 이유도 행렬 곱을 병렬로 빨리 하기 때문이다.
그리고 행렬 곱이 결합법칙을 따른다는 사실 — (AB)C = A(BC) — 이 실전에서 엄청난 차이를 만든다. 세 행렬을 어떤 순서로 묶어 곱할지에 따라 계산량이 수십 배 달라질 수 있고, 컴파일러와 프레임워크는 이 성질을 이용해 연산을 재배열한다. 교환법칙이 성립하지 않는다는 사실도 마찬가지로 중요하다. 어텐션에서 Q·Kᵀ를 계산하는 순서를 바꾸면 완전히 다른 것이 나온다. 어떤 법칙이 성립하고 어떤 법칙이 성립하지 않는지를 아는 것이 대수이고, 그것이 AI 시스템의 성능과 정확성을 좌우한다.
타오가 대수의 역사적 사례로 든 이야기는 교과서에 잘 나오지 않는 것이다.
"요하네스 케플러가 어느 날 고향 거리를 걷다가 와인 시장을 봤다. 와인 상인들은 통 단위로 와인을 팔았다 — 큰 통도 있고 작은 통도 있었다 — 그런데 각 통에 와인이 얼마나 있는지 알아내서 값을 매길 수 있었다. 통의 와인 양을 재려면 컵에 다 부어 볼 수도 있지만 아주 지루하다. 케플러를 사로잡은 것은 시장 관리인이 통의 부피를 아주 효율적으로 재는 방법이었다. 그는 여러 눈금이 새겨진 막대 하나를 갖고 있었고, 통 중앙에 구멍이 있는데, 막대를 구멍에 넣어 반대편 구석까지 밀어 넣고 어디까지 들어갔는지 보고는 '아, 이건 30갤런' 하고 값을 매겼다."
케플러가 놀란 이유는 통마다 모양이 다르다는 것이었다. 어떤 통은 높고 좁고, 어떤 통은 낮고 넓다. 그런데 대각선 하나로 부피를 안다고? 그래서 그는 집에 가서 방정식을 썼다.
"통의 반지름을 r, 높이를 h라고 하자. 오늘날 현대 대수로는 고등학생에게 내줄 수 있는 문제다. … 그는 이 길이가 부피를 완전히 결정하지는 않는다는 것을 알았다. 하지만 와인 상인은 가능한 한 많은 와인을 팔고 싶어 하므로, 주어진 길이에 대해 부피를 최대화하고 싶을 것이다. 모든 상인이 이익을 최대화하려 한다고 추론하자 — 방정식을 곧바로 풀 수는 없었지만 이 이익 동기를 덧붙이자 — 그는 우리가 지금 미적분이라 부를 것의 초보적 버전을 했다. 그리고 그것은 시장에서 실제로 팔리는 통의 모양과 거의 정확히 일치했다."
이 이야기에는 대수의 세 단계가 모두 들어 있다. 구체적인 통 대신 r과 h라는 이름을 붙였다(1단계). 부피 V = πr²h와 대각선 d² = r² + (h/2)²라는 두 식의 관계를 다뤘다(2단계). 그리고 '상인은 이익을 최대화한다'는 가정을 식에 추가해 시장이 경험적으로 찾아낸 규칙을 설명했다(3단계 — 다른 영역의 직관을 식으로 옮기기). 케플러는 이 결과를 1615년 『Nova stereometria doliorum vinariorum(와인통의 새 입체측정법)』으로 출판했고, 타오는 "이것이 몇 세기 뒤 뉴턴과 라이프니츠가 발전시킨 미적분의 영감 중 하나였다고 생각한다"고 말한다.
아래 위젯에서 대각선을 고정한 채 통의 높이를 바꿔 보라. 부피가 최대가 되는 모양은 하나뿐이고, 그 모양에서는 막대 길이가 부피를 사실상 결정한다.
타오는 대수를 처음 배울 때의 낯선 느낌을 인정한다.
"x는 어떤 물리적 의미와 특정한 값을 가질 수 있다. 그런데 이 수들의 특정한 값이나 그것이 무엇을 나타내는지에 집중하지 않고, 순수한 대수로, 그냥 기호를 이리저리 옮기며 방정식을 다루는 것이 종종 사고를 명확하게 한다. 처음 배울 때는 실제 경험과 아주 단절된 느낌이지만, 매우 강력한 기법이다."
케플러가 한 일이 정확히 그것이다. 통 앞에 서서 생각했다면 풀지 못했을 것이다. 통을 r과 h로 바꾸고, 와인을 잊고, 기호를 옮겼다. 그리고 답이 나온 뒤 다시 통으로 돌아왔다. 대상을 잊는 것이 대상을 이해하는 길이 되는 역설 — 이것이 대수라는 언어의 문법이다.
=B2*C2는 '총비용 = 참가자 수 × 개당 비용'이다. 셀 참조가 변수이고, 수식이 규칙이다. 스프레드시트를 잘 쓰는 사람과 못 쓰는 사람의 차이는 대개 대수적 사고의 차이다. 못 쓰는 사람은 숫자를 직접 타이핑하고(구체적 값), 잘 쓰는 사람은 참조와 수식을 쓴다(이름과 규칙). 후자는 입력이 바뀌어도 다시 계산할 필요가 없다.
"다음 고객 문의에 정중하게 답하라: {문의 내용}. 우리 정책은 {환불 정책}이다." — 이것도 대수다. 구체적 문의 대신 자리표시자를 두고, 규칙(프롬프트 구조)을 재사용한다. 그리고 템플릿에서도 연산의 순서가 문제가 된다. 시스템 프롬프트를 먼저 두고 사용자 입력을 뒤에 두는 것과 그 반대는 결과가 다르다. 비교환이다.
| 교환한다 — 순서 무관 | 교환하지 않는다 — 순서가 결과를 바꾼다 |
|---|---|
| 독립적인 데이터 소스 두 개를 각각 수집 | 중복 제거 → 집계 vs 집계 → 중복 제거 |
| 서로 다른 파일의 포맷 변환 | 이미지 자르기 → 회전 vs 회전 → 자르기 |
| 두 지표의 값을 각각 계산 | 정액 할인 → 비율 할인 vs 비율 할인 → 정액 할인 |
| 병렬로 돌릴 수 있는 테스트 | DB 스키마 변경 → 배포 vs 배포 → 스키마 변경 |
| — | 필터링 → 샘플링 vs 샘플링 → 필터링 (표본이 달라진다) |
왼쪽 열은 병렬화할 수 있고, 오른쪽 열은 순서를 문서로 고정해야 한다. 어느 열에 속하는지 미리 판별하는 것이 시스템 설계에서의 대수다. 장애의 상당수는 오른쪽 열의 일을 왼쪽 열인 줄 알고 병렬로 돌렸을 때 일어난다.
대수에서 가장 실용적이면서 가장 덜 쓰이는 기술이 있다. 식의 양변에서 단위가 맞는지 확인하는 것이다. '시간당 60명 × 8시간 = 480명'에서 시간이 약분되어 명이 남는다. 만약 결과의 단위가 '명·시간'이라면 식이 틀린 것이다. 케플러도 이 검산을 했을 것이다. πr²h의 단위는 길이³이고, 부피의 단위와 맞다. 보고서의 수식에서 단위를 따라가 보면 놀랄 만큼 자주 오류가 잡힌다.
3편 「기하」 — 기하는 그리스어로 '땅을 재는 것'이다. 고대 그리스인은 위성도 망원경도 없이 닮은 삼각형만으로 달까지의 거리를 어림했다. 유클리드의 다섯 공리 중 유독 못생긴 하나를 의심한 사람들이 휘어진 공간의 기하를 발견했고, 그것이 아인슈타인이 중력을 쓸 때 필요한 정확한 언어가 되었다. 그리고 '두 배 큰 화면'이 실제로 무엇을 두 배로 만드는지.
타오 인용은 Big Think 공개 대본의 영문 원문을 코어닷투데이가 한국어로 옮긴 것입니다. 일러스트는 코어닷투데이가 제작했습니다.
RELATED
