2026년 6월, Anthropic CEO 다리오 아모데이가 '지수곡선 위의 정책'이라는 에세이를 발표했다. AI는 빛의 속도로 달리는데 정책은 거목(나무수염)의 속도로 움직인다는 이 글은, 발표 이틀 뒤 미국 정부가 바로 그 글이 말한 권한을 Anthropic 자신에게 휘두르면서 더 큰 화제가 됐다. '지수곡선'이 대체 무엇인지(스케일링 법칙과 트랜스포머)부터 그가 제안한 5대 정책까지, 2026년 가장 뜨거운 AI 정책 문서를 쉽고 자세하게 풀어본다.
『반지의 제왕』에는 이런 곁가지 이야기가 나옵니다. 두 호빗이 나무수염(Treebeard) — 현명하지만 굼뜬, 말하는 거대한 나무 — 을 찾아가 숲을 베어내는 군대에 맞서 싸워달라고 설득합니다. 문제는 나무수염이 호빗과는 전혀 다른 시간 단위로 살아간다는 점입니다. 그는 다른 나무에게 "안녕"이라고 인사하는 데만 하루가 걸립니다. 그를 빨리 움직이게 만드는 일은 거의 불가능에 가깝습니다.
2026년 6월, Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 「지수곡선 위의 정책(Policy on the AI Exponential)」이라는 에세이를 이 장면으로 엽니다.
"AI와 우리의 정치 제도가 만나는 지점은, 마치 호빗과 나무수염 같다. AI는 번개 같은 속도로 전진하는데, 정책 — 특히 입법 — 은 매우 느리게 움직인다."
그가 말하는 핵심은 시간 척도의 불일치(mismatch in timescale)입니다. 정부가 신중한 것은 대개 좋은 일입니다. 거대한 권력을 함부로 쓰지 않는 편이 낫기 때문입니다. 하지만 AI 앞에서는 이 신중함이 위험해집니다.
"의회가 행동하는 데 걸리는 몇 년 사이에, AI는 '재미있는 장난감'에서 '천재들로 가득 찬 하나의 나라'로 갈 수 있다."
그리고 이 에세이가 진짜 전설이 된 이유는 따로 있습니다. 발표 이틀 뒤, 미국 정부가 정확히 이 글이 "정부가 가져야 한다"고 말한 그 권한 — 위험한 AI 모델의 배포를 막는 권한 — 을 Anthropic 자신에게 휘둘렀기 때문입니다. (이 사건은 정부가 AI를 끈 날에서 따로 다뤘습니다.)
이 글은 세 가지를 차례로 풀어봅니다. 첫째, 다리오가 말하는 '지수곡선'이 도대체 무엇인가 — 스케일링 법칙과 트랜스포머라는 기술적 엔진. 둘째, 그가 제안하는 5대 정책이 무엇이고 왜 중요한가. 셋째, 이 글이 왜 그토록 논쟁적이며 2026년에 어떤 의미를 갖는가.
다리오의 글 전체를 떠받치는 단 하나의 단어가 "지수곡선(the exponential)"입니다. 그는 이 단어를 마치 살아 있는 생물처럼 씁니다. "지수곡선이 지금 어디까지 왔는지(where the exponential is now)", "지수곡선이 어디로 가고 있는지(where the exponential was going)". 정책 이야기를 이해하려면, 먼저 이 곡선의 정체를 알아야 합니다.
이야기는 2019년, 강화학습의 아버지 리처드 서튼(Richard Sutton)의 짧은 글 「쓰라린 교훈(The Bitter Lesson)」에서 시작합니다. 70년 AI 연구사를 한 문장으로 요약하면 이렇습니다.
"70년간의 AI 연구에서 읽어낼 수 있는 가장 큰 교훈은, 연산(computation)을 활용하는 일반적인 방법이 결국 가장 효과적이며, 그것도 큰 격차로 그렇다는 것이다."
번역하면 이렇습니다. 인간이 똑똑한 규칙을 손으로 직접 짜 넣는 방법은 단기적으로는 빛나지만, 장기적으로는 항상 진다는 것입니다. 체스(딥블루), 바둑(알파고), 음성인식, 컴퓨터 비전 — 모든 분야에서 "인간의 지식을 새겨 넣은 시스템"은 "데이터와 연산으로 스스로 배우는 시스템"에게 패했습니다.
서튼이 임의로 무한히 확장되는 방법이라고 꼽은 두 가지가 탐색(search)과 학습(learning)입니다. 이 통찰은 곧 다가올 거대 AI 시대의 예언서가 됩니다. 다만 한 가지가 빠져 있었습니다. 연산을 부어 넣을수록 정말로 똑똑해지는 그릇이 아직 없었습니다.
그 그릇이 바로 트랜스포머(Transformer)입니다. 2017년 구글의 논문 「Attention Is All You Need」가 발표한 신경망 구조죠. 이름 그대로 "주의(attention)만 있으면 된다"는 도발적인 제목이었습니다.
당시 언어 AI의 표준은 RNN(순환신경망)이었습니다. RNN은 문장을 왼쪽에서 오른쪽으로 한 단어씩 차례차례 읽습니다. 사람이 읽는 방식과 비슷하지만, 치명적인 약점이 있었습니다. 단어를 순서대로 처리해야 하니 병렬 계산이 불가능하고, 문장이 길어지면 앞부분을 잊어버립니다(기울기 소실).
트랜스포머는 이 족쇄를 통째로 끊어버립니다. 핵심은 셀프 어텐션(self-attention) — 문장 안의 모든 단어가 동시에, 서로를 한 번에 쳐다보는 메커니즘입니다.
어텐션은 도서관 검색에 비유하면 쉽습니다. 모든 단어가 세 가지 역할을 동시에 맡습니다.
| Query (질문) | Key (색인) | Value (내용물) |
|---|---|---|
| "내가 지금 찾는 게 뭐지?" 현재 단어가 던지는 질문 | "나는 이런 단어야" 각 단어가 내거는 이름표 | "내 실제 의미는 이거야" 각 단어가 담은 정보 |
"그것(it)"이라는 단어가 무엇을 가리키는지 알고 싶다고 합시다. "그것"의 Query를 들고 문장 속 모든 단어의 Key와 대조해 일치도(점수)를 구합니다. 점수가 높은 단어의 Value를 많이, 낮은 단어는 적게 가져와 섞습니다. 이렇게 "그것"은 자기가 가리키는 진짜 명사 쪽으로 의미가 쏠립니다. 수식으로는 딱 한 줄입니다.
Attention(Q, K, V) = softmax( QKᵀ / √d_k ) · V
· QKᵀ — 모든 Query와 Key의 일치도(내적) 계산
· ÷ √d_k — 점수의 '볼륨'을 낮추는 안전장치 (값이 너무 커져 학습이 멈추는 걸 방지)
· softmax — 점수를 0~1의 가중치로 변환
· · V — 가중치만큼 Value들을 가중 합산
여기에 트랜스포머는 이 작업을 8개의 헤드(multi-head)로 동시에 수행합니다. 8명의 전문가가 같은 문장을 각자 다른 관점(문법, 의미, 지시 관계…)으로 동시에 읽고 종합하는 셈입니다. 원논문 설정은 헤드 8개, 인코더·디코더 각 6층입니다.
핵심은 단 하나의 비교 표에 담깁니다.
| 계층 | 순차 연산 | 단어 사이 최대 경로 길이 |
|---|---|---|
| 셀프 어텐션 (트랜스포머) | O(1) — 한 번에 | O(1) — 한 걸음 |
| 순환(RNN) | O(n) — n번 차례로 | O(n) — n걸음 |
RNN은 단어 수(n)만큼 순차적으로 계산해야 하므로 GPU를 아무리 많이 꽂아도 병렬화할 수 없습니다. 트랜스포머의 핵심 연산은 거대한 행렬 곱셈 한 번 — GPU/TPU가 가장 잘하는 일입니다. 즉 연산을 부어 넣을 수 있는 구조가 비로소 생긴 겁니다. 서튼이 말한 "쓰라린 교훈"을 실제로 실행할 그릇이 완성된 순간입니다.
한 줄 요약: RNN은 키울수록 벽에 막혀 멈추지만, 트랜스포머는 키울수록 예측한 대로 똑똑해진다. 이 차이가 곧 AI 지수곡선의 엔진이다.
그릇이 생겼으니, 이제 질문은 "얼마나 부으면 얼마나 똑똑해지는가"입니다. 놀랍게도 여기에는 법칙이 있었습니다.
2020년 OpenAI의 「Scaling Laws for Neural Language Models」(Kaplan 외, 공동저자 명단에 다리오 아모데이도 있습니다)는 충격적인 발견을 내놓습니다. 언어 모델의 오차(loss)가 ① 연산량, ② 데이터량, ③ 파라미터 수 각각에 대해 매끄러운 거듭제곱 법칙(power law)으로 줄어든다는 것입니다. 그것도 무려 7자릿수(1,000만 배) 범위에 걸쳐서요.
이걸 로그-로그 그래프에 그리면 자로 그은 듯한 직선이 나옵니다. AI의 똑똑함이 마치 중력처럼 예측 가능한 물리 법칙을 따른다는 뜻입니다.
이 발견의 무서운 점은 예측 가능성입니다. 작은 모델 몇 개만 학습해보면, 100배 큰 모델이 얼마나 똑똑해질지 미리 계산할 수 있습니다. AI 기업들이 수십조 원을 데이터센터에 베팅할 수 있는 근거가 바로 이것입니다. 다리오가 "지수곡선이 어디로 갈지 우리는 명확히 볼 수 있었다"고 말하는 것도 같은 의미입니다.
2022년 DeepMind의 「Chinchilla」 논문(Hoffmann 외)이 한 가지를 교정합니다. Kaplan은 "일단 모델을 키워라"는 쪽으로 치우쳐 있었는데, 친칠라는 400개 이상의 모델을 다시 학습시켜 파라미터와 데이터를 같은 비율로 키워야 최적임을 밝혀냅니다. 그 황금비가 "파라미터 1개당 토큰 약 20개"입니다.
| 모델 | 파라미터 | 학습 토큰 | 결과 |
|---|---|---|---|
| Gopher (2021) | 280B | 300B | 4배 큰데도 "과소학습" |
| Chinchilla (2022) | 70B | 1.4T | 4배 작은데도 압승 · MMLU 67.5% |
같은 연산을 쓰고도, 모델을 더 작게 만들고 데이터를 더 먹인 친칠라가 4배 큰 Gopher를 이겼습니다. 이 발견이 "무조건 파라미터 키우기" 시대를 끝내고, LLaMA처럼 "작지만 토큰을 많이 먹인" 효율적 모델 설계의 토대가 됩니다.
스케일링의 가장 신비로운 현상이 창발(emergent abilities)입니다. 2022년 구글의 Wei 외 연구는 이렇게 정의합니다.
"작은 모델에는 없다가 큰 모델에서 나타나는 능력."
세 자리 덧셈, 다국어 추론, 단계적 사고(chain-of-thought) 같은 능력은 모델이 일정 규모에 도달하기 전까지는 무작위 수준에 평평하게 머물다가, 임계점을 넘는 순간 갑자기 켜집니다(하키스틱 곡선). 마치 물이 99℃까지는 그냥 뜨거운 물이다가 100℃에서 끓어오르는 것처럼요.
균형 잡힌 시선: 2023년 스탠퍼드의 Schaeffer 외는 「창발은 신기루인가?」에서 반론을 냅니다. 이 '갑작스러움'은 연구자가 고른 지표(metric)의 착시일 수 있으며, 연속적인 지표로 다시 재면 향상은 매끄럽고 예측 가능하다는 것입니다. 논쟁은 지금도 진행 중이지만, 어느 쪽이든 "규모가 능력을 만든다"는 큰 그림은 그대로입니다.
이 모든 것이 합쳐진 결과가 다리오가 말한 "번개 같은 속도"입니다. AI 모델을 학습시키는 데 드는 연산량은 딥러닝 시대(2010년 이후) 들어 약 6개월마다 두 배로 늘었습니다(Epoch AI). 비교하자면 반도체의 무어의 법칙은 두 배에 약 20개월이 걸렸습니다. AI는 그 3배 이상 빠른 속도로 달려온 셈입니다.
| 모델 | 연도 | 파라미터 | 학습 연산량(FLOP, 추정) |
|---|---|---|---|
| GPT-2 | 2019 | 1.5B | ~1.5 × 10²¹ |
| GPT-3 | 2020 | 175B | ~3 × 10²³ |
| GPT-4 | 2023 | 비공개 | ~2 × 10²⁵ |
| 프론티어 모델 | 2025 | 비공개 | ~5 × 10²⁶ |
※ 2023년 이후 수치는 모두 외부 추정치입니다(랩들이 비공개). 2012년 AlexNet부터 따지면 약 13년간 연산량이 9자릿수(10억 배) 가까이 늘었습니다.
이 추상적인 숫자가 현실에서 어떻게 보일까요? 다리오의 표현이 가장 압축적입니다.
"불과 4년 만에, AI 모델은 '코드 한 줄도 제대로 못 쓰던' 수준에서 '주요 AI 기업에서 작성되는 코드의 대부분을 쓰는' 수준으로 갔다."
벤치마크로 보면 더 선명합니다. 실제 GitHub 이슈를 해결하는 능력(SWE-bench Verified)은 2년 만에 이렇게 변했습니다.
※ SWE-bench Verified 해결률. 점수는 보조 도구(scaffold)·테스트타임 연산 설정에 따라 달라질 수 있습니다.
수학은 더 극적입니다. 미국 고교 수학경시(AIME 2024)에서 일반 모델은 12%대였지만, 추론 모델 o1이 74%, o3가 약 97%를 기록했습니다. 한 세대 만에 '꼴찌에서 만점급'으로 뛴 것입니다.
바로 이 곡선 위에 다리오의 정책론이 서 있습니다. 곡선은 멈추지 않는데, 제도는 나무수염의 속도로 움직인다. 이제 그가 무엇을 하자고 했는지 봅시다.
다리오 아모데이는 OpenAI의 연구 부사장을 지내다 2021년 안전을 더 중시하는 노선을 들고 나와 Anthropic을 공동창업한 인물입니다. 「지수곡선 위의 정책」은 갑자기 튀어나온 글이 아니라, 그가 수년간 쌓아온 세계관의 세 번째 기둥입니다.
다리오의 노선은 종말론자(doomer)와 가속주의자(e/acc) 사이의 '좁은 길'로 요약됩니다. "대부분의 사람들이 AI의 상방이 얼마나 급진적인지 과소평가하고 있다 — 그 위험이 얼마나 나쁠 수 있는지를 과소평가하는 것과 똑같이." 이 글에서 그는 명확한 전환을 선언합니다.
"이제 위험은 명백히 도래했다. 투명성을 넘어 더 진지하고 구속력 있는 AI 규제로 나아갈 때다."
2023~2024년만 해도 그는 "투명성 우선"을 주장했습니다. 위험이 아직 구체적이지 않았기 때문입니다. 무엇이 바뀌었을까요? 그가 분수령으로 꼽는 사건이 Claude Mythos 프리뷰입니다. 프런티어 모델이 사이버보안에 실재하는 위협 — 금융·핵심 인프라·국가안보를 교란할 잠재력 — 이 됨을 "의심의 여지 없이 증명"한 사건이었죠.
"이것이 증명하는 더 넓은 의미는, AI 모델이 이제 전 지구적·국가적 전략 차원의 도구가 되었다는 것이다."
에세이의 본론은 다섯 개의 정책 영역입니다. 다리오는 각 영역에서 "지수곡선이 지금 어디까지 왔으니, 우리는 무엇을 해야 하는가"를 묻습니다. 흥미롭게도 그 답은 영역마다 정반대 방향을 가리킵니다. 어떤 곳은 더 강한 규제가, 어떤 곳은 더 빠른 규제 완화가 필요합니다.
첫 영역에서 다리오가 드는 비유는 자동차·비행기·의약품입니다. 현대 경제에 필수적이지만, 잘못 설계·운용하면 많은 사람을 죽일 수 있는 강력한 기술. 그래서 그는 미국 연방항공청(FAA) 모델을 제안합니다.
"프런티어 AI 모델은, 비행기처럼, 기술적 테스트와 감사를 거치도록 의무화되어야 한다. 높은 안전 기준을 충족하지 못하면 공공 안전에 대한 위협으로서 출시가 차단되거나 철회되어야 한다."
구체적으로는 일정 연산량 임계치를 넘는 모델에 대해, 자격을 갖춘 제3자가 네 가지 위험 영역을 의무적으로 테스트하게 하자는 것입니다.
정부는 이 네 가지에 한해 위험한 모델의 배포를 차단·되돌릴 권한을 가지되, 정치적 편애나 자의적 결정을 막는 안전장치를 함께 둡니다. 평가는 정부 기관이 직접 하거나, 정부가 인가·감독하는 민간 기관이 맡는 '규제 시장(regulatory markets)' 방식도 가능합니다. 그는 이미 시행된 캘리포니아 SB 53, 뉴욕 RAISE 같은 투명성 법을 지지했지만, 이제는 그 너머가 필요하다고 봅니다.
그리고 섬뜩한 예고를 덧붙입니다.
"머지않아, 가장 강력한 AI 시스템이 비행기나 자동차보다 무기화 가능한 핵물질에 더 가까워 보이는 때가 올 수 있다 — '단지' 공공 안전에 대한 위협이 아니라 인류에 대한 위협으로서."
두 번째 영역은 일자리와 경제입니다. 경제학의 오랜 가정은 "성장과 평등은 맞바꿔야 한다(트레이드오프)"는 것이었는데, 다리오는 AI가 이 가정을 뒤흔든다(scramble)고 봅니다. AI는 인간의 인지 능력 자체를 대체하고, 과거 기술보다 훨씬 빠르게 움직이기 때문입니다.
"우리는 경제적 트레이드오프 다이얼이 '초성장·초불평등(hypergrowth, hyper-inequality)' 설정에 고정되고, 거기서 빼내기 매우 어려운 세계에 도달할 위험이 있다. 그런 세계의 핵심 과제는 성장을 자극하는 것이 아니라, 모두가 그 혜택을 나누는 길을 찾는 것이다."
다리오는 자신이 "종말의 예언자"가 아님을 강조합니다. 일자리 상실은 막아야 할 나쁜 일이지 환영할 일이 아니라고요. 더 중요하게, 그는 돈과 의미를 모두 다뤄야 한다고 말합니다. "사람들이 경제적으로 살아갈 수 있어야 할 뿐 아니라, 의미·목적·주체성을 찾을 수 있어야 한다. 후자가 궁극적으로 더 중요하다."
그가 제안하는 정책은 세 갈래입니다.
| 측정·추적 | 고용 유지 인센티브 | 장기 거시 지원 |
|---|---|---|
| AI 일자리 대체를 추적하는 통계 확충 (Anthropic의 Economic Index가 약 1년 반째 운영 중) | 임금보험, 해고 억제 세제, 직업훈련 보조금, 구인·구직 매칭 인프라 | 기본소득(UBI)을 관련 기업 과세·자본이득세로 재원 조달, '보편 자본 계좌' |
핵심 철학은 한 문장으로 압축됩니다. "빠른 경제 성장이 공유된 번영을 위한 세원(tax base)을 만들어야 한다." 그는 데이터센터에 대한 반발도 "AI에 대한 광범위한 경제적 불안의 상징"으로 읽으며, AI 기업이 전기요금 인상분을 흡수해야 하고 Anthropic은 이미 그러기로 약속했다고 밝힙니다.
세 번째 영역에서 방향이 정반대로 뒤집힙니다. AI가 가속시키는 분야 — 생물의학, 에너지, 신소재 — 에서는 규제가 부족한 게 아니라 너무 느린 것이 문제입니다.
"나는 규제 장치가 중요한 위험을 다루지 못하는 것보다, 진보를 늦추는 것을 더 걱정한다."
대표 사례가 신약 개발입니다. FDA와 유럽 EMA에서 신약 후보가 규제 파이프라인을 통과하는 데 보통 7~8년이 걸립니다. 그런데 AI가 신약 후보를 쏟아내기 시작하면 어떻게 될까요?
다리오는 이렇게 말합니다. "내 예측이 맞는다면, 곧 느닷없이 정말 잘 듣는 개입들이 많이 나타날 것이다. 규제 시스템은 그것들을 진지하게 받아들일 준비가 되어 있어야 하며, 과도한 회의의 자세를 취해서는 안 된다."
네 번째 영역이 가장 묵직합니다. AI는 수백 년간 이어진 국가 권력과 시민 자유 사이의 균형을 위협할 수 있습니다.
"잘못된 손에 들어간 강력한 AI는 독재의 궁극적 도구가 될 수 있으며, 기존의 법적·헌법적 보호 장치는 이 위협에 충분히 대비되어 있지 않다."
그가 드는 두 가지 시나리오는 SF 같지만 결코 멀지 않습니다.
| 위협 1 — 완전 자율 무기 | 위협 2 — 초대규모 감시 |
|---|---|
| 완전 자동화된 드론 군대는 불법적 명령에도 복종할 수 있다. 인간 군인은 불법 지시에 항명할 수 있지만, 기계는 그렇지 않다 → 일방적 권력 고착. | 감시에 특화된 AI가 공개 정보를 대규모로 분석해 모든 시민의 가장 내밀한 삶까지 추론한다 — 현행 시민자유법이 상정하지 못한 기술적 능력. |
다리오의 처방은 견제와 균형입니다. 자율 무기는 법원 명령·입법·인간 감독자에게 책임지도록 하고 누군가는 항상 '정지 스위치'에 손을 올려둬야 하며, 국내 사용은 금지해야 한다고 봅니다. 또 데이터 브로커를 통한 대량 정보 구매(감시 우회로)를 막고, 정부가 시민에게 불리한 조치를 취할 때 시민도 정부가 쓰는 것만큼 강력한 AI의 조력을 받을 권리(변호인 조력권의 확장)를 가져야 한다고 주장합니다.
그는 기업 권력도 경계합니다. 역사적으로 도금시대(Gilded Age)의 미국이나 동인도회사처럼 기업이 국가를 포획할 만큼 강해진 적이 있다면서요.
"AI는 곧 너무나 강력해져서 정부에도 기업에도 온전히 맡길 수 없게 될 것이다. 그 각각에 견제와 균형이 있어야 한다."
하지만 그는 비관에 머물지 않습니다. 제대로 대응한다면 "우리는 AI를 사용해 지금껏 가져본 그 어느 때보다 더 견고하고 지속적인 자유의 보장을 만들 수 있다."
마지막 영역은 지정학입니다. 다리오는 AI를 단순한 무역 상품처럼 "전 세계에 확산시키자"는 프레임을 정면으로 거부합니다.
"AI는 훨씬 더 심오한 것, 게임판 전체를 리셋하고 그 주위로 모든 미래 지정학 전략이 짜여야 하는 것이다 — 핵무기와 같지만, 어쩌면 그 이상으로."
왜 그렇게 보는지는 그의 유명한 사고실험에 담겨 있습니다. 그는 강력한 AI를 "데이터센터 속 천재들의 나라"라고 부릅니다.
"1억 명의 천재로 이루어진 가상의 나라에서, 1천만 명은 군사 전략에, 1천만 명은 드론 제조에, 1천만 명은 무기 R&D에, 1천만 명은 정보 수집·분석에, 1천만 명은 일반 과학 발전에 투입될 수 있다. 강력한 AI를 가진 나라가 못 가진 나라를 — 혹은 3년 뒤처진 나라를 — 상대하는 것은, 2차대전의 해병대가 중세의 검사(劍士) 군대를 마주하는 것과 같을 수 있다."
그래서 그의 제안은 민주주의 연합(democratic coalition)입니다. 앞의 네 영역(안전·경제·과학·자유)을 국제적으로 공조하면서, AI 공급망 — 특히 첨단 반도체와 반도체 제조 장비(SME) — 을 연합 안에서는 자유롭게 공유하고 적대국에는 차단하는 것입니다.
그는 미국의 대중국 칩·SME 수출통제가 미국의 AI 우위에 크게 기여했다고 평가하며, 계류 중인 MATCH 법과 OVERWATCH 법안을 "좋은 첫걸음"이라 부릅니다. 목표는 "연합에 속하는 것을 점점 더 매력적으로, 밖에 있는 것을 점점 더 불리하게 만들어 결국 전 세계가 합류하게 하는 것"입니다.
「지수곡선 위의 정책」은 발표되자마자 격렬한 찬반을 불렀습니다. 핵심 비판은 세 갈래입니다.
가속주의 진영의 반응은 더 노골적입니다. OpenAI의 샘 올트먼은 (이 글 직전인 2026년 4월) Anthropic식 접근을 "공포 마케팅(fear-based marketing)"이라 조롱했습니다 — "폭탄을 경고한 뒤 1억 달러짜리 방공호를 파는 격"이라고요. NVIDIA의 젠슨 황은 AI 실업 종말론을 "터무니없다"며, 그런 CEO들이 "신 콤플렉스"를 가졌고 "일자리와 작업(task)을 혼동한다"고 비판해 왔습니다.
흥미롭게도 다리오는 이런 반발을 미리 받아칩니다. AI 업계에서 "이건 PR 문제일 뿐, AI에 더 나은 마케팅이 필요하다"는 시각이 유행하는데, 그는 이를 완전히 거부합니다.
"사람들이 AI를 걱정하는 것은, AI CEO들이 충분히 낙천적이지 못해서가 아니라, 위험이 실재한다는 것을 정확히 감지했기 때문이다. (…) 이 투명성에 대한 대중의 우려는 민주적 책임성이 제대로 작동하는 것이다. 관건은 그 우려를 건설적 해법으로 모으고, 형체 없는 분노와 폭력으로 흘러가지 않게 하는 것이다."
이 에세이를 전설로 만든 것은 텍스트 자체가 아니라 타이밍이었습니다. 발표 이틀 뒤인 2026년 6월 12일, 미국 상무부는 수출통제를 근거로 Anthropic에 최신 모델 Fable 5와 Mythos 5를 (외국인 접근 차단 명목으로, 사실상 전면) 끄라고 명령합니다. 글에서 "정부가 가져야 한다"고 했던 바로 그 '위험한 모델 배포를 차단하는 권한'이, 48시간 만에 Anthropic 자신을 향해 발동된 것입니다.
거대한 아이러니: AI의 위험을 가장 크게 경고한 회사가, 바로 그 경고가 부른 정부의 권한에 의해 자사 최강 모델을 내려야 했다. 안전 경고가 사업적으로는 '역풍'이 되어 돌아온 셈이다. (자세한 전말은 정부가 AI를 끈 날에서.)
이 사건이 보여주는 것은, 다리오가 그린 지수곡선이 이미 현실의 정책을 추월하기 시작했다는 점입니다. 모델 사전 검토를 요구한 트럼프 행정부의 6월 2일 행정명령, 5월부터 시행된 EU AI법, 사례별 심사로 전환된 대중국 칩 수출통제 — 그가 글에서 말한 다섯 영역이 동시다발로 현실에서 작동하기 시작했습니다.
그래서 2026년에 이 글이 갖는 의미는 분명합니다. 「지수곡선 위의 정책」은 예언이 아니라 실황 중계에 가깝습니다. 기술(스케일링 법칙)이 만든 곡선과, 제도(나무수염)의 굼뜬 걸음 사이의 간극 — 다리오는 그 간극을 "최소 1년은 뒤처져 있다"고 표현했고, 이 글을 그 간극을 메우려는 시도라고 했습니다.
에세이의 마지막 문장은 처음의 비유로 되돌아옵니다.
"나무수염과 그의 숲이 깨어나고 있다."
지수곡선은 우리에게 선택지를 묻지 않습니다. 멈추지 않고 올라갈 뿐입니다. 다리오의 질문은 단 하나입니다 — 거대한 나무는 숲이 다 베어지기 전에 깨어날 수 있을까. 그 답은 기술이 아니라, 이 글을 읽는 우리 같은 시민과 제도의 속도에 달려 있습니다.
핵심 요약
- '지수곡선'의 정체는 스케일링 법칙이다. 쓰라린 교훈(연산이 이긴다) → 트랜스포머(연산을 부을 그릇) → 스케일링 법칙(부으면 똑똑해지는 물리 법칙)으로 이어진 결과, AI 학습 연산은 ~6개월마다 두 배로 늘며 4년 만에 "코드 한 줄"에서 "코드 대부분"으로 도약했다.
- 다리오는 투명성에서 구속력 있는 규제로 노선을 전환하며 5대 영역을 제시한다: ①FAA식 모델 안전 인증 ②초불평등 대비 거시·세제(임금보험·UBI) ③신약 규제 가속 ④자율무기·감시로부터 시민 자유 보호 ⑤민주주의 칩 연합.
- 비판은 규제 포획·점진주의의 순진함·일관성 세 갈래. 올트먼("공포 마케팅"), 젠슨 황("일자리와 작업 혼동")이 대척점에 섰다.
- 발표 이틀 뒤 정부가 글이 말한 그 권한으로 Anthropic의 Fable 5·Mythos 5를 껐다. 글은 예언이 아니라 실황 중계가 됐다.
