![[특집] 생각은 이제 세 개의 시스템에서 일어난다 — 시스템 3과 '인지적 항복'의 역사, 사례, 그리고 2026년](/_next/image?url=%2Fblog%2Fsurrender-sp-hero.png&w=3840&q=75&dpl=dpl_H6AnbANQC8N8ALo2uVFMN4yiRG3P)
카너먼의 '빠른 생각·느린 생각'에 와튼스쿨 연구팀이 세 번째 단어를 붙였습니다 — Artificial. 1974년 휴리스틱 연구에서 2012년 바다로 들어간 렌터카, 2023년 가짜 판례를 낸 변호사, 2025년 AI를 끄자 실력이 떨어진 내시경 의사까지, '생각을 기계에 넘기는 순간' 무슨 일이 벌어지는지를 역사와 사례로 풀고, 논문의 설계도와 데이터를 그대로 가져와 2026년의 우리에게 무엇을 뜻하는지 따져봅니다.
이 글은 와튼스쿨(펜실베이니아대) 스티븐 D. 쇼(Steven D. Shaw)와 기디언 네이브(Gideon Nave)의 논문 「Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender」(SSRN, 2026년 1월 판)를 다루는 특집입니다. 논문의 그림과 표는 원본 그대로 인용했고, 통계 수치를 항목별로 뜯어본 상세 리뷰는 「시스템 3 — AI에 생각을 넘기는 순간, 인지적 항복의 실험 증거」에 따로 있습니다. 이 글은 그 앞에 놓이는 글입니다 — 왜 이런 개념이 나와야 했는지, 어떤 사고들이 이 개념을 불러냈는지, 그리고 2026년의 우리가 이것을 어떻게 써야 하는지.
문제 하나로 시작하겠습니다. 머리로만 푸세요.
야구 방망이와 공을 합쳐 1달러 10센트입니다. 방망이는 공보다 1달러 비쌉니다. 공은 얼마일까요?
거의 모든 사람의 머릿속에서 '10센트'가 먼저 튀어나옵니다. 정답은 5센트입니다(공 5센트 + 방망이 1달러 5센트 = 1달러 10센트). 2005년 셰인 프레더릭이 만든 이 문제는 20년 동안 심리학에서 가장 많이 쓰인 세 문항 중 하나가 되었습니다. '머리가 먼저 외치는 답'과 '한 번 멈춰서 확인해야 나오는 답'을 한 문장 안에 심어 놓았기 때문입니다.
이제 이 장면에 한 명을 더 앉혀 보겠습니다. 옆에 챗봇이 있습니다. 물어보면 즉시, 유창하게, 자신 있게 답합니다. 그런데 실험자가 몰래 설정을 해 두어서, 이 챗봇은 절반의 문제에서 '10센트'라고 자신 있게 틀린 답을 줍니다. 당신은 이 챗봇의 답을 따를까요, 아니면 한 번 더 계산해 볼까요?
와튼스쿨 연구팀이 1,372명에게 9,593번 이 장면을 만들어 보았습니다. 결과를 먼저 말하면 이렇습니다.
이 숫자들을 이해하려면 먼저 '왜 세 번째 시스템이 필요해졌는가'를 알아야 합니다. 그 이야기는 1974년에서 시작합니다.
아모스 트버스키와 대니얼 카너먼이 『Science』에 「불확실성 아래의 판단: 휴리스틱과 편향」을 실었을 때, 경제학의 표준 인간상은 아직 '합리적 계산자'였습니다. 두 사람은 실험으로 반박했습니다. 사람은 확률을 계산하지 않고 지름길(휴리스틱)을 탑니다. 얼마나 쉽게 떠오르는지로 빈도를 판단하고(가용성), 얼마나 전형적으로 보이는지로 확률을 판단하며(대표성), 처음 본 숫자에 끌려갑니다(기준점).
이 지름길들은 대체로 잘 작동합니다. 그래서 살아남았습니다. 다만 특정한 조건에서 체계적으로 틀립니다. 그 '체계적인 틀림'의 목록이 이후 40년 행동경제학의 재료가 되었습니다.
1990년대에 들어서면 서로 다른 전통의 연구자들이 비슷한 그림을 그리기 시작합니다. 엡스타인은 '경험 체계'와 '합리 체계'를, 슬로먼은 '연상 체계'와 '규칙 체계'를, 스타노비치와 웨스트는 '자율적 마음'과 '분석적 마음'을 말했습니다. 용어는 달랐지만 구조는 같았습니다. 빠르고 자동적이며 노력이 들지 않는 처리와, 느리고 순차적이며 노력이 드는 처리. 스타노비치와 웨스트가 2000년에 이것을 '시스템 1'과 '시스템 2'라고 부르자고 제안했고, 2011년 카너먼의 『생각에 관한 생각』이 이 이름을 전 세계 회의실의 공용어로 만들었습니다.
이 틀이 위대한 이유는 설명 범위입니다. 충동구매, 도덕 판단, 위험 인식, 가짜뉴스에 속는 이유, 고정관념, 자기 확신의 과잉 — 전혀 다른 현상들이 '시스템 1이 먼저 답하고, 시스템 2가 검토하거나 하지 않는다'는 한 문장으로 정리되었습니다.
방망이와 공 문제는 정확히 이 구조를 겨냥합니다. 시스템 1이 '10센트'를 외치고, 시스템 2가 개입해서 검산하면 '5센트'가 나옵니다. 개입하지 않으면 10센트를 적습니다. 그래서 이 검사는 '당신의 시스템 2는 얼마나 자주 개입하는가'를 재는 도구가 되었습니다.
그런데 이 모든 모형에는 한 번도 명시적으로 적히지 않은 전제가 있었습니다. 논문은 이것을 '뇌에 갇힌 인지 가정(brain-bound cognition assumption)'이라고 부릅니다.
빠르든 느리든, 모든 생각은 두개골 안에서 일어난다.
1974년에는 당연한 말이었습니다. 2011년에도 대체로 그랬습니다. 그런데 2026년의 우리는 이 전제와 맞지 않는 방식으로 하루를 보냅니다. 낯선 도시에서 지도 앱이 시키는 대로 꺾고, 이메일 답장을 챗봇에게 초안 잡게 하고, 처음 보는 계약서 조항을 AI에게 설명시키고, 코드 리뷰를 에이전트에게 맡깁니다. 이때 우리는 '외부 자극에 반응하는' 것이 아니라 추론의 한 조각을 바깥에 있는 무언가에 넘기고 있습니다.
물론 철학은 이 문제를 먼저 봤습니다. 1998년 앤디 클라크와 데이비드 차머스의 「확장된 마음」은 알츠하이머를 앓는 오토가 수첩을 뒤져 미술관 주소를 찾는 것과, 잉가가 기억을 떠올리는 것이 인지적으로 같은 역할이라고 주장했습니다. 수첩은 오토의 마음의 일부라는 겁니다. 2016년 리스코와 길버트는 계산기·메모·내비게이션에 머리 쓸 일을 넘기는 행동을 '인지적 오프로딩'이라 정의하고 과학의 대상으로 만들었습니다.
하지만 수첩은 스스로 답을 만들지 않습니다. 계산기는 내가 누른 숫자만 계산합니다. 2022년 11월, 어떤 질문이든 자연어로 던지면 유창하고 자신 있는 답이 돌아오는 장치가 대중화되면서 상황이 바뀌었습니다. 수첩이 말을 하기 시작한 겁니다.
이론이 현실을 따라잡아야 했던 이유는 사고가 먼저 일어났기 때문입니다. 시스템 3이라는 이름이 붙기 전에도, 사람이 기계의 판단에 자기 판단을 넘기는 장면은 여러 번 기록되었습니다. 네 개만 고르겠습니다.
항공은 자동화가 가장 먼저 깊숙이 들어온 분야였고, 그래서 문제도 먼저 보였습니다. 1996년 캐슬린 모지어와 린다 스키트카는 자동화 보조 장치를 쓰는 조종사들에게서 반복되는 패턴을 보고 '자동화 편향(automation bias)'이라는 이름을 붙였습니다. 두 종류의 오류였습니다.
2012년 3월, 호주 브리즈번 근처. 일본인 대학생 세 명이 렌터카로 노스 스트래드브로크 섬에 가려고 내비게이션을 켰습니다. 내비게이션은 모어턴 만을 가로질러 직진하라고 했습니다. 섬은 바다 건너에 있었고, 길은 없었습니다. 그런데도 차는 진흙 갯벌을 50미터쯤 달려 들어갔고, 밀물이 차오르자 세 사람은 차를 버리고 걸어 나왔습니다. 구조된 학생의 말이 기사에 남아 있습니다. "내비게이션이 갈 수 있다고 했어요."
이런 사고가 하도 많아서 '죽음에 이르는 GPS(death by GPS)'라는 말이 생겼습니다. 2009년 데스밸리에서는 GPS가 안내한 비포장도로에 고립된 모자 중 11살 아들이 탈수로 숨졌습니다. 우스갯소리로 소비되기 쉬운 사례지만, 구조를 보면 웃을 수 없습니다. 눈앞의 증거(바다)와 화면의 권고(직진)가 충돌했을 때, 시스템 2가 개입하지 않았습니다. 방망이와 공 문제에서 '10센트'를 적는 것과 같은 구조입니다. 다만 외치는 쪽이 내 머리가 아니라 화면이었을 뿐입니다.
2023년 뉴욕 연방법원. 한 변호사가 항공사를 상대로 한 소송에서 준비서면을 냈는데, 인용한 판례 여섯 건이 전부 존재하지 않았습니다. ChatGPT가 만들어 낸 것이었습니다. 여기까지는 '도구가 틀렸다'는 이야기입니다. 정말 흥미로운 건 그다음입니다. 판사가 출처를 요구하자, 변호사는 ChatGPT에게 "이 판례들 진짜야?"라고 물었고, ChatGPT는 "진짜"라고 답했으며, 그는 그 답을 제출했습니다.
이것은 자동화 편향보다 한 단계 더 나간 상태입니다. 도구를 따랐을 뿐 아니라, 도구를 의심하는 행위마저 도구에 위임했습니다. 제재금은 5,000달러였지만, 이 사건은 이후 전 세계 법원이 'AI 사용 고지 의무'를 만들게 한 계기가 되었습니다.
마지막 사례는 논문이 서론에서 직접 인용한 것입니다. 2025년 8월 『Lancet Gastroenterology & Hepatology』에 실린 폴란드 4개 센터의 관찰 연구. AI 보조 대장내시경(화면에 용종 후보를 초록 박스로 표시해 주는 시스템)을 도입한 뒤, AI 없이 하는 표준 검사의 선종 발견율이 28.4%에서 22.4%로 떨어졌습니다. 절대치로 6%p, 상대적으로 약 20% 하락입니다.
이 연구가 중요한 이유는 두 가지입니다. 첫째, 앞의 세 사례가 '기계가 틀렸을 때 사람이 같이 틀렸다'는 이야기라면, 이건 기계가 맞았을 때조차 사람이 잃는 것이 있다는 이야기입니다. 둘째, 환자 결과(암 전 단계 병변을 놓치는 비율)와 직접 연결된 첫 실세계 증거입니다. 연구진은 이것을 '탈숙련(deskilling)'이라 불렀고, 동반 논평은 "내시경 바깥에서도 주목받을 것"이라고 썼습니다. 실제로 그렇게 되었습니다.
| 사례 | 기계가 한 일 | 사람이 하지 않은 일 | 기존 이름 |
|---|---|---|---|
| 조종석 (1996) | 권고·경보 | 계기 교차 확인 | 자동화 편향 |
| 렌터카 (2012) | 경로 안내 | 눈앞의 바다 확인 | 죽음에 이르는 GPS |
| 변호사 (2023) | 판례 생성 + 자기 검증 | 원문 조회 | 환각(hallucination) |
| 내시경 (2025) | 병변 표시 | 스스로 찾는 연습 | 탈숙련 |
네 개의 이름이 따로 놀고 있었습니다. 각각 항공심리학, 교통안전, 법률 윤리, 의학교육에서 만들어진 말입니다. 논문이 하려는 일은 이 넷을 하나의 인지 구조 안에 놓는 것입니다. 그러려면 기존 이중처리 모형에 자리를 하나 더 만들어야 합니다.
논문의 정의는 이렇습니다.
시스템 3(인공, Artificial): 인간의 마음이 아니라 알고리즘 체계에서 발원하는, 외부적·자동적·데이터 기반의·동적인 추론.
네 형용사가 각각 의미를 갖습니다.
논문에서 가장 공들인 그림입니다. 원본 그대로 가져왔습니다.
출처: Shaw & Nave (2026), Figure 1. 저자 원본.
읽는 법을 설명하겠습니다. 그림을 가로지르는 점선이 '뇌 경계(Brain boundary)'입니다. 위쪽 상자는 우리에게 익숙한 이중처리 모형입니다 — 여러 직관이 올라오고, '갈등/불확실성 감시' 장치가 그중 충돌하는 것을 잡아내면 시스템 2가 소환됩니다. 여기까지는 카너먼입니다.
새로운 것은 점선 아래와 그것을 건너는 화살표들입니다.
| 그림의 화살표 | 어디서 어디로 | 무슨 뜻인가 |
|---|---|---|
| Cognitive offloading (실선, 시스템 2 → 시스템 3) | 숙고 중에 바깥 도움을 부른다 | 시스템 2가 살아 있는 상태에서 위임한다. 계산기·검색·'이 코드 설명해 줘'. 통제권은 내게 있다. |
| Refines deliberation (점선, 시스템 3 → 시스템 2) | 바깥의 답이 숙고로 돌아온다 | AI가 낸 후보를 내가 검토하고 다듬는다. 오프로딩의 귀환 경로. |
| Cognitive surrender (실선, 시스템 1 → 시스템 3) | 직관이 뜨자마자 바깥으로 | 갈등 감시 장치와 시스템 2를 건너뛴다. 숙고가 일어나지 않는다. 논문의 핵심 개념. |
| Updates intuitive priors (점선, 시스템 3 → 시스템 1) | 바깥의 답이 직관을 바꾼다 | 반복 노출되면 AI의 답이 '내 감'이 된다. 장기적으로 가장 조용하고 가장 깊은 경로. |
| *Autopilot (자극 → 시스템 3 → 응답) | 뇌를 아예 거치지 않음 | 자동 응답, 자동 매수, 자동 승인. 자극이 뇌 경계를 한 번도 넘지 않는다. |
가장 중요한 차이는 '항복' 화살표가 어디서 출발하느냐입니다. 오프로딩은 시스템 2에서 출발합니다 — 생각하다가 도움을 청합니다. 항복은 시스템 1에서 출발합니다 — 생각이 시작되기 전에 넘깁니다. 같은 챗 창에 같은 질문을 쳐도, 그 질문이 어느 상자에서 나왔느냐에 따라 전혀 다른 인지 사건입니다.
| 시스템 1 (빠름) | 시스템 2 (느림) | 시스템 3 (인공) | |
|---|---|---|---|
| 기원 | 인간 (직관·연상) | 인간 (분석·반성) | 인공 (알고리즘·통계) |
| 속도 | 빠름 | 느림 | 빠름 / 가변 |
| 인지적 노력 | 낮음 | 높음 | 없음 / 가변 |
| 정확도 | 편향에 취약 | 규범적이지만 힘듦 | 구조화된 영역에서 높음, 열린 과제에서 취약 |
| 정서 | 감정이 이끈다 | 감정을 조절한다 | 감정 중립 |
| 윤리 추론 | 암묵적 규범 | 명시적 숙고 | 학습 데이터에 의존 |
| 정당화 | 경험적·사후적 | 논리적으로 조직 | 데이터 기반, 외부에서 생성 |
출처: Shaw & Nave (2026), Table 1을 번역.
이 표에서 한 칸만 기억한다면 '인지적 노력: 없음'입니다. 시스템 3은 시스템 2가 하던 일을 하면서 시스템 2의 비용(피로, 시간, 불쾌감)을 청구하지 않습니다. 논문의 표현으로는 "사고의 비용–편익 계산 자체를 바꾼다." 인간은 원래 노력을 아끼는 '인지적 구두쇠'입니다. 그 구두쇠 앞에 공짜 숙고 기계를 놓으면 무슨 일이 생길지, 이론은 예측하고 실험은 확인합니다.
논문 Table 2는 한 자극이 응답에 이르는 여섯 가지 표준 경로를 정리합니다. 직접 눌러 보는 편이 빠릅니다.
이 논문이 새로 만든 말은 하나입니다. 인지적 항복(cognitive surrender).
시스템 3의 출력에 판단, 노력, 책임을 넘겨버리는 행동적·동기적 경향. 특히 그 출력이 유창하고, 자신 있고, 마찰 없이 제시될 때.
앞의 네 사례로 되돌아가면 차이가 보입니다.
| 오프로딩 | 항복 | |
|---|---|---|
| 내비게이션 | 경로를 받되, 바다가 보이면 멈춘다 | 화면이 직진이라니 직진한다 |
| 판례 검색 | AI가 찾아준 판례를 원문에서 연다 | AI에게 "진짜야?"라고 묻고 끝낸다 |
| 코드 리뷰 | 에이전트의 수정안을 읽고 diff를 이해한 뒤 머지한다 | 테스트가 초록색이니 머지한다 |
| 누가 통제하나 | 내가. 시스템 2가 살아 있다 | 바깥이. 시스템 2가 소환되지 않았다 |
| 틀렸을 때 | 내가 잡아낼 확률이 있다 | 틀린 줄 모른 채 확신만 올라간다 |
항복은 자동화 편향과도 다릅니다. 자동화 편향은 특정 오류(누락·수행)를 가리킵니다. 항복은 그보다 넓은 성향 — 논문의 말로는 "기본값이 바깥에 있는 상태(external system occupying the default position)"를 가리킵니다. 한 번 틀린 게 아니라, 판단의 출발점이 옮겨진 것입니다.
그리고 논문은 중요한 단서를 답니다. 항복은 본질적으로 비합리적인 것이 아닙니다. 일기예보, 신용 평가, 단백질 구조 예측처럼 통계적으로 기계가 명백히 나은 영역에서는 넘기는 것이 맞습니다. 문제는 '넘기는 것'이 아니라 '언제 넘겼는지 자신도 모르는 것'입니다.
"사용자가 언제, 왜 위임했는지 스스로 모를 수 있고, 인간과 기계의 행위 주체성 사이 경계가 흐려진다." — 논문 본문
그래서 이것은 측정해야 하는 문제가 됩니다. 항복이 실재하는가, 얼마나 큰가, 무엇이 키우고 무엇이 줄이는가.
세 실험 모두 같은 뼈대를 씁니다. 방망이와 공 계열의 인지 반영 검사(CRT) 7문항(만프레디와 네이브가 2022년에 '이미 답을 외운 사람'을 걸러내기 위해 새로 쓴 판). 그리고 설문 안에 GPT-4o 기반 챗봇을 심습니다. 참가자는 원하는 만큼 대화할 수 있고, 최종 답은 100% 본인이 씁니다.
장치는 여기 있습니다.
AI-Accurate → 숙고형 정답 + 짧은 근거 (예: "공은 5센트입니다. 왜냐하면…") AI-Faulty → 자신 있게 제시된 직관형 오답 + 짧은 근거 (예: "공은 10센트입니다. 왜냐하면…")
어느 문항이 어느 쪽인지 참가자는 모른다. 같은 사람이 두 종류를 다 겪는다.
'같은 사람 안에서' AI의 정확도를 뒤집었다는 점이 이 설계의 영리함입니다. 사람마다 능력이 다른 건 통제할 필요가 없습니다. 한 사람이 AI가 맞을 때와 틀릴 때 얼마나 다르게 행동하는지를 직접 봅니다. 그리고 오답을 '직관형 오답'으로 고른 것도 의도적입니다. 시스템 1이 외치는 바로 그 답을 시스템 3이 자신 있게 확인해 주는 상황 — 가장 항복하기 쉬운 조건을 만든 겁니다.
아래는 실험 절차를 네 문항으로 줄인 것입니다. AI는 절반의 문항에서 자신 있게 틀립니다. 어느 쪽인지는 알려주지 않습니다.
대면 실험실 참가자 359명. AI 없는 조건(Brain-Only) 121명, AI 있는 조건 238명. AI 조건의 참가자들은 절반이 넘는 시행(52~54%)에서 챗을 열었고, 열었을 때의 행동이 논문 Figure 2입니다.
출처: Shaw & Nave (2026), Figure 2. AI가 맞을 때 채택 92.7%, 틀릴 때 채택 79.8%.
틀린 AI를 기각하는 비율(20.2%)이 맞는 AI를 기각하는 비율(7.3%)보다 분명히 높았습니다. 사람들은 눈이 먼 게 아닙니다. 뭔가 이상하다는 신호를 조금은 감지합니다. 그런데도 자신 있게 틀린 답을 다섯 번 중 네 번 그대로 적었습니다.
그 결과가 정확도입니다. 논문 Figure 3.
출처: Shaw & Nave (2026), Figure 3. Brain-Only 45.8% / AI-Accurate 71.0% / AI-Faulty 31.5%.
기준선 45.8%에서 위로 25%p, 아래로 14%p. 방향을 보세요. AI가 틀렸을 때의 성적은 '도움을 못 받은' 수준이 아니라 AI가 아예 없던 조건보다 낮습니다. 틀린 AI는 참가자를 자기 직관의 수준보다 더 아래로 끌어내렸습니다.
AI 조건의 참가자들이 받은 답은 약 절반이 틀렸습니다. 그런데 과제를 마친 뒤 확신도는 AI 조건 77.0%, Brain-Only 65.3%. +11.7%p. 그리고 결정적으로, 틀린 답을 몇 번 받았는지에 따라 확신이 내려가지 않았습니다(p = 0.20).
이것이 항복의 가장 위험한 성질입니다. 정확도는 AI의 품질에 연동되는데, 확신은 AI를 '썼다'는 사실에 연동됩니다. 변호사가 ChatGPT의 "진짜"라는 답을 받고 안심한 것과 같은 메커니즘입니다.
과제 후 받은 성향 척도와 교차하면 이렇습니다.
| 특성이 높을수록 | 챗을 더 여나 | 틀린 AI를 더 따르나 | 틀린 AI 시행의 정확도 |
|---|---|---|---|
| AI 신뢰 | 그렇다 (OR 1.64) | 그렇다 (OR 3.47) | 낮아짐 (OR 0.36) |
| 유동 지능 | 약간 덜 (유의 X) | 덜 따름 (OR 0.23) | 높아짐 (OR 1.96) |
| 인지 욕구 (생각하기를 즐김) | 덜 염 (OR 0.65) | 차이 없음 | 높아짐 (OR 1.86) |
| 종결 욕구 (빨리 결론 내고 싶음) | 차이 없음 | 더 따름 (OR 2.11) | 차이 없음 |
재미있는 칸은 '종결 욕구'입니다. 빨리 결론을 내고 싶은 성향은 AI를 더 쓰게 하지도, 전체 성적을 떨어뜨리지도 않았지만, 일단 물어봤을 때 그 답을 받아들일 확률만 두 배로 올렸습니다. 항복은 '얼마나 쓰느냐'보다 '받아들이는 문턱이 얼마나 낮으냐'의 문제라는 뜻입니다.
이론이 예측을 내놓았으니 밀어봐야 합니다. 시스템 2를 억누르면(시간 압박) 항복이 커질까? 시스템 2를 깨우면(돈과 피드백) 항복이 줄어들까?
485명. 전원 AI 접근 가능, 절반은 문항당 30초 제한. 예측은 절반만 맞았습니다. 시간 압박은 성적을 떨어뜨렸지만(교과서대로), AI를 더 많이 쓰게 만들지는 않았습니다. 챗 사용률은 오히려 살짝 줄었습니다(53.9% → 49.9%).
대신 사람의 종류에 따라 결과가 갈렸습니다. 논문 Figure 6.
출처: Shaw & Nave (2026), Figure 6. Independents(AI를 1회 이하 사용)는 시간 압박에 무너졌고, AI-Users(2회 이상)는 AI 품질에 따라 갈렸다.
AI를 거의 안 쓴 'Independents'는 시간 압박에 51.5% → 34.0%로 무너졌습니다. AI를 쓴 'AI-Users'는 덜 흔들린 대신 AI 품질에 완전히 종속되었습니다(맞는 AI 71.3%, 틀린 AI 12.1%). 그래서 시간 압박 아래 가장 정확했던 사람은 'AI를 썼고 그 AI가 맞았던' 사람이었습니다. 시스템 3은 시간 압박의 비용을 실제로 흡수해 줍니다 — 정확한 한에서.
조용하지만 중요한 결과가 하나 더 있습니다. 유동 지능은 'AI를 쓸지 말지'를 전혀 예측하지 못했습니다(AI-Users 6.12 vs Independents 6.16, p = 0.52). 두 집단을 가른 것은 능력이 아니라 신뢰(4.44 vs 3.45)와 성향이었습니다. "똑똑한 사람은 AI를 덜 쓴다"는 서사는 데이터가 지지하지 않습니다. 데이터가 지지하는 것은 "똑똑한 사람도 똑같이 쓰되, 틀린 걸 조금 더 자주 잡아낸다"입니다.
450명. 절반은 정답당 0.20달러 + 20달러 추첨권 + 매 문항 즉시 정오 피드백. 논문 Figure 7.
출처: Shaw & Nave (2026), Figure 7. 틀린 AI 기각률 20.0% → 42.3%. 맞는 AI 채택률은 오히려 87.6% → 92.2%로 상승.
이 그림이 논문에서 가장 희망적인 부분입니다. 돈과 피드백을 주자 틀린 AI를 기각하는 비율이 두 배가 되었는데, 맞는 AI를 따르는 비율은 오히려 올랐습니다. 사람들이 AI를 덜 믿게 된 게 아니라 분별력이 좋아진 겁니다.
그런데 사라지지는 않았습니다. AI-Users만 보면 맞는 AI 84.8%, 틀린 AI 40.6%. 격차는 50%p에서 44%p로 줄었을 뿐입니다. 돈을 걸고 매 문항 정답을 알려줘도, AI가 맞았는지 틀렸는지가 성적의 절반 가까이를 결정했습니다.
출처: Shaw & Nave (2026), Figure 10. 가로축은 시스템 3 사용률, 세로축은 정확도. 세 조건(통제·시간 압박·인센티브+피드백) 모두에서 나팔 모양이 유지된다.
이 그림이 논문의 결론입니다. 왼쪽 끝(사용률 0%)은 AI 없이 푼 성적입니다. 오른쪽으로 갈수록 정확도가 두 갈래로 갈라집니다 — 위로는 AI가 맞을 때, 아래로는 틀릴 때. 시간 압박은 나팔 전체를 아래로 옮기고, 인센티브는 위로 옮깁니다. 하지만 나팔의 폭은 거의 그대로입니다. 이 폭이 곧 '내 판단이 아니라 도구 품질에 맡겨진 몫'입니다.
| 조작 | 효과의 크기 (승산비) | 항복 효과 (AI 맞음 vs 틀림) |
|---|---|---|
| 시간 압박 | 0.42 (성적 하락) | 14.28 |
| 인센티브 + 피드백 | 3.45 (성적 상승) | 11.05 |
| 기본 | — | 15.50 |
상황이 만드는 효과(0.42, 3.45)보다 항복 효과(11~16)가 훨씬 큽니다. 논문의 표현을 빌리면 "항복은 특정 상황의 부산물이 아니라 삼중 시스템 생태의 고유한 동역학(native dynamic)"입니다.
논문의 실험은 2025년에 설계되었고, 챗봇 하나가 설문 옆에 붙어 있는 형태였습니다. 2026년 8월의 우리가 사는 환경은 이미 그보다 몇 단계 앞에 있습니다. 논문의 틀로 지금을 읽으면 세 가지가 보입니다.
2025년의 시스템 3은 질문에 답을 줬습니다. 2026년의 시스템 3은 일을 합니다. 코딩 에이전트가 브랜치를 따고 테스트를 돌리고 PR을 올립니다. 브라우저 에이전트가 항공권을 예약합니다. 업무 에이전트가 메일을 읽고 답장을 보냅니다. 논문의 그림에서 이건 *'Autopilot' 경로 — 자극이 뇌 경계를 한 번도 넘지 않고 응답이 나가는 길입니다.
실험에서 항복은 '틀린 답 하나를 받아 적는' 크기였습니다. 에이전트 시대의 항복은 '틀린 방향으로 구현된 기능 하나를 머지하는' 크기입니다. 검증 대상이 한 줄에서 한 diff로 커졌는데, 검증에 쓰는 시간은 같거나 줄었습니다. 테스트가 초록색이면 머지하는 습관이 그 증거입니다 — 테스트 역시 에이전트가 썼는데도요.
논문은 항복의 촉발 조건을 세 단어로 요약합니다. 유창하게, 자신 있게, 마찰 없이. 이 셋은 우연히 생긴 성질이 아니라 2026년 AI 제품의 핵심 성능 지표입니다. 응답 지연을 줄이고, 망설이는 표현을 없애고, 확인 단계를 건너뛰게 만드는 것이 제품 경쟁력입니다.
2025년 봄 한 주요 챗봇 업데이트가 과도하게 아첨하는(sycophantic) 방향으로 조정되었다가 며칠 만에 철회된 사건은, 사용자 만족도 최적화가 어디로 흐르는지를 보여주는 예였습니다. 사람들은 자기 생각에 동의해 주는 AI를 더 좋아합니다. 논문의 실험에서 '직관형 오답'이 가장 잘 채택된 것과 같은 이유입니다. 시스템 1이 외친 답을 시스템 3이 확인해 주면, 시스템 2는 소환될 명분을 잃습니다.
설계도에서 가장 조용한 화살표는 'Updates intuitive priors'였습니다. 반복 노출되면 AI의 답이 내 직관이 된다는 것. 실험은 단일 노출이라 이것을 측정하지 못했지만, 2025년 이후 쌓인 증거는 이 화살표를 가리킵니다.
| 연구 | 관측된 것 | 설계도의 어느 화살표인가 |
|---|---|---|
| Lee et al. (Microsoft, CHI 2025) 지식노동자 319명, 936건 사례 | AI에 대한 확신이 높을수록 비판적 사고 노력 감소. 비판적 사고의 성격이 '정보 수집'에서 '정보 검증'으로, '실행'에서 '관리'로 이동. | 항복 (신뢰 → 낮은 검토 문턱) |
| Kosmyna et al. (MIT, 2025) 54명, 4개월 에세이 | LLM 그룹의 뇌 연결성 최저, 방금 쓴 글을 인용 못 한 비율 83%. '인지 부채'. (소규모·방법론 논란 있음) | 시스템 3 → 시스템 1 (소유감 상실) |
| Budzyń et al. (Lancet, 2025) 내시경 4개 센터 | AI 도입 후 AI 없는 검사의 발견율 6%p 하락. | 시스템 3 → 시스템 1 (탈숙련) |
| Hudon & Stip (2025) 정신의학 사례 보고 | 취약한 사용자에서 챗봇이 망상을 강화하는 'AI 정신증'. 논문도 인용. | 항복의 극단 (검증 기능의 완전한 이양) |
이 표의 연구들은 표본, 방법, 신뢰도가 제각각입니다. 다만 방향이 일치합니다. 자주 넘기면, 넘긴 기능이 약해진다. 내시경 연구가 보여주듯 이것은 AI가 틀릴 때만 생기는 문제가 아닙니다.
이 논문은 AI를 막자는 논문이 아닙니다. 저자들은 명시합니다 — "경종을 울리려는 것이 아니라 설계와 교육의 과제로 본다." 2026년에 이 논문이 하는 일은 어휘를 주는 것입니다. 자동화 편향, 죽음에 이르는 GPS, 환각, 탈숙련, 인지 부채, AI 정신증 — 분야마다 따로 만들어진 이 말들을 한 장의 설계도 위에 놓고, 어느 화살표의 문제인지 가리킬 수 있게 해 줍니다. 그리고 그 설계도는 "어디에 개입해야 하는가"를 알려줍니다.
논문 데이터에서 가장 실용적인 숫자는 이것입니다. 시스템 3을 열었고 그 출력이 틀렸던 시행만 모아 보면:
항복 대 오프로딩의 비율은 고정된 인간 본성이 아니라 상황이 움직이는 변수입니다. 같은 사람, 같은 도구인데 조건에 따라 오프로딩이 6.2%에서 37.1%까지 여섯 배 움직였습니다. 이 비율을 움직인 것은 '조심하라'는 말이 아니라 결과 신호(피드백)와 유인(인센티브), 그리고 시간이었습니다.
이것을 한 단어로 줄이면 검증 비용입니다. 검증이 싸고 빠르면 오프로딩이, 비싸고 느리면 항복이 늘어납니다. 그래서 실천 제안은 '의지를 다지는' 쪽이 아니라 '비용을 낮추는' 쪽에 있습니다.
"AI를 쓰지 말라"는 지침은 데이터가 지지하지 않습니다. 시간 압박 아래 가장 정확했던 집단은 AI를 쓴 사람들(71.3%)이었고, 안 쓴 사람들은 34.0%로 무너졌습니다. 효과적인 지침은 검증 루프를 짧고 값싸게 만드는 것입니다.
| 실험의 레버 | 조직의 언어로 | 관측된 효과 |
|---|---|---|
| 시간 압박 | 촉박한 마감, 처리량 지표 | 항복 증가 (OR 3.19), 오프로딩 6.2%로 붕괴 |
| 인센티브 + 즉시 피드백 | 결과 책임 + 짧은 검증 루프 (테스트, 리뷰, 사후 확인) | 오프로딩 37.1%로 상승 (OR 0.38) |
| AI 신뢰 1 표준편차 | "AI를 가장 좋아하는 직원" | 항복 승산 4.36배 |
마지막 줄이 관리자에게 가장 불편한 발견입니다. 조심해야 할 대상은 AI를 의심하는 사람이 아니라 AI를 가장 좋아하는 사람입니다. 그리고 그 사람을 골라내는 데 지능 검사는 소용이 없습니다 — 유동 지능은 '누가 AI를 쓰는가'를 전혀 예측하지 못했습니다.
논문이 측정한 세 축(AI 신뢰, 인지 욕구, 검증 습관)을 거칠게 옮긴 자가진단입니다. 검증된 척도가 아니라 글을 읽는 거울로 쓰세요.
특집이라고 해서 논문 편을 들 이유는 없습니다. 저자들이 밝힌 한계와 제가 덧붙이는 유보를 함께 둡니다.
AI 오류율 50%는 현실이 아닙니다. 실제 어시스턴트가 CRT급 문제의 절반을 틀리지는 않습니다. 이 설계는 '현실의 피해 규모'가 아니라 '항복이 존재하는가, 얼마나 큰가'를 재기 위한 것이고, 그 목적엔 오류율을 높게 잡는 게 맞습니다. 다만 25%p/15%p 같은 숫자를 업무 현장에 그대로 옮기면 안 됩니다.
오답이 '직관형'이었습니다. AI의 틀린 답은 참가자의 시스템 1이 스스로 만들 답과 같았습니다. 그러면 "AI를 따랐다"와 "내 직감에 동의하는 목소리를 만났다"가 섞입니다. 다만 데이터에 반론이 있습니다 — 틀린 AI는 참가자를 Brain-Only(45.8%)보다 14%p 더 아래(31.5%)로 끌어내렸습니다. 순수한 확증이었다면 기준선 근처에 머물렀어야 합니다. 그러니 항복은 실재하되, 이 크기는 '내 직관과 방향이 같은 AI 오류'에 대한 상한으로 읽는 것이 안전합니다. 직관에 반하는 AI 오류에 대해서는 이 논문이 말해주는 바가 없습니다.
과제가 CRT 하나, 노출이 한 번입니다. 확률 추론, 도덕 판단, 장기간 반복 사용에서 같은 패턴이 나오는지는 후속 연구의 몫입니다. 특히 7부에서 말한 '시스템 3 → 시스템 1' 화살표는 이 논문이 직접 측정하지 않았습니다.
'시스템 3'이라는 이름은 논쟁적입니다. 확장된 마음(1998), 교류 기억(1987), 오프로딩(2016), 그리고 2024년의 '시스템 0' 제안까지, 뇌 밖의 인지는 이미 여러 이름으로 불려 왔습니다. 저자들의 기여는 "실시간으로 위임·신뢰·기각을 결정하는 동적 위임을 모델링한다"는 점에 있고 그건 타당합니다. 새 번호가 살아남을지는 인용사가 판정할 것입니다.
1998년 클라크와 차머스의 오토는 수첩을 뒤져 미술관 주소를 찾았습니다. 수첩은 오토의 마음의 일부였지만, 수첩은 오토에게 "이 주소가 맞아요, 확실해요"라고 말하지 않았습니다. 확인은 오토의 몫이었습니다.
2026년의 수첩은 말을 합니다. 유창하게, 자신 있게, 마찰 없이. 그리고 이 논문의 데이터가 보여주는 것은, 말하는 수첩 앞에서 우리의 확인 기능이 얼마나 쉽게 꺼지는가입니다. 틀린 답을 다섯 번 중 네 번 받아 적었고, 받아 적으면서 확신은 올라갔고, 돈과 즉시 채점을 줘도 격차의 대부분은 남았습니다.
그러나 같은 데이터가 다른 것도 보여줍니다. 비율은 움직였습니다. 항복 73.2%는 고정값이 아니라 조건부 값이었고, 조건을 바꾸면 57.9%가 되었습니다. 개입 지점은 개인의 결심이 아니라 도구의 설계와 일의 구조, 한 단어로 검증 비용에 있습니다.
논문의 마지막 문장을 빌리겠습니다.
"우리는 단지 AI를 사용하는 것이 아니다. 우리는 AI와 함께 생각한다(We do not merely use AI; we think with it)."
함께 생각한다면, 누가 생각했는지를 알아야 합니다. 이 논문은 그것을 묻기 위한 설계도를 한 장 줍니다. 설계도 위에서 당신의 오늘 하루 질문들이 어느 화살표를 탔는지 한 번 되짚어 보는 것 — 그것이 이 특집이 독자에게 부탁하는 유일한 일입니다.
원 논문
이중처리 이론의 계보
사례
2026년의 맥락
본문의 논문 그림은 학술적 인용 목적으로 저자 원본을 변형 없이 게재했으며 저작권은 원저자에게 있습니다. 그 외 삽화는 코어닷투데이가 제작했습니다.
