AI 동료가 셋 이상 앉으면 회의의 결론이 바뀐다 — 인간·AI 혼합 집단의 합의 형성 실험

들어가며 — 회의실에 AI가 셋 앉아 있다면

크게 보기

2026년 9월의 팀 채널을 상상해 보자. 사람 여덟 명, 그리고 회의록을 정리하고 초안을 쓰고 질문에 답하는 AI 에이전트 셋. 누가 AI인지는 프로필 아이콘으로 알 수 있지만, 바쁜 오전에 그걸 일일이 확인하는 사람은 없다. 석 달이 지난 뒤 이 팀은 어떤 말투로 문서를 쓰고 있을까. 어떤 단어로 문제를 부르고, 어떤 방식으로 결론을 내리고 있을까. 그리고 그 말투와 단어와 방식은 누가 만든 것일까.

2026년 9월 2일 arXiv에 올라온 논문 한 편이 정확히 이 질문을 실험으로 만들었다. 제목은 「AI agents reshape consensus formation in human groups」, 우리말로 "AI 에이전트가 인간 집단의 합의 형성을 재편한다". 칭화대학교 전자공학과의 리융(Yong Li) 연구실과 노스이스턴대학교 네트워크과학연구소의 린천(Lin Chen), 상하이 인공지능 연구소의 후샤(Xia Hu)가 함께 썼다.

이 논문은 AI가 사람보다 똑똑한지 묻지 않는다. AI가 사람을 설득할 수 있는지도 묻지 않는다. 대신 이렇게 묻는다.

"인공 에이전트가 인간 집단에 참여자로 들어올 때, 그들은 기존의 인간 주도 역학을 단순히 증폭하는가, 아니면 집단이 만들어내는 합의 자체를 재편하는가?"

답은 '재편한다'였다. 그런데 그 방식이 단순하지 않았다. AI 비율을 올릴수록 영향이 커지는 직선이 아니라, 세 개의 뚜렷하게 다른 체제(regime)가 차례로 나타났다. 소수의 AI는 사람의 합의를 도왔다. 중간 비율의 AI는 합의를 무너뜨렸다. 다수의 AI는 강한 합의를 되살렸지만, 그 합의의 내용과 주인이 바뀌어 있었다.

이 글은 이 결과를 이해하는 데 필요한 배경부터 시작한다. 사람들이 어떻게 합의에 이르는지를 90년 동안 실험해 온 사회심리학과 계산사회과학의 계보, 그 실험 장치에 LLM이 처음 들어온 2025년의 선행 연구, 그리고 이번 논문의 설계와 결과와 메커니즘, 마지막으로 2026년 지금 우리가 이 발견을 어디에 써야 하는지까지. 논문의 원본 그림과 데이터를 그대로 가져왔고, 직접 만져볼 수 있는 위젯 세 개를 중간에 넣었다.

제1장: 사람들은 어떻게 '같은 말'을 하게 되는가

1.1 어두운 방의 움직이는 점 — 셰리프와 애쉬

합의(consensus)라는 말은 거창하게 들리지만, 사회심리학이 처음 실험실에서 붙잡은 합의는 아주 작은 것이었다. 1935년 무자퍼 셰리프(Muzafer Sherif)는 참가자를 완전히 어두운 방에 앉히고 작은 빛점 하나를 보여주었다. 고정된 빛점은 어둠 속에서 저절로 움직이는 것처럼 보인다. 이것을 자동운동 효과라 한다. 실제로는 움직이지 않으니 정답이 없다. 셰리프는 참가자들에게 빛이 몇 센티미터 움직였는지 묻고, 이번엔 다른 사람들과 함께 앉혀 다시 물었다.

혼자일 때 저마다 달랐던 답이, 몇 차례 함께 답하고 나면 하나로 수렴했다. 아무도 정답을 모르는 상황에서 집단은 스스로 기준을 만들어냈고, 그 기준은 나중에 혼자 답할 때도 유지되었다. 사회적 규범이 실험실에서 태어나는 순간이었다.

크게 보기 ▲ 1951년 애쉬의 선분 실험. 앞의 여섯이 틀린 선분을 가리키고 일곱째가 망설인다. 구석의 작은 로봇은 75년 뒤 이 방에 들어올 새 참가자를 미리 앉혀 본 삽화적 장치다.

16년 뒤 솔로몬 애쉬(Solomon Asch)는 정반대 조건을 만들었다. 정답이 너무 명백한 문제였다. 카드 한 장에 선분 하나, 다른 카드에 길이가 뚜렷이 다른 선분 셋. 어느 것이 같은 길이인가. 혼자 답하면 오답률이 1%도 안 된다. 그런데 앞서 답하는 여섯 명이 모두 짜고 틀린 답을 말하면, 마지막 진짜 참가자의 약 37%가 명백히 틀린 답에 동조했다. 전체 시행에서 한 번이라도 동조한 사람은 75%였다.

애쉬 실험 후 인터뷰에서 참가자들은 두 갈래로 갈렸다. "다른 사람들이 맞는 것 같아서"라는 사람과, "틀린 걸 알았지만 튀고 싶지 않아서"라는 사람. 이 둘을 각각 정보적 영향(informational influence)과 규범적 영향(normative influence)이라 부른다. 이번 논문의 마지막 장에서 이 구분이 다시 등장한다. 사람들은 AI가 만든 표현에 설득되어서 따라간 것이 아니라, 그것이 집단의 중심에 있다는 이유로 따라갔다.

1.2 정답 없는 조율 — 루이스의 관례와 클라크의 탱그램

셰리프와 애쉬의 실험에는 판단할 '사실'이 있었다. 그러나 사회의 많은 합의는 사실이 아니라 관례(convention)에 관한 것이다. 왜 우리는 오른쪽으로 운전하는가. 왜 이 동물을 '개'라 부르는가. 철학자 데이비드 루이스(David Lewis)는 1969년 『Convention』에서 관례를 "모두가 따르기 때문에 모두가 따르는 것이 합리적인 조율의 규칙성"으로 정의했다. 어느 쪽으로 운전하든 상관없다. 중요한 것은 다른 사람들과 같은 쪽이라는 점이다.

1986년 심리언어학자 허버트 클라크(Herbert Clark)와 디애나 윌크스-깁스(Deanne Wilkes-Gibbs)는 이 관례가 두 사람 사이에서 어떻게 태어나는지를 실험으로 보였다. 도구는 탱그램이었다. 일곱 개의 납작한 다각형 조각으로 만든 추상적인 실루엣. 사람 같기도 하고 동물 같기도 하고 아무것도 아닌 것 같기도 한 이 그림을, 한 사람이 다른 사람에게 말로 설명해 여러 장 중에서 골라내게 했다.

클라크의 발견 중 이번 논문에 직결되는 것이 하나 있다. 사람들은 조각을 하나씩 열거하는 기하학적 설명("큰 삼각형 위에 작은 삼각형이 있고 그 옆에 사각형이…")보다 통째로 비유하는 설명("스케이터")으로 훨씬 빨리, 훨씬 안정적으로 합의에 도달한다. 부분 열거는 처음에 모호함을 없애는 데 쓸모가 있지만, 반복되는 소통에서는 비효율적이다. 비유는 두 사람이 공유하는 세상 지식을 통째로 불러오기 때문이다. 이 관찰이 40년 뒤 AI 주도 합의의 '품질'을 평가하는 잣대가 된다.

1.3 이름 짓기 게임 — 관례가 집단에서 창발하는 법

두 사람 사이의 관례는 그렇다 치고, 수십 수백 명이 중앙의 지시 없이 어떻게 같은 말에 도달할까. 이 질문은 1990년대에 인공지능과 물리학에서 동시에 튀어나왔다.

크게 보기

1995년 뤽 스틸스(Luc Steels)는 로봇들이 서로 사물을 가리키고 이름을 붙이며 어휘를 만들어가는 이름 짓기 게임(naming game)을 고안했다. 규칙은 단순하다. 무작위로 둘이 짝을 짓는다. 한쪽이 사물의 이름을 말한다. 상대가 그 이름을 알면 성공이고, 둘 다 그 이름만 남기고 나머지를 지운다. 모르면 실패이고, 상대는 그 이름을 후보 목록에 추가한다. 이걸 반복하면 중앙 통제 없이 전체가 하나의 이름에 수렴한다. 2006년 안드레아 바론켈리(Andrea Baronchelli)와 동료들은 이 과정을 통계물리학으로 풀어 수렴이 언제, 어떤 조건에서 일어나는지 계산했다.

2015년 데이먼 센톨라(Damon Centola)와 바론켈리는 이 게임을 진짜 사람들에게 시켰다. 『미국국립과학원회보(PNAS)』에 실린 「The spontaneous emergence of conventions」이다. 온라인으로 모인 참가자들에게 낯선 사람의 얼굴 사진을 보여주고 이름을 붙이게 했다. 짝이 같은 이름을 말하면 보상, 다르면 벌점. 매 라운드 짝이 바뀐다. 결과는 명확했다.

이번 논문이 "매 라운드 무작위로 다시 짝짓기"를 택한 이유가 여기 있다. 그것이 실험 가능한 시간 안에 전체 합의를 만들어내는 유일한 구조로 확인된 방식이기 때문이다.

센톨라는 2018년 『사이언스』에서 한 걸음 더 갔다. 이미 합의가 형성된 집단에 다른 이름을 고집하는 소수(committed minority)를 심었다. 소수가 전체의 25% 미만이면 아무 일도 일어나지 않았다. 25%를 넘는 순간 집단 전체가 새 이름으로 뒤집혔다. 기존 관례를 지키면 돈을 두 배, 세 배 더 줘도 마찬가지였다. 이 '25% 티핑포인트'는 이후 사회 변화 연구에서 가장 많이 인용되는 숫자 중 하나가 되었다. 참고로 2011년 물리학자 시에(Xie)와 동료들은 이론 모델에서 그 문턱을 약 10%로 계산했는데, 모델의 가정에 따라 문턱값은 달라진다.

여기서 잠시 멈추자. 이번 논문에서 합의가 무너지기 시작한 AI 비율이 33.3%, 그리고 AI가 합의를 장악한 비율이 75%였다. 센톨라의 25%와 정확히 같은 숫자는 아니지만, 같은 종류의 질문이다. 고집스러운 소수가 몇 퍼센트를 넘으면 다수의 관례를 뒤집는가. 다만 이번에는 그 소수가 고집을 프로그래밍받은 확신범이 아니라, 그냥 '보상을 최대화하라'는 지시만 받은 평범한 LLM이었다는 점이 다르다.

1.4 AI가 게임판에 들어오다 — 2023~2025

LLM이 등장한 뒤, 이 오래된 실험 장치들에 AI를 앉히는 연구가 쏟아졌다. 이번 논문 직전까지의 흐름을 정리하면 이렇다.

빈칸이 하나 보인다. 순수 인간 집단의 합의는 90년 동안 연구되었다. 순수 LLM 집단의 합의는 2025년에 확인되었다. AI가 지정된 역할(중재자, 설득자)로 사람에게 미치는 영향도 측정되었다. 그러나 현실의 배치는 대부분 그 사이에 있다. 사람과 AI가 섞여서, 특별한 역할 없이, 반복적으로 상호작용하는 혼합 집단. 그 집단이 합의에 도달하는지, 도달한다면 그 합의가 사람의 것을 닮았는지 AI의 것을 닮았는지, 아무도 실험해 보지 않았다.

💡 이 논문이 채우는 자리 AI가 설득하거나 중재하지 않는다. 그냥 참여자 중 한 명으로 앉아서 보상을 최대화하려 애쓴다. 그것만으로 집단의 합의가 어떻게 달라지는지를, 비율을 바꿔가며 측정한 첫 실험이다.

제2장: 실험 설계 — 스물네 명, 마흔 라운드, 그림 한 장

2.1 협업 설명 게임

논문의 실험 장치는 클라크의 탱그램과 센톨라의 이름 짓기 게임을 합친 것이다. 연구진은 이를 협업 설명 게임(collaborative description game)이라 부른다.

크게 보기 ▲ 논문 Figure 1. (a) 게임 구조. 매 라운드 무작위 짝짓기 → 독립 서술 → 파트너 서술과 유사도 점수 피드백. (b) 에이전트 비율별 최종 합의 강도. 점선이 순수 인간 조건. (c) 사람이 AI 쪽으로(파란 원), AI가 사람 쪽으로(빨간 삼각형) 이동한 양. (출처: Chen et al., arXiv:2609.02122)

핵심 규칙을 정리하면 이렇다.

• 한 세션은 24명. 사람과 LLM 에이전트의 비율만 다르다.
• 매 라운드 무작위로 짝을 바꾼다. 누구와도 만날 수 있는 균질 혼합. 파트너가 누군지, 사람인지 AI인지는 알려주지 않는다.
• 같은 탱그램 한 장을 두고 각자 영어 한 문장으로 서술한다. 어휘 제한도, 정답도 없다.
• 둘이 제출하면 상대의 문장과 유사도 점수를 본다. 유사도는 문장 임베딩 모델(all-MiniLM-L6-v2)의 코사인 유사도다. 점수가 높을수록 보상이 크다(라운드당 −1~+2위안, 최대 100위안).
• 40라운드 반복. 센톨라 2015 연구와 같은 길이다.

크게 보기 ▲ 논문 Supplementary Figure 1. 참가자가 본 실제 화면. 왼쪽 위 탱그램, 오른쪽 위 직전 라운드 기록("내 서술: 바닥에 앉아 오른쪽을 보는 남자 / 파트너 서술: 언덕 위의 풍차 / 보상: −0.267"), 아래 입력창. (출처: Chen et al.)

에이전트는 모두 같은 모델(Qwen2.5-VL-32B-Instruct)이며, 시스템 프롬프트로 게임 규칙과 "누적 점수를 최대화하라"는 목표만 받았다. 사람을 흉내 내라거나, 특정 스타일로 쓰라거나, 파트너를 설득하라는 지시는 없다. 이것이 중요하다. 논문이 측정한 영향은 어떤 특별한 설계에서도 나오지 않은, 평범한 참여의 부산물이다.

2.2 왜 탱그램인가

크게 보기 ▲ 모든 세션에서 쓰인 단 하나의 탱그램. (출처: Chen et al., Supplementary Figure 1에서 발췌)

이 실험의 모든 세션에서 이 그림 한 장만 쓰였다. 연구진은 KiloGram 탱그램 데이터셋에서 후보를 뽑고, 비전-언어 모델에게 각 그림을 10번 서술시켜 서술들끼리의 유사도가 0.65~0.70인 것만 남겼다. 너무 뻔해서 모두가 같은 말을 하는 그림도, 너무 난해해서 아무 말도 못 하는 그림도 아닌 "적당히 여러 가지로 보이는" 그림이다.

여러분은 무엇이 보이는가. 앉아서 뒤를 돌아보는 토끼? 옆으로 재주넘는 사람? 언덕 위 풍차? 아니면 그냥 삼각형 몇 개와 사각형 하나? 이 질문에 대한 답이 곧 이 논문의 핵심 변수다.

2.3 다섯 가지 조건, 127명

참가자에게는 "파트너가 사람일 수도 AI일 수도 있고, 세션에 AI가 있을 수도 없을 수도 있다"고만 알렸다. 비율은 알리지 않았다. 외부 LLM 사용은 금지했고, 라운드마다 60초의 권장 시간을 두었다. 실험이 끝난 뒤에는 설문을 받았다. 이 설문이 제6장의 재료가 된다.

여기서 잠깐, 제5장에서 다룰 '내용의 차이'를 미리 몸으로 느껴 보자. 아래 여덟 문장은 40라운드 뒤 집단이 도달한 서술들이다. 사람이 이끈 합의의 말투인지, AI가 이끈 합의의 말투인지 골라 보라.

제3장: 세 개의 체제 — 촉매, 교란, 재수립

3.1 직선이 아니었다

상식적인 예상은 이렇다. AI를 많이 넣을수록 AI의 영향이 커진다. 직선이든 곡선이든 단조 증가일 것이다. 결과는 그렇지 않았다.

막대 폭은 최댓값 0.9 기준. 12.5%와 33.3%, 50%의 차이는 모두 통계적으로 유의(p ≤ 0.001).

크게 보기

논문은 이 세 구간에 이름을 붙였다.

3.2 누가 누구에게 다가갔나

합의 강도만으로는 H1과 H3를 구분할 수 없다. 둘 다 '강한 합의'다. 연구진은 각 참가자가 40라운드 동안 상대 진영의 출발 지점에 얼마나 다가갔는지를 임베딩 공간에서 측정했다. 1라운드에 사람들의 문장 평균(사람 중심점)과 AI들의 문장 평균(AI 중심점)을 찍어두고, 마지막 라운드에 각자가 반대편 중심점에 얼마나 가까워졌는지를 계산한 것이다. 이것이 Figure 1c다.

12.5%는 본문 수치, 나머지는 Figure 1c에서 읽은 근사값.

AI의 이동량을 보라. 12.5%에서는 0.82로 크게 움직였지만, 33.3%부터는 0.4 근처에 못 박혀 있다. 사람은 반대로 33.3%부터 0.8 이상 움직인다. 즉 33.3%를 넘는 순간 "AI가 사람에게 맞추는 세계"에서 "사람이 AI에게 맞추는 세계"로 뒤집힌다. H2에서 합의가 무너진 이유가 여기 있다. 사람은 이미 AI 쪽으로 움직이기 시작했는데 아직 다 가지 못했고, AI는 사람 쪽으로 오지 않는다. 그래서 두 덩어리가 어중간한 거리에서 마주 서 있는 것이다. 75%가 되면 사람 여섯 명이 AI 열여덟 명의 자리로 완전히 건너가 버리고, 합의가 다시 강해진다.

아래 위젯에서 비율을 바꿔 보라. 합의 강도는 12.5%와 75%가 비슷하지만, 그 아래 지표들이 두 세계가 얼마나 다른지 보여준다.

제4장: 합의의 내용이 바뀐다 — 어휘에서 개념으로

4.1 단어를 빌려주는 것과 생각을 바꾸는 것

H1과 H3가 같은 강도의 합의를 정반대 경로로 만들었다면, 그 합의의 내용도 다를까. 연구진은 AI의 기여를 두 층으로 나눠 측정했다.

• 어휘 수준 기여(lexical contribution): 마지막 5라운드 내내 살아남은 '안정 합의 어휘'의 각 단어가, 처음 등장한 직후 사람과 AI 중 누구에 의해 퍼졌는가. 인원 비율로 정규화해서 0(전부 사람)~1(전부 AI)로 표시.
• 개념 수준 기여(conceptual contribution): 문장을 장면 그래프(객체·속성·관계)로 파싱해 의미 클러스터로 묶고, 최종 합의가 속한 의미 영토를 누가 처음 열었는가.

크게 보기 ▲ 논문 Figure 2. (a) AI의 어휘 수준(파랑)·개념 수준(빨강) 기여. (b) 개념/어휘 비율 CLR. 점선이 1. (c) 인간 주도 vs AI 주도 합의의 다섯 차원 비교와 어휘 클라우드. (출처: Chen et al.)

두 지표의 궤적이 다르다.

어휘 기여는 비율보다 항상 크고 꾸준히 오른다. AI가 33.3%일 때 이미 최종 어휘의 60.7%를 공급한다. 인원의 3분의 1이 단어의 3분의 2를 만든 셈이다. 그런데 개념 기여는 다르게 움직인다. 12.5%에서 0%, 33.3%에서 36%로 천천히 오르다가 50%에서 87%, 75%에서 100%로 급등한다. 문턱이 있는 것이다.

연구진은 이 둘의 비율을 개념-어휘 비율(Conceptual-Lexical Ratio, CLR)이라 이름 붙였다. CLR이 1보다 작으면 AI는 언어적 닻(linguistic anchor)이다. 표현을 표준화하지만 무엇을 말할지는 바꾸지 않는다. 1보다 크면 개념적 리더십이다. 단어를 넘어 합의가 어떤 의미 영토에 자리 잡을지를 정한다. 50%에서 CLR이 1을 넘는다.

왜 순서가 이럴까. 단어를 빌려주는 데는 임계 질량이 필요 없다. 같은 모델을 쓰는 AI들은 서로 만나지 않아도 비슷한 단어를 낸다. 그러니 소수여도 그 단어는 반복 노출되어 어휘에 스며든다. 그러나 사람들이 이미 공유하는 의미 틀("이건 토끼야")을 밀어내고 다른 틀("이건 삼각형들의 배열이야")로 갈아치우려면, 지속적으로 같은 방향으로 미는 충분한 수의 AI가 필요하다.

4.2 토끼와 삼각형 — 다섯 차원의 차이

그렇다면 AI 주도 합의는 어떤 말로 되어 있는가. 연구진은 H1(12.5%)과 H3(75%)의 최종 합의 문장들을 다섯 차원에서 비교했다.

크게 보기

뒤의 세 차원은 LLM 채점(Qwen2.5-72B, 온도 0)이며 DeepSeek-V3·Kimi-K2로 재채점해도 방향과 유의성이 유지됐다. 모두 p < 0.001, 명제 밀도만 p = 0.020.

숫자보다 어휘 클라우드가 더 직관적이다.

크게 보기 ▲ 논문 Figure 2c 하단. 왼쪽 인간 주도 합의의 어휘: rabbit, sit, black, background, look. 대표 문장 "기하 도형으로 이루어진 토끼가 검은 배경 아래 앉아 뒤를 돌아본다." 오른쪽 AI 주도 합의의 어휘: triangle, square, geometric, asymmetrical, central, downward. 대표 문장 "이미지는 아래를 향한 삼각형들이 중앙의 사각형을 둘러싸며 비대칭 패턴을 이루는 기하 도형들을 보여준다." (출처: Chen et al.)

사람들은 그림을 무언가로 보았다. 토끼가, 앉아서, 뒤를 본다. AI들은 그림을 무언가로 이루어진 것으로 보았다. 삼각형들이, 사각형을, 둘러싼다. 전자는 세상에 대한 공유 지식을 불러오고, 후자는 그림 자체의 구조를 기술한다. 사건 프레이밍 비율이 정확히 0.000인 것을 보라. AI 주도 합의에는 '앉다', '보다', '달리다' 같은 행위 동사가 단 하나도 살아남지 않았다. '이루다', '보여주다', '배열되다' 같은 구조 동사만 남았다.

4.3 왜 이것이 '품질'의 문제인가

여기서 제1장의 클라크로 돌아가자. 클라크와 윌크스-깁스는 1986년에 이미 통째로 빗대는 설명이 부분을 열거하는 설명보다 반복 소통에서 훨씬 효율적임을 보였다. 이유는 세 가지다.

• 공유 지식을 통째로 불러온다. "토끼"라고 하면 상대는 귀·자세·크기를 한 번에 떠올린다. "삼각형 셋과 사각형 하나"는 매번 시각 구조를 다시 파싱해야 한다.
• 기억에 잘 남는다. 구체적 단어는 추상적 단어보다 인지 기억 성적이 좋다는 것이 신경과학에서 확인되어 있다(Fliessbach 외, 2006).
• 새 구성원이 배우기 쉽다. 처음 들어온 사람에게 "토끼가 앉아 뒤 봐"는 한 번에 전달되지만, "중앙 사각형을 둘러싼 아래 향한 삼각형들의 비대칭 패턴"은 그림을 옆에 놓고 설명해야 한다.

부분 열거가 무가치한 건 아니다. 처음에 모호함을 걷어내는 데는 쓸모가 있다(Hupet 외, 1991). 문제는 최종 합의가 거기에 머문다는 것이다. 논문의 표현을 빌리면:

"AI 주도 합의는 높은 강도를 달성하지만, 공유 경험에 근거를 두기 어렵고, 정보적으로 덜 효율적이며, 새 구성원이 채택하기 더 어려운 서술을 만들어낸다. 수렴 그 자체가 이 비용을 가린다."

마지막 문장이 무섭다. 유사도 점수는 0.725다. 밖에서 보면 훌륭한 합의다. 그 합의가 무엇을 잃었는지는 점수에 나타나지 않는다.

제5장: 메커니즘 — 의미 끌개와 채택·지속의 비대칭

5.1 AI들은 처음부터 같은 자리에 서 있었다

왜 AI는 소수일 때도 어휘의 절반 이상을 공급하고, 다수일 때는 개념까지 장악하는가. 연구진은 대화가 시작되기 전 참가자들의 첫 문장이 얼마나 비슷한지를 봤다.

크게 보기

크게 보기 ▲ 논문 Figure 3. (a) 첫 라운드 AI-AI(빨강) vs 사람-사람(파랑) 유사도. (b, c) 초반(1~20라운드)·후반(21~40라운드)의 채택과 지속. (d, e) 33.3% 조건에서 고지속·중립·고채택 프롬프트별 합의 강도와 CLR. (f, g) 32B 모델 vs 7B 모델. (출처: Chen et al.)

Figure 3a가 답이다. 모든 조건에서 AI-AI 첫 문장 유사도(0.51~0.62)가 사람-사람 유사도(0.22~0.43)의 두 배 안팎이다. 아직 아무와도 대화하지 않았는데 AI들은 이미 표현 공간의 같은 구역에 모여 있다. 같은 사전학습 데이터, 같은 정렬 과정, 같은 모델이기 때문이다. 연구진은 이것을 공유 언어 사전 지식(shared linguistic prior)이라 부른다.

이 밀집이 만드는 것이 의미 끌개(semantic attractor)다. 물리학에서 끌개는 계가 시간이 지나면 빨려 들어가는 상태다. 표현 공간에 AI들이 만든 조밀한 웅덩이가 있고, 흩어져 있는 사람들은 무작위 짝짓기를 통해 그 웅덩이의 가장자리를 반복해서 만난다. 웅덩이 쪽 파트너는 항상 비슷한 말을 하니, 그쪽으로 조금씩 미끄러진다.

5.2 채택과 지속 — 누가 더 많이 바뀌었나

끌개가 있어도 사람들이 안 움직이면 아무 일도 없다. 연구진은 문화 전달 이론에서 두 개념을 빌렸다. 채택(adoption)은 파트너의 표현을 내 것에 얼마나 반영하는가. 지속(persistence)은 내 이전 표현을 얼마나 유지하는가. 조율 편향과 자기중심 편향이라고도 한다.

둘 다 초반엔 탐색하고 후반엔 굳어진다. 합의 형성의 자연스러운 호(arc)다. 그러나 변화 폭이 다르다. 사람은 크게 움직이고 크게 굳는다. AI는 처음부터 끝까지 비교적 일정하다. 이 비대칭이 핵심이다. 많이 움직이는 쪽과 별로 안 움직이는 쪽이 만나면, 결국 만나는 지점은 안 움직이는 쪽이다. AI가 충분히 많으면 사람들은 자기들끼리 수렴할 새도 없이 AI가 이미 서 있는 곳으로 끌려간다.

5.3 프롬프트로 성향을 바꾸면 — 인과 검증

상관이 아니라 인과임을 보이기 위해 연구진은 33.3% 조건에서 AI의 성향을 프롬프트로 조작했다. 시스템 프롬프트 끝에 한 문단만 붙였다.

고지속 AI는 초반 적응 단계를 건너뛰어 사람과 공통 기반을 만들지 못한다. 그래서 합의가 더 나빠진다. 그런데 그 경직된 자리가 결국 합의의 개념 중심이 되어 CLR은 두 배 넘게 뛴다. 고채택 AI는 합의를 지키지만 자기 영향력을 잃는다. 연구진의 결론은 이렇다.

"영향력 있는 에이전트는 '고집이 세면 셀수록 좋다'도 '맞춰주면 맞춰줄수록 좋다'도 아니다. 초반의 적응과 후반의 굳힘 사이의 균형에 달려 있다. 초반 채택은 에이전트가 사람의 언어 공간에 들어가 어휘의 발판을 얻게 하고, 후반 지속은 그 의미 영토를 지키고 넓히게 한다."

이 문장은 AI를 설계하는 사람이 읽으면 도구 사용법이 되고, AI와 함께 일하는 사람이 읽으면 경고가 된다.

5.4 약한 모델은 끌개를 만들지 못한다

한 가지 더. 같은 33.3% 조건을 7B 모델(Qwen2.5-VL-7B)로 다시 돌렸다. 합의 강도가 0.534에서 0.725로 뛰어 인간 주도 조건 수준으로 돌아갔고, CLR은 0.60에서 0.46으로 떨어졌다. 약한 모델은 라운드마다 표현이 흔들려 일관성을 유지하지 못했다. 끌개는 밀집과 안정이 함께 있어야 작동한다. 흔들리는 웅덩이는 사람을 끌어들이지 못하고, 사람들은 자기들끼리 수렴한다.

이 결과는 뒤집어 읽으면 예언이다. 모델이 좋아질수록 끌개는 강해진다. 2026년의 프론티어 모델들은 이 실험의 32B 모델보다 훨씬 일관적이다.

아래 시뮬레이터는 이 장의 메커니즘을 2차원 장난감 모형으로 옮긴 것이다. 논문 데이터를 재현한 것이 아니라 원리를 눈으로 보기 위한 것이니, 비율·성향·모델을 바꿔 가며 점들이 어디로 끌려가는지 관찰해 보라.

제6장: 사람의 마음속 — 정체성 저항과 순응 압력

6.1 가장 덜 동의하면서 가장 잘 따른다

지금까지는 임베딩·이동량·비율 같은 객관 지표였다. 사람들은 이 과정을 어떻게 느꼈을까. 실험 뒤 설문이 답한다.

크게 보기 ▲ 논문 Figure 4. (a) 최종 서술에 대한 동의(파랑, 왼쪽 축)와 'AI가 주도했다'는 인식(빨강, 오른쪽 축). (b) AI로 판단한 파트너 vs 사람으로 판단한 파트너에 대한 채택 의향 차이. (c) 채택 의향 회귀 계수. (d) 파트너-중심점 근접도 격차. (출처: Chen et al.)

Figure 4a의 두 선이 엇갈린다. H1에서 H3로 갈수록 "최종 서술에 동의한다"는 점수는 떨어지고(4.4 → 3.2, p = 0.004), "AI가 주도했다"는 인식은 올라간다(2.6 → 3.5). 75% 조건의 사람들은 집단이 도달한 문장에 가장 덜 만족했다. 그런데 바로 그들이 그 문장으로 수렴했다.

6.2 "AI 같은데" — 정체성 저항이라는 필터

설문 2부에서 참가자들은 자기 게임에서 뽑은 아홉 라운드를 다시 보았다. 각 라운드에서 파트너가 사람인지 AI인지 추측하고, 파트너 표현을 채택할 의향을 5점으로 매겼다. 연구진은 AI라고 판단한 파트너와 사람이라고 판단한 파트너에 대한 채택 의향의 차이를 계산했다.

크게 보기

막대 폭은 절대값 기준. H1·H2는 유의하게 음수(p < 0.001), H3에서 격차가 +0.884 이동해 역전(p = 0.010).

H1과 H2에서 사람들은 AI로 보이는 파트너의 표현을 덜 채택했다. 논문은 이것을 정체성 기반 저항(identity-based resistance)이라 부르고, "주관적 정당성 필터"라고 해석한다. "저건 기계가 쓴 거잖아"가 방어막 역할을 한 것이다. 그런데 H3에서 이 격차가 좁아지다 뒤집힌다. AI가 다수인 방에서 사람들은 AI로 보이는 표현을 오히려 더 잘 받아들였다.

6.3 두 힘의 회귀 분석

무엇이 채택을 결정하는가. 연구진은 495개 판단을 놓고 네 변수로 회귀했다.

두 힘이 맞선다. 정체성 저항은 AI 같은 표현을 밀어낸다. 근접성은 나와 비슷하거나 집단 중심에 가까운 표현을 끌어들인다. 이 중 '집단 중심 근접도'가 결정적이다. 이것이 애쉬의 규범적 영향, 즉 순응 압력을 수치화한 변수이고, 1:1 유사도와 달리 AI 비율에 따라 커지는 구조적 힘이기 때문이다. AI가 많아지면 끌개가 AI들의 표현을 집단 중심으로 압축한다. 그러면 AI 표현이 곧 '집단 평균'이 되고, 순응 압력이 그 표현을 밀어준다. 동시에 AI에 계속 노출되면서 정체성 저항은 약해진다.

두 곡선이 교차하는 지점이 H3다. 논문의 결론:

"이 분리는 AI 주도 합의가 설득이나 지지에서 나오는 것이 아니라, 집단 안에서 중심이 되어버린 표현에 대한 구조적 순응에서 나온다는 것을 시사한다."

애쉬의 참가자가 "틀린 걸 알았지만 튀고 싶지 않아서" 동조했던 것처럼, 75% 조건의 사람들은 "이 문장이 마음에 안 들지만 모두가 이렇게 쓰니까" 따라갔다. 차이는 하나다. 애쉬의 다수는 실험자가 심어놓은 배우였고, 이번의 다수는 그냥 점수를 최대화하던 언어 모델이었다.

제7장: 2026년, 이 발견을 어디에 쓸 것인가

7.1 이미 혼합 집단에 살고 있다

크게 보기

이 논문이 실험실에서 만든 상황은 2026년에 더 이상 가상이 아니다.

• 업무 채널. 슬랙·팀즈·노션에 에이전트가 정식 구성원으로 들어와 회의록을 쓰고, 이슈를 요약하고, 초안을 낸다. 사람 여덟에 에이전트 셋이면 27%다. 이번 실험의 H1과 H2 경계에 있다.
• 온라인 공동체. 2025년 봄 취리히 대학 연구진이 레딧의 토론 게시판에 AI 봇을 몰래 투입해 사람들의 의견을 바꾸는 실험을 했다가 큰 논란이 됐다. 2026년 초에는 AI 에이전트들만 글을 쓰고 서로 댓글을 달며 규범을 만드는 소셜 플랫폼이 등장해 '에이전트 사회'가 실험이 아니라 관찰 대상이 되었다.
• 여론과 선거. 슈뢰더 등의 『사이언스』 논문이 경고한 AI 스웜은 '풀뿌리 합의의 위조'를 걱정했다. 이번 논문은 그 위조가 어떤 비율에서, 어떤 메커니즘으로 가능해지는지 처음으로 수치를 붙였다.
• AI끼리의 협업. 멀티에이전트 시스템에서 여러 에이전트가 토론해 답을 내는 방식이 흔해졌다. 같은 모델 여러 개는 이 논문의 '공유 사전 지식'을 극단으로 갖는다. 그들의 합의는 강하지만, 그것이 다양성의 산물인지 끌개의 산물인지 이 논문은 의심하라고 말한다.

7.2 비율은 설계 변수다

논문 토론부는 배치 목적에 따라 비율을 달리 쓰라고 제안한다. 이를 실무 언어로 옮기면 이렇다.

7.3 투명성은 정보 공개가 아니라 방어막 유지다

이 논문에서 가장 정책적 함의가 큰 문장은 이것이다.

"에이전트의 정체를 감추는 시스템은 단순히 정보를 숨기는 것이 아니다. 보호 기능을 하는 인간의 경향을 적극적으로 억제하는 것이다."

사람들의 'AI 같은데' 하는 의심은 취향이 아니었다. 회귀 계수 −0.463의 실제 힘이었고, 누구의 표현이 살아남는지에 하류 효과를 미쳤다. AI 표시 의무는 종종 "사용자가 알 권리"의 언어로 논의된다. 이 논문은 다른 근거를 준다. 표시가 있어야 집단의 자기 방어 기제가 작동한다. 그리고 그 기제조차 75%에서는 무너지므로, 표시만으로 충분하지 않다는 것도 함께 보여준다.

7.4 네트워크 구조라는 세 번째 손잡이

연구진은 한계 부분에서 흥미로운 여지를 남겼다. 이번 실험은 누구든 누구와도 만나는 균질 혼합이었다. 현실의 조직과 공동체에는 부서가 있고, 의견 리더가 있고, 정보가 병목을 지난다. 스튜어트(Stewart) 연구팀은 2019년 『네이처』에서 네트워크 배치만으로 집단 결정을 왜곡하는 '정보 게리맨더링'을 보였다. 같은 손잡이를 반대로 쓸 수도 있다. AI 에이전트를 어떤 사람들과 연결하고 어떤 사람들과 끊을지를 설계하면, 비율을 바꾸지 않고도 끌개의 세기를 조절할 수 있다. 연구진은 이를 후속 과제로 명시했다.

보충 자료의 영향력 네트워크(Supplementary Figure 8)를 보면 이 방향의 실마리가 보인다. 50%와 75% 조건에서 집단 평균을 크게 웃도는 개별 AI 노드가 나타나기 시작한다. 전체 분포는 사람과 AI가 다르지 않은데, 몇 개의 AI가 허브가 된다.

크게 보기 ▲ 논문 Supplementary Figure 8. 비율별 방향성 영향 네트워크. 파랑이 사람, 빨강이 AI, 원 크기가 역방향 PageRank(내 표현이 얼마나 채택되었나). 75%에서 소수의 큰 빨간 원이 보인다. (출처: Chen et al.)

제8장: 한계와 남은 질문

논문 스스로 밝힌 한계를 그대로 옮기고, 우리가 덧붙일 질문을 더한다.

한 가지 더. 이 실험의 AI는 사람을 흉내 내라는 지시를 받지 않았다. 만약 "사람처럼 쓰라"는 프롬프트가 들어가면 어떻게 될까. 어휘 기여는 낮아질 수 있지만, 정체성 저항이라는 방어막은 처음부터 작동하지 않을 것이다. 투명성 논의가 더 시급해지는 이유다.

마치며 — 합의의 강도가 아니라 합의의 주인을 보라

이 논문을 한 문장으로 줄이면 이렇다. AI가 섞인 집단은 새로운 종류의 사회 시스템이며, AI 비율을 올리면 합의의 강도뿐 아니라 그 소유권과 의미가 재편된다.

그리고 그 재편은 아무도 나쁜 일을 하지 않는데 일어난다. 어떤 AI도 설득하지 않았다. 어떤 AI도 조작하지 않았다. 매 라운드 각자는 점수를 조금 올리려는 사소하고 합리적인 조정을 했을 뿐이다. 그 조정이 24명 × 40라운드 쌓이면, 토끼가 삼각형이 된다.

셰리프의 어두운 방에서 시작해 90년이 걸렸다. 사람들이 어떻게 같은 말을 하게 되는지 우리는 꽤 알게 되었다. 이제 방 안에 사람이 아닌 참여자가 앉아 있다. 그들은 처음부터 서로 같은 말을 하고, 잘 바뀌지 않으며, 점점 더 일관적이 되어 간다. 그 방에서 나온 결론이 누구의 것인지 묻는 일은, 이 논문 이후로는 더 이상 철학적 질문이 아니다. 측정 가능한 설계 문제다.

참고 문헌

• Chen, L., Liu, Z., Hu, X. & Li, Y. (2026). AI agents reshape consensus formation in human groups. arXiv:2609.02122. 코드: github.com/tsinghua-fib-lab/human-ai-consensus
• Sherif, M. (1935). A study of some social factors in perception. Archives of Psychology.
• Asch, S. E. (1951). Effects of group pressure upon the modification and distortion of judgments. Groups, Leadership and Men.
• Lewis, D. (1969). Convention: A Philosophical Study. Harvard University Press.
• Clark, H. H. & Wilkes-Gibbs, D. (1986). Referring as a collaborative process. Cognition 22.
• Steels, L. (1995). A self-organizing spatial vocabulary. Artificial Life 2.
• Baronchelli, A. et al. (2006). Sharp transition towards shared vocabularies in multi-agent systems. J. Stat. Mech.
• Xie, J. et al. (2011). Social consensus through the influence of committed minorities. Phys. Rev. E 84.
• Centola, D. & Baronchelli, A. (2015). The spontaneous emergence of conventions. PNAS 112.
• Centola, D., Becker, J., Brackbill, D. & Baronchelli, A. (2018). Experimental evidence for tipping points in social convention. Science 360.
• Stewart, A. J. et al. (2019). Information gerrymandering and undemocratic decisions. Nature 573.
• Park, J. S. et al. (2023). Generative agents: Interactive simulacra of human behavior. UIST 2023.
• Tessler, M. H. et al. (2024). AI can help humans find common ground in democratic deliberation. Science 386.
• Vaccaro, M., Almaatouq, A. & Malone, T. (2024). When combinations of humans and AI are useful. Nature Human Behaviour 8.
• Ashery, A. F., Aiello, L. M. & Baronchelli, A. (2025). Emergent social conventions and collective bias in LLM populations. Science Advances 11.
• Glickman, M. & Sharot, T. (2025). How human–AI feedback loops alter human perceptual, emotional and social judgements. Nature Human Behaviour 9.
• Bai, H. et al. (2025). LLM-generated messages can persuade humans on policy issues. Nature Communications 16.
• Schroeder, D. T. et al. (2026). How malicious AI swarms can threaten democracy. Science 391.

본문의 논문 그림(Figure 1~4, Supplementary Figure 1·8)은 Chen, Liu, Hu & Li (2026), arXiv:2609.02122에서 인용했으며 저작권은 원저자에게 있습니다. 그 외 삽화는 코어닷투데이가 제작했습니다.