데이터가 유일한 해자다 — AI 앱 시대, 무엇이 진짜 방어선인가

프롤로그: 회의실에서 아무도 답하지 못한 질문

2026년 어느 목요일 오후, 시리즈 A를 막 끝낸 스타트업의 회의실.

투자자가 슬라이드를 넘기다 말고 물었다.

"좋습니다. 그런데 다음 달에 OpenAI가 이 기능을 기본으로 넣으면, 여러분에게 남는 게 뭐죠?"

방 안이 조용해졌다. 창업자는 준비된 답을 꺼냈다. "저희는 UX가 다릅니다." 투자자는 고개를 저었다. "3개월이면 따라옵니다." "도메인 전문성이 있습니다." "그건 모델이 이미 알고 있죠."

정적. 그리고 창업자가 마지막으로 꺼낸 카드.

"…저희에겐 데이터가 있습니다."

투자자가 처음으로 펜을 내려놓았다. "어떤 데이터요? 얼마나 빨리 쌓이죠? 그게 모델을 실제로 더 좋게 만드나요?"

이 세 개의 후속 질문이 이 글의 전부다.

2026년 7월, AI 투자자 뉴스레터 Frontier AI는 「Data is Your Only Moat(데이터가 당신의 유일한 해자다)」라는 글을 실었다. 엔터프라이즈 AI 에이전트 회사 RunLLM을 운영하는 저자들이 쓴 이 글은, AI 애플리케이션 시장을 2×2 지도 한 장으로 정리하고 이렇게 결론짓는다.

어느 칸에 있든, 결국 남는 해자는 데이터 하나뿐이다.

그런데 이 주장은 생각보다 논쟁적이다. 정확히 7년 전, 실리콘밸리에서 가장 영향력 있는 벤처캐피털 중 하나가 정반대 이야기를 했기 때문이다. 그 제목은 「데이터 해자라는 텅 빈 약속」이었다.

누가 맞는가? 그리고 2026년의 우리는 무엇을 해야 하는가?

---

1장: '해자'라는 말은 어디서 왔나

성을 지키는 물길

해자(垓子, moat) 는 원래 성 둘레를 파서 물을 채운 방어용 도랑이다. 성벽이 아무리 높아도 사다리를 걸치면 오를 수 있지만, 물이 가득한 도랑은 사다리부터 못 놓게 만든다. 공격 자체를 비경제적으로 만드는 것 — 이게 해자의 본질이다.

이 단어를 비즈니스 용어로 만든 사람은 워런 버핏이다. 1995년 주주 서한에서 그는 이렇게 썼다. "사업에서 나는 무너뜨릴 수 없는 해자로 보호되는 경제적 성을 찾는다."

가장 정리된 설명은 2007년 서한에 나온다.

"진정으로 위대한 기업은 투하자본이익률을 지켜 주는 지속적인 '해자'를 가져야 한다. 자본주의의 역학은 높은 수익을 내는 어떤 사업의 '성'이든 경쟁자들이 반복해서 공격할 것을 보장한다."

"기업의 역사는 '로만 캔들(Roman Candles)' — 해자가 환상으로 드러나 곧 건너지고 만 회사들 — 로 가득하다."

버핏의 요점은 단순했다. 좋은 제품은 해자가 아니다. 좋은 제품은 베낄 수 있다. 해자란 경쟁자가 따라 하려면 비합리적으로 큰 비용을 치러야 하는 구조다.

그리고 같은 문단에 이 글 전체를 위협하는 문장이 하나 더 있다. 지금은 지나치되, 마지막에 반드시 돌아온다.

소프트웨어에서 해자는 다섯 가지였다

지난 20년간 소프트웨어 업계가 인정해 온 해자는 대략 다섯 종류다.

마지막 줄이 이 글의 출발점이다. AI 시대에 '기술 우위'라는 해자는 유례없이 빠르게 마른다.

이유는 명확하다. 오늘 당신이 최신 모델로 만든 기능은, 얼마 지나지 않아 훨씬 싼 모델로 똑같이 만들 수 있다. 어제의 최첨단이 오늘의 기본 기능이 된다.

다만, 흔한 오해 하나는 바로잡고 가자

"AI 토큰 가격은 계속 떨어진다"는 말은 2026년 현재 절반만 맞다.

떨어지는 것은 이미 따라잡힌 성능의 가격이다. 예컨대 한때 최상위였던 Claude Opus 4.1은 100만 토큰당 $15/$75(입력/출력)였는데, 후속 Opus 4.5~4.8은 같은 최상위 자리에서 $5/$25로 내려왔다.

그런데 최전선 자체의 가격은 오히려 오르고 있다.

최상위 모델의 출력 토큰 가격은 2023년 GPT-4의 $60에서 지금 $180으로, 오히려 3배가 됐다.

게다가 명세서에 잘 드러나지 않는 인상이 둘 더 있다.

이 사실은 이 글의 주장을 약화시키지 않는다. 오히려 강화한다. 모델 접근이 공짜에 가까워지는 게 아니라면, "그냥 더 좋은 모델을 부르면 된다"는 전략에는 한계가 있다. 값싼 모델로도 좋은 결과를 내게 만드는 것 — 그건 결국 당신만 가진 데이터와 그것으로 돌린 루프에서 나온다.

이게 「데이터가 유일한 해자다」라는 주장의 뼈대다. 그런데 이 생각은 2026년에 갑자기 나온 게 아니다. 뿌리는 30년 전으로 간다.

---

2장: 데이터 해자의 원형 — 구글·아마존·넷플릭스

구글: 사람들이 무엇을 클릭했는가

1998년, 스탠퍼드 대학원생 래리 페이지와 세르게이 브린이 발표한 논문 「The Anatomy of a Large-Scale Hypertextual Web Search Engine」은 PageRank라는 알고리즘을 소개했다. 핵심 아이디어는 우아했다. 좋은 페이지란, 좋은 페이지들이 링크를 걸어준 페이지다.

여기까지는 알고리즘 우위다. 베낄 수 있다. 실제로 곧 베껴졌다.

구글을 진짜로 무적으로 만든 건 그다음이었다. 사람들이 검색창에 무엇을 치고, 어떤 결과를 클릭하고, 몇 초 만에 뒤로 가기를 눌러 다른 결과를 클릭하는지 — 이 행동 로그가 매일 수억 건씩 쌓였다.

이 데이터의 성질을 보자.

③번이 잔인한 부분이다. 데이터가 없어서 제품이 나쁘고, 제품이 나빠서 사용자가 없고, 사용자가 없어서 데이터가 없다. 이 순환 고리에 갇히면 빠져나올 수 없다. 이것이 데이터 해자의 원형이다.

아마존: "이 상품을 산 사람은 이런 것도 샀습니다"

2003년, 아마존 엔지니어 그렉 린든(Greg Linden) 등이 IEEE Internet Computing에 발표한 논문 「Amazon.com Recommendations: Item-to-Item Collaborative Filtering」은 지금도 추천 시스템 교과서의 첫 장에 등장한다.

기존 방식은 "당신과 비슷한 사람"을 찾아 그 사람이 산 걸 추천했다. 사용자가 수천만 명이면 계산이 폭발한다. 아마존은 축을 뒤집었다. "이 상품과 함께 팔린 상품"을 미리 계산해 두는 것이다. 상품 수는 사용자 수보다 훨씬 적고 변화도 느리다.

여기서도 결정적인 건 알고리즘이 아니었다. 어떤 상품들이 실제로 같은 장바구니에 담겼는가 — 이 구매 기록은 아마존만 갖고 있었다. 그리고 추천이 정확해질수록 더 팔리고, 더 팔릴수록 데이터가 늘고, 데이터가 늘수록 추천이 정확해졌다.

제프 베조스의 플라이휠(flywheel) 이 바로 이것이다. 플라이휠은 처음엔 돌리기 무겁지만, 한번 관성이 붙으면 스스로 돈다.

넷플릭스: 100만 달러짜리 교훈

2006년, 넷플릭스는 상금 100만 달러를 걸고 공개 대회를 열었다. 자사 추천 알고리즘의 정확도를 10% 개선하면 상금을 준다는 것. 익명화된 1억 건의 평점 데이터가 공개됐다.

2009년, 한 연합팀이 목표를 달성해 상금을 받았다. 그런데 여기서 유명한 반전이 있다. 넷플릭스는 우승 알고리즘을 그대로 제품에 넣지 않았다. 앙상블이 너무 복잡해 운영 비용이 이득을 넘었고, 무엇보다 그사이 넷플릭스의 사업이 DVD 배송에서 스트리밍으로 옮겨가면서 데이터의 성격 자체가 바뀌었기 때문이다.

별점 5점 같은 말로 한 평가보다, 실제로 몇 분을 봤고 어디서 껐는가라는 행동 데이터가 훨씬 강력했다. 사람은 "다큐멘터리를 좋아한다"고 말하면서 실제로는 예능을 정주행한다.

세 사례의 공통 구조를 정리하면 이렇다.

공통점: 사용자가 제품을 쓰는 행위 자체가, 아무런 추가 노력 없이, 정답이 붙은 학습 데이터를 만들어 낸다.

이 문장을 기억해 두자. 7장에서 이 글의 핵심 개념으로 돌아온다.

---

3장: 2019년, 누군가 해자의 물을 뺐다

"데이터 해자는 텅 빈 약속이다"

2010년대 후반, 실리콘밸리의 모든 피치덱에 "우리는 데이터 네트워크 효과가 있습니다"라는 슬라이드가 들어갔다. 그러자 2019년 5월 9일, 벤처캐피털 안드리센 호로위츠(a16z) 의 마틴 카사도(Martin Casado) 와 피터 라우튼(Peter Lauten) 이 「The Empty Promise of Data Moats」(데이터 해자라는 텅 빈 약속)라는 글로 찬물을 끼얹었다.

카사도는 네트워크 장비 회사 니시라(Nicira)를 VMware에 12억 달러에 매각한 창업자 출신이다. 그의 반박은 날카로웠다.

②번을 구체적으로 보자. 그들이 든 예시는 고객지원 챗봇이었다. 고객 문의의 상위 40%는 뻔한 질문들이라 데이터를 조금만 모아도 금방 커버된다. 그런데 나머지 롱테일은 하나하나가 희귀해서, 데이터를 아무리 부어도 커버율이 잘 오르지 않는다.

그들의 결론은 이랬다. "데이터를 마법의 해자로 믿는 창업자는, 정작 진짜 방어력을 만드는 일(제품, 전환 비용, 유통)에 투자하지 않는다."

이 글은 지금 읽어도 대부분 옳다. 그리고 실제로 2019~2021년, "데이터가 우리 해자"라고 주장하던 수많은 AI 스타트업이 조용히 사라졌다.

그런데 반전이 일어났다

문제는, 이 글이 나온 3년 뒤에 게임의 규칙이 바뀌었다는 것이다.

카사도의 논증은 한 가지 전제 위에 서 있었다. "모델의 성능은 데이터 양에 대해 금방 포화한다." 2019년의 머신러닝 — 분류기, 추천 모델, 소형 신경망 — 에서 이건 명백한 사실이었다.

그런데 대규모 언어 모델은 이 전제를 깼다.

---

4장: 친칠라가 데이터를 왕좌에 앉히다

스케일링 법칙: 성능이 '예측 가능하게' 오른다

2020년, OpenAI의 재러드 카플란(Jared Kaplan) 등이 발표한 「Scaling Laws for Neural Language Models」는 충격적인 관찰을 내놓았다. 모델 크기, 데이터 양, 계산량을 늘리면 성능(손실값)이 매끄러운 거듭제곱 법칙을 따라 개선된다는 것. 포화되지 않고, 수십 배 범위에 걸쳐 계속.

이건 a16z의 ②번 반박("수확 체감이 온다")에 정면으로 부딪히는 관찰이었다. 적어도 언어 모델에서는, 데이터를 더 부으면 정말로 계속 좋아졌다.

카플란의 결론은 "모델을 키워라"였다. 그래서 GPT-3(1,750억 파라미터) 같은 거대 모델 경쟁이 시작됐다.

그리고 2022년, 판이 뒤집힌다

2022년 DeepMind의 호프만(Hoffmann) 등이 발표한 「Training Compute-Optimal Large Language Models」, 통칭 친칠라(Chinchilla) 논문은 업계를 즉시 바꿔놓았다.

핵심 발견: 그동안 만든 거대 모델들은 전부 '데이터 굶주림' 상태였다. 같은 계산 예산이면, 모델을 키우는 대신 데이터를 훨씬 더 먹여야 최적이었다. 대략 파라미터 1개당 토큰 20개 비율.

4배 작은 모델이, 4배 많은 데이터를 먹고, 더 큰 모델을 이겼다.

이 순간 데이터의 지위가 근본적으로 바뀌었다. 데이터는 더 이상 "모델을 조금 개선하는 재료"가 아니라, 성능을 결정하는 제1 변수가 됐다.

더 깊은 내용은 코어닷 블로그의 친칠라 스케일링 법칙과 Scaling Laws 특집에서 다뤘다.

그러자 새로운 공포가 왔다: 데이터가 바닥난다

데이터가 성능을 결정한다면, 데이터를 계속 구할 수 있는가?

Epoch AI의 파블로 비야로보스(Pablo Villalobos) 등이 발표한 연구(ICML 2024)의 추정은 이랬다.

이것이 이른바 '데이터 벽(data wall)' 이다. 인터넷에 널린 공짜 텍스트를 긁어모으는 시대가 끝나가고 있다는 뜻이다.

그리고 바로 이 지점에서, 데이터 해자 논쟁이 완전히 새로운 국면으로 들어간다.

데이터 고갈과 합성 데이터에 관해서는 합성 데이터와 데이터 플라이휠 글에서 자세히 다뤘다.

---

5장: 질문이 바뀐다 — '얼마나'에서 '어떤'으로

1.3B가 175B를 이긴 날

2022년 OpenAI가 발표한 InstructGPT 논문은 데이터 논쟁의 성격을 바꿔놓은 또 하나의 사건이다.

연구진은 GPT-3에 RLHF(인간 피드백 기반 강화학습) 를 적용했다. 방법은 이랬다. 사람이 직접 쓴 모범 답변 약 13,000건으로 먼저 학습시키고(40명의 계약직 레이블러가 작성), 그다음 모델이 만든 여러 답변 중 어느 쪽이 더 나은지 사람에게 고르게 해서 '보상 모델'을 학습시키고, 그 보상을 최대화하도록 강화학습을 돌렸다.

결과가 충격적이었다.

100배 작은 모델이 100배 큰 모델을 이겼다. 파라미터도, 사전학습 데이터도 아니었다. 차이를 만든 건 소량의, 그러나 정확히 겨냥된 인간 선호 데이터였다.

이 논문의 전체 해부는 InstructGPT 해부와 그 원조인 RLHF의 기원에서 다뤘다.

이것이 의미하는 바

여기서 데이터 해자 논쟁의 축이 완전히 이동한다.

a16z의 반박은 "무차별하게 쌓은 데이터"에 대해서는 여전히 옳다. 하지만 모델의 약점을 정확히 겨냥한 소량의 고품질 신호는 전혀 다른 물건이다. 그리고 그런 신호는 웹 크롤링으로 얻을 수 없다. 오직 사람이 실제 일을 하는 현장에서만 나온다.

이제 원문의 지도를 펼칠 준비가 됐다.

---

6장: 2×2 지도 — 원문의 핵심 프레임워크

「Data is Your Only Moat」의 저자들은 AI 애플리케이션을 두 축으로 나눈다.

• 가로축 — 도입 난이도(Adoption): 이 제품을 실제로 쓰게 만들기가 얼마나 어려운가? 개발자가 신용카드로 바로 결제하면 되는가, 아니면 보안팀·법무팀·구매팀을 6개월간 설득해야 하는가?
• 세로축 — 기술 난이도(Solving): 이 문제를 AI가 제대로 풀어내기가 얼마나 어려운가?

그리고 저자들의 핵심 주장은 이것이다.

성패를 가르는 건 문제가 얼마나 어려운가가 아니라, 얼마나 쉽게 도입되어 데이터를 만들어 내는가다.

직접 눌러 보며 네 자리의 성격을 비교해 보자.

① 도입 쉬움 × 기술 쉬움 — '가치의 함정'

범용 검색 답변, 건강 정보 Q&A, 일반 소비자 챗봇이 여기 있다. 만들기도 쉽고 쓰게 하기도 쉽다. 그래서 모두가 들어온다.

문제는 프론티어 랩(OpenAI, Google, Anthropic)이 이미 수억 명의 사용자와 압도적인 데이터를 갖고 같은 자리에 앉아 있다는 것이다. 게다가 사용자 충성도가 낮다. 사람들은 챗봇 서너 개를 아무렇지 않게 갈아탄다.

원문은 이 자리를 가치의 함정(value trap) 이라 부른다. 들어가기 쉬워 보이지만, 지킬 방법이 없는 자리다.

이 함정의 교과서적 사례가 재스퍼(Jasper AI) 다. GPT-3 API로 마케팅 문구를 생성해 주는 서비스로 2022년 10월 1억 2,500만 달러를 유치하며 15억 달러 가치를 인정받았다. 그리고 채 9개월이 지나지 않아 감원을 발표했고, 내부 기업가치를 약 20% 낮추고 2023년 매출 전망을 약 30% 하향했다.

한 가지 정확히 해 두자. 창업자의 공지문 어디에도 "ChatGPT 때문"이라는 말은 없다. 그 인과는 언론이 붙인 해석이다. 다만 시점은 분명하다. 15억 달러 평가를 받은 그 시기에 ChatGPT가 무료로 등장했고, "GPT를 예쁘게 감싼 것"의 가치는 그 뒤로 시장에서 다시 매겨졌다.

덧붙이면, 이 이야기에는 후일담이 있다. 재스퍼의 후임 CEO 티모시 영은 훗날 이렇게 반박했다. "모델은 그 위에 무언가를 짓는 새로운 인프라일 뿐이다. 진짜 제품은 컨텍스트와 워크플로, 그리고 UX다." 그리고 가치는 바벨(barbell) 형태로 쌓인다고 했다 — 맨 아래 인프라(엔비디아 같은)와 맨 위 애플리케이션에. 이 반박이 옳은지는 8장에서 숫자로 확인한다.

흡수는 '경쟁'이 아니라 '번들'로 온다

프론티어 랩과 플랫폼이 카테고리를 삼키는 방식은 대개 정면 승부가 아니다. 가격을 0으로 만드는 것이다.

가장 깔끔한 사례가 2025년 1월 15일 구글의 워크스페이스 가격 개편이다.

월 2달러를 올려서 월 20달러짜리 상품을 없앴다. 기존 애드온 구독자는 1월 31일 이후로 청구가 중단됐다.

이게 '가치의 함정'의 실제 작동 방식이다. 경쟁자가 당신보다 좋은 제품을 만들어서 이기는 게 아니다. 당신이 파는 것을 자기 제품에 끼워 넣어 공짜로 만들어 버린다. 이 공격에는 "우리 제품이 더 좋습니다"라는 방어가 통하지 않는다.

그리고 흡수는 실제로 측정된다

AI가 앞단에서 답을 가로채면 뒷단의 트래픽이 어떻게 되는지, 이제 정량적 증거가 있다.

퓨 리서치 센터가 2025년 3월 미국 성인 900명의 실제 브라우징 데이터(구글 검색 68,879건)를 분석한 결과다.

클릭이 거의 절반으로 줄었다. 그리고 요약 안의 출처 링크를 누르는 사람은 100명 중 1명뿐이었다.

즉 콘텐츠를 만들어 트래픽으로 먹고살던 사업 모델은, AI가 답을 요약해 주는 순간 연료 공급선이 끊긴다. 이것이 데이터 해자가 없는 자리에서 벌어지는 일이다.

② 도입 쉬움 × 기술 어려움 — 코딩 에이전트가 이긴 자리

여기가 지금까지 AI 앱의 최대 승자가 나온 자리다. 대표 선수는 코딩 에이전트다.

코드를 제대로 짜는 건 기술적으로 매우 어렵다. 그런데 도입은 놀랍도록 쉬웠다. 개발자는 결재를 받지 않아도 된다. 에디터를 하나 깔면 끝이다.

원문이 지적하는 결정적 포인트가 이것이다.

"엔지니어 한 명이 하루에 수십, 수백 번 코드를 생성한다."

그리고 그때마다 신호가 남는다. 제안을 수락했는가 거절했는가. 수락한 뒤 곧바로 고쳤는가. 테스트가 통과했는가. 이 신호들이 초 단위로 쌓인다.

Cursor를 만든 Anysphere가 2025년 10월 자체 모델 Composer를 내놓은 것이 이 축적의 결과다. 다만 여기서 흔한 오해 하나를 짚고 가자. Composer는 "수락/거절 로그를 모아서 학습시킨 모델"이 아니다. Cursor의 설명에 따르면, Composer는 실제 대규모 코드베이스에서 진짜 소프트웨어 엔지니어링 과제를 풀게 하고, 파일 편집·의미 검색 같은 실제 도구를 쥐여 준 채 강화학습으로 훈련한 MoE 모델이다.

그리고 결정적으로, Cursor는 Composer가 프론티어 모델을 이긴다고 주장하지 않는다. 블로그 각주에 GPT-5와 Sonnet 4.5가 "둘 다 Composer를 능가한다"고 직접 적어 두었다. Composer가 파는 건 성능이 아니라 속도 — 비슷한 모델보다 4배 빠른 생성이다.

이게 왜 중요한가? 데이터 해자의 정체를 정확히 보여주기 때문이다. Cursor가 가진 것은 '로그 더미'가 아니라 모델을 훈련시킬 수 있는 살아 있는 개발 환경이다. 실제 코드베이스, 실제 도구, 실제 과제, 그리고 성패를 자동으로 채점할 수단. 이건 웹에서 긁어올 수 없다.

그리고 이 루프가 실제로 어떻게 도는지, Cursor는 2025년 9월 자동완성(Tab) 모델에 온라인 강화학습을 적용한 글에서 숫자로 공개했다. 이 글이 7장에서 말할 '피드백 밀도'의 가장 선명한 실물이다.

결과는 제안 횟수 21% 감소, 수락률 28% 증가였다. 덜 제안하고 더 맞힌 것이다.

주목할 점은 사이클 타임이다. Cursor는 이 방식이 보통의 모델 제공자와 다르다고 직접 설명한다 — "하루에도 여러 번 새 모델을 사용자에게 배포하고, 그 데이터를 학습에 쓴다." 대형 모델의 출시 주기가 몇 달인 것과 대조된다.

모델을 몇 달마다 바꾸는 회사와, 두 시간마다 바꾸는 회사. 데이터 해자란 결국 이 사이클 타임의 차이다.

③ 도입 어려움 × 기술 쉬움 — 배선(wiring)이 해자다

고객지원 티켓 처리, IT 헬프데스크, 이커머스 반품 처리가 여기 있다. Sierra(세일즈포스 前 공동 CEO 브렛 테일러가 창업), Decagon 같은 회사들의 무대다.

기술적으로는 어렵지 않다. 문의를 이해하고, 정책을 확인하고, 답하고, 필요하면 시스템에 조치한다. 문제는 도입이다. 20년 된 CRM, 사내 규정, 예외 처리 규칙, 보안 심사, 규제 대응 — 이 모든 걸 뚫어야 한다.

그런데 바로 그 어려움이 해자가 된다. 6개월에 걸쳐 그 회사의 업무 흐름을 배우고 나면, 경쟁사로 갈아타는 건 그 6개월을 처음부터 다시 하는 것과 같다. 해자는 모델이 아니라 배선에서 나온다.

④ 도입 어려움 × 기술 어려움 — 원문이 지목한 다음 전장

SRE(장애 대응), 보안 관제가 여기 있다. 원문의 저자들이 운영하는 RunLLM도 이 자리에 있다.

여기는 모든 게 어렵다. 도입 설득도 오래 걸리고, 문제 자체도 지독하다. 게다가 데이터가 느리게 쌓인다. 장애는 매일 일어나지 않고, "이 조치가 옳았는가"는 사후에도 논쟁거리다.

그런데 원문은 앞으로 12~24개월간 이 자리에서 승자가 나올 것으로 본다. 근거는 세 가지다.

그리고 이 자리의 해자는 가장 깊다. 그 회사의 시스템이 어떻게 죽고 어떻게 살아나는지 — 이건 사실상 베테랑 엔지니어의 머릿속을 대체하는 일이고, 한번 자리 잡으면 뽑아내기가 대단히 어렵다.

---

7장: 진짜 핵심 개념 — 피드백 밀도

이 글에서 딱 하나만 가져간다면 이 장이다.

왜 코딩은 이겼고 슬라이드는 지지부진했나

생각해 보면 이상한 일이다. 슬라이드 만들기는 코딩보다 훨씬 쉬운 문제처럼 보인다. 그리고 훨씬 많은 사람이 필요로 한다. 그런데 왜 AI 코딩 도구는 폭발했고, AI 슬라이드 생성기는 그만큼 못 갔을까?

원문의 답이 정확하다. 피드백의 결이 다르기 때문이다.

즉, 문제가 어려워서 코딩이 이긴 게 아니다. 한 번 쓸 때마다 학습 가능한 신호가 몇 개나 떨어지는가 — 이걸 피드백 밀도(feedback density) 라고 부르자. 이 밀도가 데이터 플라이휠의 회전 속도를 결정한다.

직접 계산해 보기

값을 바꿔가며 감각을 잡아 보자. 프리셋을 눌러 코딩 에이전트와 슬라이드 생성기를 비교해 보면, 왜 결과가 그렇게 갈렸는지 숫자로 보인다.

세 개의 곱셈

피드백 밀도는 대략 이렇게 분해된다.

곱셈이라는 게 중요하다. 셋 중 하나라도 0에 가까우면 전체가 0이 된다. 사용자가 아무리 많아도 피드백이 남지 않으면 데이터는 그냥 로그 파일일 뿐이다.

이것이 "데이터가 있다"는 말이 대부분 공허한 이유다. 진짜 질문은 이것이다.

---

8장: 2026년의 해자는 '검증 가능성'에서 나온다

RLVR — 사람에게 묻지 않고 채점하는 법

2025년 1월 공개된 DeepSeek-R1은 AI 업계에 또 한 번 충격을 줬다. 사람이 일일이 선호를 매기는 RLHF 없이, 순수 강화학습만으로 수학·코딩 추론 능력을 끌어올린 것이다.

핵심 아이디어는 RLVR(Reinforcement Learning with Verifiable Rewards, 검증 가능한 보상 기반 강화학습) 이다. 수학 문제는 답이 맞았는지 자동으로 확인할 수 있다. 코드는 테스트를 돌려보면 된다. 정답 판정에 사람이 필요 없다면, 학습 데이터를 무한히 만들 수 있다.

이것이 왜 데이터 해자 논의를 바꾸는가?

DeepSeek-R1의 학습 과정은 DeepSeek-R1 특집에서, RLVR을 포함한 RLHF 전체 지형도는 RLHF Book 리뷰에서 다뤘다.

잠깐 — 해자는 실제로 버텼는가?

여기까지가 이론이다. 그런데 이 글의 주장에는 검증할 방법이 있다. 프론티어 랩이 실제로 같은 기능을 출시했을 때, 앱 회사들은 정말 무너졌는가?

2025~2026년은 이 실험이 대규모로 벌어진 시기였다. 결과는 "래퍼는 다 죽는다"는 통념과 상당히 다르다.

Glean의 숫자는 특히 흥미롭다. 구글이 정확히 같은 시장에 들어온 그 기간에 매출이 3배가 됐다.

이걸 어떻게 읽어야 할까? 두 가지 해석이 가능하고, 아직 판정은 이르다.

정직하게 말하면 지금 데이터로는 두 해석을 구분할 수 없다. 다만 한 가지 신호는 눈여겨볼 만하다. Glean은 스스로를 더 이상 '사내 검색'이라 부르지 않는다. '엔터프라이즈 컨텍스트' 플랫폼으로 위치를 옮겼다. 검색 자체는 상품화되고 있다는 걸 그들이 가장 먼저 인정한 셈이다.

흥미로운 건 이들이 방어 논리를 어디에 두는가다. Glean의 창업자 아빈드 자인은 모델 회사들과 매일 정면으로 부딪힌다는 걸 인정하면서도, 요지는 한 문장으로 정리한다. "AI 모델 자체는 당신 회사에 대해 아무것도 이해하지 못한다."

이게 이 글이 7장에서 말한 것과 정확히 같은 이야기다. 모델은 세상 일반을 알지만, 당신 조직이 어떻게 굴러가는지는 오직 그 안에서 도는 루프만 안다.

이 글의 주장에 대한 가장 강한 반론

여기까지 읽고 "그래서 데이터를 모으면 되는구나"라고 결론 내리면, 중요한 반증 하나를 놓치는 것이다. 이 글의 제목이 된 명제 — "데이터가 유일한 해자다" — 를 정면으로 흔드는 연구가 있다.

경제학자 핫 올콧(Hunt Allcott), 후안 카밀로 카스티요, 매튜 젠츠코, 레온 무솔프, 토비아스 살츠가 2025년 1월 발표한 NBER 논문 「Sources of Market Power in Web Search: Evidence from a Field Experiment」는, 검색 시장에서 구글의 지배력이 어디서 오는지를 실제 현장 실험으로 분해했다.

두 가지 처방을 비교한 결과는 이랬다.

논문의 결론은 이렇게 요약된다. "수요 측 마찰을 제거하면 빙의 점유율은 두 배가 된다. 데이터 공유 의무화의 효과는 작다."

이게 무슨 뜻인가? 구글을 지키는 진짜 방벽은 데이터가 아니라 유통(distribution) 이었다는 것이다. 브라우저 기본 검색엔진, 스마트폰 기본 설정, 사람들이 바꾸지 않는 습관 — 이것이 데이터보다 훨씬 강력했다.

원문의 제목이 「데이터가 유일한 해자다」인 것은 수사(修辭)로 읽는 편이 정확하다. 더 정확한 문장은 이것이다. "모델을 빌려 쓰는 회사에게, 복제 불가능한 자산은 데이터 루프뿐이다. 하지만 그 루프를 돌리려면 먼저 유통을 뚫어야 한다."

그래서 이 글의 6장이 강조한 '도입 난이도' 축이 결정적인 것이다. 도입은 곧 유통이고, 유통 없이는 데이터도 없다.

그래서 진짜 해자의 조건

여기까지 오면 "데이터가 해자다"라는 말을 훨씬 정밀하게 다시 쓸 수 있다.

UX가 지도를 다시 그린다

원문이 마지막에 던지는 흥미로운 관찰이 하나 더 있다. 사분면의 경계는 고정된 게 아니라, UX가 바꾼다는 것이다.

저자들이 든 예시는 Claude Code가 웹으로 나온 것이다. 코딩 에이전트가 터미널과 IDE 안에만 있을 때는 개발자만 쓸 수 있었다. 브라우저로 나오는 순간, 쓸 수 있는 사람의 범위가 확 넓어진다. 즉 '도입 난이도' 축에서 왼쪽으로 이동한 것이다.

이건 창업자에게 실용적인 시사점을 준다. 문제의 난이도는 못 바꿔도, 도입의 난이도는 설계로 바꿀 수 있다. 그리고 도입이 쉬워지면 데이터가 빨라지고, 데이터가 빨라지면 해자가 생긴다.

원문은 또한 모델 성능 향상 자체는 정체 조짐을 보이며, 앞으로 판을 흔드는 건 UX 혁신이 될 것이라고 본다.

---

9장: 그래서 무엇을 할 것인가

한국의 맥락에서

한국 기업에게 이 논의는 남 얘기가 아니다. 오히려 유리한 조건이 있다.

마지막 줄이 아프다. 파일럿에서 멈추면 데이터 루프는 시작조차 안 된다.

그 유명한 "95%"는 사실 이런 뜻이다

2025년 여름, "기업 AI의 95%가 아무 성과도 못 낸다" 는 MIT 보고서가 전 세계 헤드라인을 뒤덮었다. 아마 당신도 봤을 것이다.

그런데 원문(MIT NANDA, 「The GenAI Divide: State of AI in Business 2025」, 2025년 7월)을 직접 열어 보면, 이 숫자는 거의 모든 기사가 옮긴 것과 다른 이야기를 한다.

보고서의 도표는 AI 도입을 두 갈래로 나눠서 보여준다.

즉 "95% 실패"는 전체 기업 AI의 이야기가 아니라, 맞춤형·업무 내장형 도구에 국한된 숫자다. 보고서는 심지어 이렇게 적어 두었다 — "일반적인 LLM 챗봇은 파일럿에서 도입으로 넘어가는 비율이 약 83%로 높게 나타난다."

몇 가지 더 짚어 둘 것이 있다. 이 문서는 표지에 "예비 결과(Preliminary Findings)" 라고 적혀 있고, 표본은 인터뷰 52건·설문 153명(콘퍼런스 참석자)·공개 사례 300여 건이며, 보고서 스스로 "이 수치들은 공식 기업 보고가 아니라 개별 인터뷰에 기반한 방향성 수준의 값"이라고 밝힌다. '성공'의 정의도 감사받은 재무 수치가 아니라 경영진이 그렇게 느꼈다고 말한 것이다.

그런데 제대로 읽으면, 이 보고서는 이 글의 편이다

숫자를 바로잡고 나면 훨씬 흥미로운 질문이 남는다. 왜 범용 챗봇은 83%가 안착하는데, 맞춤형 도구는 95%가 죽는가?

보고서 자신의 답이 이 글의 결론과 정확히 같다.

실패하는 쪽은 "업무 흐름에 적응하지 못하는 정적인(static) 도구" 에 계속 투자하고, 성공하는 쪽은 "학습 가능한(learning-capable) 시스템" 에 집중한다.

'정적인 도구' 대 '학습하는 시스템' — 이 글이 8장 내내 말한 저장된 데이터 대 흐르는 루프와 같은 구분이다. 맞춤형 AI가 어려운 이유는 기술이 부족해서가 아니라, 대부분이 루프 없이 한 번 만들어 놓고 끝나는 물건이기 때문이다.

참고로, 훨씬 큰 표본의 조사도 방향은 비슷하다. 맥킨지의 2025년 11월 조사(105개국·1,993명)에서 AI를 어딘가에는 쓰는 기업이 88%였지만, 영업이익에 실제 영향이 있었다고 답한 비율은 39% 였다.

국내 관점의 실패 패턴은 기업 AI 스케일링에서 다뤘다. (해당 글은 널리 인용된 '95%' 수치를 그대로 쓰고 있는데, 위 원문 확인에 따라 '맞춤형 도구에 한정된 값'으로 읽는 것이 정확하다.)

실무 체크리스트

마지막으로: a16z는 틀렸나?

아니다. 이 글을 여기까지 읽었다면, 두 주장이 사실 다른 것을 말하고 있다는 게 보일 것이다.

둘을 합치면 이렇게 된다.

데이터는 자산이 아니라 대사(metabolism) 다. 창고에 쌓아둔 데이터는 a16z 말대로 별 가치가 없다. 하지만 제품이 돌 때마다 신호가 들어오고, 그 신호가 모델을 밀어 올리고, 좋아진 모델이 더 많은 사용을 부르는 순환은 — 경쟁자가 돈으로 살 수 없다.

---

에필로그: 회의실로 돌아가서

프롤로그의 창업자에게 필요했던 답은 "저희에겐 데이터가 있습니다"가 아니었다. 이런 것이었어야 했다.

숫자는 각자의 것으로 바꾸면 된다. 중요한 건 형식이다. 얼마나 자주, 어떤 신호가, 어떻게 채점되어, 무엇을 개선했는가.

이 네 가지에 답할 수 없다면, 아직 해자는 없다. 있는 건 데이터베이스 요금 청구서뿐이다.

그리고 좋은 소식은 — 해자는 발견하는 게 아니라 설계하는 것이라는 점이다. 오늘 제품에 신호 하나를 더 남기게 만드는 것부터가 시작이다.

마지막으로, 버핏에게 돌아가서

1장에서 미뤄 둔 문장이 있다. 2007년 서한의 같은 문단에서, 버핏은 '지속적인' 해자의 조건을 이렇게 못 박았다.

"'지속성'이라는 우리의 기준은 빠르고 지속적인 변화가 일어나는 산업의 기업들을 배제하게 만든다. (…) 계속해서 다시 쌓아야만 하는 해자는 결국 해자가 아니게 된다."

읽고 나면 등이 서늘해진다. 이 글이 내내 주장한 데이터 플라이휠은 — 정의상 계속해서 다시 쌓아야만 하는 해자다. 매일 신호가 들어와야 하고, 멈추면 마른다. 게다가 AI는 버핏이 명시적으로 배제한 "빠르고 지속적인 변화가 일어나는 산업"의 교과서적 사례다.

그러니 정직한 결론은 이렇다.

그래서 원문의 제목을 마지막으로 한 번 더 고쳐 쓰면 이렇게 된다.

"데이터가 유일한 해자다"가 아니라 — 데이터 루프는 유일하게 남은 '앞서 있는 방법'이다.

성을 짓고 쉬려는 사람에게 이 산업은 가혹하다. 하지만 계속 달릴 준비가 된 팀에게는, 달리는 것 자체가 방어가 된다.

---

함께 읽으면 좋은 글

• 친칠라 스케일링 법칙 — 데이터가 왜 성능의 제1 변수가 됐는지
• 합성 데이터와 데이터 플라이휠 — 인간 데이터가 바닥날 때의 대안
• InstructGPT 해부 — 소량의 정확한 데이터가 만든 역전
• DeepSeek-R1 특집 — 검증 가능한 보상의 힘
• 월마트는 왜 '오프라인'에서 답을 찾는가 — 오프라인 데이터라는 해자
• 당신의 스타트업은 이미 죽어 있을지 모른다 — AI 시대 창업 공식의 재작성
• 기업 AI 스케일링 — 95%가 파일럿에서 멈추는 이유

참고 자료

• Frontier AI, 「Data is Your Only Moat」 (2026)
• Martin Casado & Peter Lauten, 「The Empty Promise of Data Moats」, a16z (2019. 5. 9.)
• Hoffmann et al., 「Training Compute-Optimal Large Language Models」 (2022) — 친칠라 논문
• Kaplan et al., 「Scaling Laws for Neural Language Models」 (2020)
• Ouyang et al., 「Training language models to follow instructions with human feedback」 (2022) — InstructGPT
• Villalobos et al., 「Will we run out of data?」, Epoch AI / ICML (2024)
• Linden, Smith & York, 「Amazon.com Recommendations: Item-to-Item Collaborative Filtering」, IEEE Internet Computing (2003)
• Brin & Page, 「The Anatomy of a Large-Scale Hypertextual Web Search Engine」 (1998)
• Cursor, 「Composer: a fast frontier model」 (2025. 10.)
• Glean 뉴스룸, ARR 2억·3억 달러 발표 (2025. 12. / 2026. 5.)
• Sierra, 「$100M ARR」 (2025. 11. 21.)
• Jasper, CEO 공지 (2023. 7.)
• Pew Research Center, 「구글 사용자는 AI 요약이 있을 때 링크를 덜 클릭한다」 (2025. 7. 22.)
• TechCrunch, 「구글, 워크스페이스 요금 인상하며 AI 기능을 기본 포함」 (2025. 1. 15.)
• Allcott, Castillo, Gentzkow, Musolff & Salz, 「Sources of Market Power in Web Search: Evidence from a Field Experiment」, NBER Working Paper 33410 (2025. 1., 2026. 2. 개정)
• Anthropic, Claude 모델 가격표 및 토크나이저 안내 (2026. 7. 확인)
• OpenAI, API 가격표 (2026. 7. 확인)
• Warren Buffett, 버크셔 해서웨이 주주 서한 2007년판, 6쪽 — 해자·로만 캔들·"계속 다시 쌓아야 하는 해자" 원문
• Cursor, 「Improving Cursor Tab with online RL」 (2025. 9. 12.)
• Challapally, Pease, Raskar & Chari, 「The GenAI Divide: State of AI in Business 2025」, MIT NANDA (2025. 7.) — 원문 PDF 직접 확인. '예비 결과' 표기, 인터뷰 52건·설문 153명·공개 사례 300여 건
• McKinsey, 「The State of AI」 (2025. 11.) — 105개국 1,993명 조사