TECH BLOG
기술 블로그
AI 기술 인사이트와 엔지니어링 경험을 공유합니다.
EDITOR'S PICK
에디터 추천
8-bit Adam 특집: 옵티마이저 메모리를 75% 줄인 블록별 양자화의 비밀
Adam 옵티마이저의 상태만 84GB — 모델보다 6배 크다. 2021년, Tim Dettmers는 옵티마이저 상태를 8비트로 압축해 75%를 절약하면서도 32비트와 동일한 학습 품질을 유지하는 방법을 발견했다. 블록별 양자화와 동적 트리 양자화의 원리를 파헤친다.
저커버그의 고백: 'AI가 개발자를 대체한다'는 도박은 왜 빗나갔나 — 코딩 에이전트의 역사와 진짜 실력
2026년 7월 2일, 저커버그는 사내 회의에서 인정했다. '지난 넉 달간 에이전트 개발은 우리 기대만큼 빨라지지 않았다.' 8,000명을 내보내고 1,450억 달러를 태운 도박, 'AI가 프로그래머를 대체한다'는 가정이 흔들린 순간이다. 이 글은 그 도박의 정체인 '코딩 에이전트'가 어디서 왔는지 — HumanEval(2021)·ReAct(2022)·Toolformer(2023, 아이러니하게도 메타의 논문)·SWE-bench·Devin·Claude Code까지 — 논문과 그림으로 쉽게 풀고, SWE-bench 점수가 1.96%에서 90%로 치솟는 마법과 그 함정을 짚는다. 그리고 METR의 '19% 더 느렸다'는 충격 실험, '70%의 벽', 클라르나·메타의 부메랑을 통해 왜 '코드를 쓰는 것'과 '소프트웨어를 만드는 것'이 다른지 끝까지 쉽게 설명한다.
엔지니어링 리더십의 규칙이 새로 쓰였다 — Will Larson이 18개월 만에 자기 원칙을 뜯어고친 이유
『Staff Engineer』의 저자이자 Stripe·Uber·Calm·Carta를 거친 전설적 엔지니어링 리더 Will Larson이, 하이퍼그로스 핀테크 Imprint에서 18개월간 AI를 도입한 뒤 자신의 리더십 규칙을 '개정'했다. 마이그레이션은 이제 개인 프로젝트가 됐고, 프로세스의 기본 케이스는 에이전트가 삼킨다 — 그런데도 왜 그는 '천재 1인 엔지니어' 신화를 정면으로 반박할까. 5대 개정 규칙을, 그 뒤를 떠받치는 에이전트 하니스 아키텍처(ReAct·Reflexion 논문)까지 쉽고 자세하게 풀어본다.
LLM은 문서를 읽고도 얼마나 거짓말할까? 1,720억 토큰 대실험의 충격적 결과
35개 오픈소스 LLM에 1,720억 토큰을 먹여 문서 Q&A 환각률을 측정한 사상 최대 규모 연구. 최고의 모델도 1.19%는 거짓말하고, 컨텍스트가 길어지면 환각이 3배로 뛰며, Temperature 0이 반드시 최선은 아닌 — 놀라운 발견들을 정리한다.
ALL POSTS
모든 포스트
AI 코드 마이그레이션 특집: 다년짜리 이식을 2주로 — 컴파일러의 꿈부터 100만 줄 Rust 재작성까지
2026년, Anthropic은 자바스크립트 런타임 Bun의 100만 줄을 Zig에서 Rust로 단 11일 만에, 약 $165,000에 옮겼다. 64개의 Claude 에이전트가 병렬로 6,502번 커밋했다. 한 팀이 1년 걸릴 일이었다. 코드 마이그레이션은 왜 늘 '실패율 70%의 지옥'이었고, 무엇이 갑자기 바뀌었나? 이 글은 f2c 트랜스파일러의 꿈에서 출발해 Facebook의 TransCoder(2020), IBM의 COBOL 현대화를 거쳐, '파일을 고치지 말고 루프를 고쳐라'는 2026년 에이전트 마이그레이션의 6단계 방법론까지를 사례와 함께 처음부터 풀어낸다. Zig 창시자의 '리뷰 안 된 slop' 반론까지 정면으로 다룬 결정판.
AI가 빨라졌다는 착각을 어떻게 재나 — 89%가 '빨라졌다'는데 6%만 증명하는 생산성의 역설, 그리고 DX Core 4
경영진의 89%가 'AI 덕분에 일이 빨라졌다'고 말한다. 그런데 그 성과를 조직 차원에서 실제로 짚어낼 수 있다고 답한 사람은 단 6%였다. AI는 분명 무언가를 빠르게 만들었는데, 그 무언가가 '가치'인지 '착각'인지 아무도 확신하지 못한다. 이 글은 앞선 n00b 편에서 흘깃 본 SPACE 프레임워크를 정면으로 끌어와, METR의 39%p 인식격차, GitClear가 잰 코드 품질의 숨은 청구서(리뷰 대기 4.6배·재작업 급증·보안 취약점 2.74배), DORA 2025의 'AI는 증폭기'라는 거울 효과, 그리고 이 혼란을 정리하려 나온 DX Core 4(속도·효과·품질·임팩트)까지 — '측정할 수 없으면 관리할 수 없다'는 오래된 진실을 AI 시대의 데이터로 다시 증명한다.
부러진 사다리 — 오늘 주니어를 안 뽑으면, 2031년엔 시니어가 없다: AI가 끊어버린 견습의 고리
지난 글에서 우리는 주니어에게 '태스크를 끝내는 사람 말고, 판단하는 사람이 되라'고 했다. 그런데 정작 회사들은 그 주니어를 아예 뽑지 않기 시작했다. LeadDev 조사에서 엔지니어링 리더의 54%가 2026년 주니어 채용을 줄이겠다고 답했다. AI 코파일럿이 시니어의 손을 늘려주니, 굳이 신입을 데려와 가르칠 이유가 없다는 것이다. 문제는 시니어가 하늘에서 떨어지지 않는다는 것 — 견습 지연은 5~7년이고, 2024~26년에 주니어를 안 뽑으면 2031년엔 시니어가 없다. 이 글은 '부러진 사다리(broken ladder)' 논쟁을 중세 길드 도제부터 페어 프로그래밍까지의 견습의 역사, 하버드의 내부노동시장 논문, 그리고 '견습 미화론'·'역방향 멘토링' 같은 정직한 반론까지 짚으며, AI가 끊어버린 세대 전수의 고리를 어떻게 다시 이을지 끝까지 쉽게 풀어낸다.
하루 15,000개의 질문에 답하는 사내 AI — Cerebras는 지식 베이스를 어떻게 만들었나
\"그거 어디 있죠?\" \"이거 누가 담당이죠?\" — 회사가 커질수록 정보는 흩어지고, 같은 질문이 반복된다. Cerebras는 Slack·코드·문서를 하나의 임베딩 테이블로 모아 하루 15,000개 질문에 답하는 사내 지식 베이스를 만들었다. 그 안에는 반세기 검색의 역사가 응축돼 있다. 키워드 검색에서 BM25, 임베딩, HNSW, 하이브리드, 그리고 에이전트 검색까지 — 왜 이런 개념들이 하나씩 필요해졌는지, 인터랙티브하게 만져보며 이해한다.
토큰값이 67% 떨어졌는데, 왜 AI 청구서는 3배가 됐나 — 제번스의 역설과 추론 경제학
2026년, AI 모델의 토큰 단가는 1년 만에 67% 떨어졌다. GPT-4 기준으로는 3년간 99.7%가 빠졌다. 그런데 기업의 73%가 'AI 지출이 예상을 초과했다'고 답했고, 우버는 2026년 AI 예산을 4월에 다 태웠다. 값은 폭락하는데 청구서는 폭발하는 이 역설의 이름은 1865년 경제학자 윌리엄 스탠리 제번스가 석탄에서 발견한 '제번스의 역설'이다. 이 글은 왜 추론이 싸질수록 총지출이 늘어나는지 — 에이전트 한 작업이 챗의 1,000배 토큰을 먹는 배수의 폭발, 효율이 하드웨어 부족을 부르는 악순환의 고리 — 를 데이터로 해부하고, 'best model wins'가 'best fit wins'로 바뀐 시대의 생존 무기인 모델 라우팅과 비용 통제 플레이북까지 실무적으로 정리한다.
당신의 AI, 빌린 겁니까 가진 겁니까 (1부): '인텔리전스 오너십'이라는 새 승부수
2026년 7월, Fermisense가 올린 한 편의 글이 AI 업계를 흔들었다. 90억 파라미터짜리 작은 오픈소스 모델을 강화학습으로 훈련시켰더니, 세계 최고 프런티어 모델을 전부 이기고도 비용은 최대 340배 싸더라는 것이다. 이 특집 1부는 '인텔리전스를 소유한다'는 개념이 왜 지금 등장했는지를 ChatGPT 이후의 역사와 2026년의 AI 경제학으로 추적한다.
당신의 AI, 빌린 겁니까 가진 겁니까 (2부): SFT에서 GRPO까지, '디지털 트윈'이라는 훈련장
'강화학습으로 모델을 훈련한다'는 말은 정확히 무슨 뜻일까? 사전학습·SFT·RLHF·RLVR로 이어지는 개념의 사다리를 밟아 오르고, 요즘 화제인 GRPO를 '커브로 채점하는 시험'에 빗대 직관적으로 푼다. 그리고 모델이 실제로 업무를 연습하는 '디지털 트윈'과 보상 설계까지, Fermisense의 카탈로그 실험을 해부한다.
당신의 AI, 빌린 겁니까 가진 겁니까 (3부): 90억 모델이 프런티어를 이긴 날, 그리고 판별법
이론은 충분하다. 이제 숫자다. Fermisense의 90억 파라미터 모델은 e커머스 카탈로그 검수에서 프런티어 5종을 어떻게 이겼고, 비용은 왜 최대 340배 저렴했나. 브리지워터부터 링크드인·체커까지 11개 회사의 성적표를 펼치고, 마지막엔 '우리 회사의 어떤 업무가 이 방식의 후보인가'를 직접 판별하는 체크리스트로 특집을 닫는다.
넷플릭스는 왜 LLM을 직접 서빙하는가 (3부): 제약 디코딩, 규모의 벽을 넘다
이 특집의 클라이맥스. 넷플릭스는 모델이 '아마도 유효한' JSON을 뱉고 나서 검사하는 대신, 애초에 규칙을 어길 수 없도록 생성 과정 자체를 제약한다. 이 제약 디코딩이 왜 필요하고 어떻게 작동하는지, 그리고 그것을 '규모'에서 돌리려다 vLLM V0의 GIL 벽에 부딪혀 V1으로 넘어간 넷플릭스의 실전 분투기를 따라간다. 직접 서빙해야만 가능한, 커스터마이징의 끝판왕.