TECH BLOG
기술 블로그
AI 기술 인사이트와 엔지니어링 경험을 공유합니다.
EDITOR'S PICK
에디터 추천
Attention Is Not What You Need: 어텐션 없이도 AI가 '생각'할 수 있다면?
2017년, 구글은 'Attention Is All You Need'로 AI 혁명을 열었다. 2025년 12월, 한 연구자가 같은 구조에 정면으로 반기를 든다 — 'Attention Is Not What You Need.' 어텐션 없이 기하학적 다양체 위에서 추론하는 새로운 시퀀스 모델링 패러다임을 해부한다.
진짜 창의성이 새로운 해자다 — 플래시 시대의 증거와, 그 주장이 버티지 못하는 네 지점
AI가 베끼기를 공짜로 만든 세상에서 남는 경쟁 우위는 기능도 가격도 아닌 아이디어다 — 뉴욕의 한 디지털 스튜디오 대표가 플래시 시대의 기억을 꺼내 던진 이 주장이 해커뉴스를 뜨겁게 달궜다. 이 글은 그 주장을 편들지도 깎아내리지도 않고 검증한다. 1996년 플래시의 탄생부터 2020년의 종료까지, 마시마로 7편이 산업이 된 한국의 기억, 스탠퍼드가 측정한 'AI 생성 웹 35%'의 진짜 뉘앙스, 쇼HN 랜딩 페이지 1,590개를 스캔해 찾아낸 18가지 AI 디자인 패턴, 그리고 개인의 창의성은 올리면서 집단의 다양성은 깎는다는 실험 결과까지. 마지막으로 해밀턴 헬머의 7 Powers로 '창의성은 해자인가'를 정면으로 따져 보고, 이 주장이 무너지는 네 지점을 짚는다.
DeepSeek-R1 특집: AI가 스스로 '아하!'를 외친 날 — 강화학습으로 추론 능력을 깨우다
SFT 없이 순수 강화학습만으로 수학 올림피아드 문제를 푸는 AI가 탄생했다. DeepSeek-R1은 OpenAI o1에 필적하는 추론 능력을 5백만 달러로 달성하며, NVIDIA 주가를 17% 폭락시키고, AI 산업의 상식을 뒤흔들었다. 그 안에서 일어난 일을 처음부터 풀어본다.
MCP가 세션을 지웠다 — 지키지 못한 약속을 인정하기까지의 21개월
2026년 7월 28일, MCP가 출시 이후 가장 큰 변화를 발표했다. initialize 핸드셰이크와 세션 ID가 사라졌다. 그런데 진짜 이야기는 '세션을 없앴다'가 아니라 '세션은 애초에 작동한 적이 없었다'는 고백이다. ChatGPT는 도구 호출마다 세션을 새로 만들고 있었다. 명세 문서와 SEP 원문, 그리고 1,000개 저장소 조사 결과를 따라가며 무엇이 왜 바뀌었는지 정리했다.
ALL POSTS
모든 포스트
생각은 어디에 흐르는가 — Recurrent Looped Transformer와 보이지 않는 추론의 시대
2026년 9월 12일, 프린스턴의 Yifan Zhang이 16쪽짜리 기술 보고서를 공개했다. 이전 토큰의 내부 상태를 다음 토큰으로 계속 넘겨서, 문장이 길어질수록 계산 경로도 계속 깊어지는 트랜스포머다. 열흘 전에는 OpenAI의 GPT-6 Astra가 비슷한 '순환' 기법을 쓴다는 보도로 AI 안전 연구자들이 들끓었다. 이 특집은 RNN에서 트랜스포머, 생각의 사슬, 루프 모델로 이어진 35년의 흐름 속에서 RLT가 왜 나왔는지 풀고, 논문의 세 가지 설계 원칙을 하나씩 분해하고, 독립 실험이 보여 준 한계를 확인한 뒤, 모델의 생각이 글에서 벡터로 옮겨 갈 때 사람의 감시가 어떻게 되는지를 따진다. 인터랙티브 실험 4종과 논문 원본 그림을 함께 싣는다.
코딩을 사랑한 사람의 슬픔 — 「Feeling sad about AI」가 건드린 것, 그리고 2026년의 데이터
2026년 9월 11일, 영국의 한 개발자가 9분짜리 영상을 올렸다. 코드는 한 줄도 나오지 않는 영상이었다. 그는 AI가 슬프다고 말했고, 그 슬픔의 이름을 '무시당함'이라고 붙였다. 해커뉴스 282개, Lobsters 67개의 댓글이 달렸다. 이 특집은 그 글을 끝까지 읽고, 왜 이 감정이 지금 터졌는지를 장인과 탈숙련의 역사에서 찾고, 'AI가 코딩한다'는 문장을 트랜스포머부터 에이전트 하네스까지 분해하고, 2026년의 실측 데이터로 그 문장의 진위를 따진다. 인터랙티브 실험 4종과 논문 원본 그림을 함께 싣는다.
AI와 수학의 심각한 불일치 — 필즈상 수상자 25인은 무엇을 두려워하는가: 등대, 파이프라인, 그리고 나비에–스토크스 88시간
2026년 9월 11일, 테런스 타오·페터 숄체·마리나 비아조우스카 등 필즈상 수상자 25명이 'AI와 수학의 심각한 불일치'라는 선언을 냈다. AI 기업이 유명 미해결 문제를 벤치마크 삼아 푸는 경쟁이 수학이라는 학문과 공동체에 해롭다는 것이다. 이 선언은 어디서 왔는가. OpenAI가 1만 개 에이전트로 88시간 만에 '풀었다'고 발표한 나비에–스토크스 문제, 그 직전에 같은 문제를 1년간 파던 두 수학자의 4쪽짜리 성명, '10년간 진전 없음'이라는 문구에 항의한 독일 수학자의 이메일, 타오가 ICM에서 그린 다섯 단계 파이프라인과 굿하트의 법칙까지 — 왜 '문제를 푸는 것'과 '수학을 하는 것'이 갈라졌는지를 논문·선언문·논쟁 100건을 읽고 인터랙티브와 함께 풀어본다.
수학은 언어다 (6편) 동역학: 원인 없는 정체, 거꾸로 선 진자, 뉴턴의 두통, 그리고 결정론이 확률로 바뀌는 곳
테런스 타오의 여섯 기둥 중 마지막, 동역학. 지금 상태가 다음 상태를 만드는 규칙의 수학이다. 단순한 규칙을 반복하면 예상 못 한 창발 현상이 나오고(진화, 교통 체증), 어떤 평형은 안정하고 어떤 평형은 불안정하며(늘어진 진자와 거꾸로 선 진자, 그리고 기후), 뉴턴이 '유일하게 두통을 준 문제'라 부른 3체 문제의 끝에는 카오스가 있다 — 완전히 결정론적인 시스템조차 확률로 근사하는 것이 최선인 세계. 세 개의 인터랙티브로 확인하고, 시리즈를 마무리한다.
코딩이 풀렸다면, 그다음은? — 코드의 '슬롭'을 측정하는 법
LLM은 이제 형식적으로 올바른 코드를 거의 완벽하게 쓴다. 그런데 테스트를 전부 통과한 코드가 왜 한 달 뒤에는 아무도 손댈 수 없는 덩어리가 되는가. Earendil의 세바스티안이 던진 이 질문이 해커뉴스를 뜨겁게 달궜다. 이 글은 그 질문의 뿌리를 1976년 맥케이브의 순환 복잡도까지 거슬러 올라가 추적하고, 그 답으로 등장한 벤치마크 SlopCodeBench의 아키텍처를 수식과 코드 수준에서 뜯어본다. 침식(erosion)과 군더더기(verbosity)라는 두 지표가 어떻게 계산되는지, 왜 프롬프트로는 고쳐지지 않는지, 그리고 2026년 9월 현재 프론티어 모델들이 이 벤치마크 앞에서 어디까지 왔는지를 인터랙티브 도구 여섯 개와 함께 짚는다.
같은 달을 보며 지붕을 하나씩 밟는다 — 조정량을 줄이는 법과 정원사의 리더십 (조정의 역풍 5편·완결)
네 편에 걸쳐 역풍이 어디서 오는지 봤다. 마지막 편은 저자의 해법이다. 점균류와 싸우지 말고 그 강점에 기댄다. 불필요한 조정을 놓아 두고, 결합을 풀고, 역풍을 계산에 넣어 아이디어를 다시 고른다. 그리고 3~5년의 달을 함께 정한 뒤, 달로 직진하는 대신 지붕까지의 안전한 도약을 반복한다. 여러 팀이 같은 달을 보면 각자 움직여도 수렴한다. 아이디어 비교기와 roofshot 계획기로 두 원칙을 직접 만져 보고, 건축가가 아니라 정원사로 조직을 보는 마지막 비유로 시리즈를 마무리한다.
수학은 언어다 (5편) 해석: 오차 막대의 수학, 무한이라는 위험한 짐승, 그리고 치트 모드로 먼저 깨고 하드 모드로 돌아오는 법
테런스 타오의 여섯 기둥 중 다섯 번째, 해석. '대략 2m, 플러스 마이너스 10cm' — 해석은 오차 막대의 수학이자 무한을 역설 없이 다루는 수학이다. 잃을 때마다 판돈을 두 배로 걸면 무한한 돈으로는 항상 이기지만 유한한 돈으로는 왜 파산하는가, 무한 원숭이는 셰익스피어를 치지만 왜 한 페이지에도 우주의 나이 이상이 걸리는가, 그리고 타오가 어린 시절 게임 치트에서 배운 문제 풀이의 비법 — 먼저 무한한 자원으로 풀고, 유한한 세계로 돌아오라 — 를 세 개의 인터랙티브로 확인한다.
모두 바쁜데 왜 아무것도 완성되지 않는가 — 빙산 아래의 비용과 여섯 가지 잘못된 처방 (조정의 역풍 4편)
참여 확률과 조직 역풍, 두 부품이 합쳐진 조정의 역풍은 불확실성이 크고 팀이 크고 문화가 상향식일수록 허리케인이 된다. 그것을 감당하는 데 드는 시간은 실제로 들어가지만 아무도 계산하지 않는다. 빙산의 끝만 보인다. 그래서 모두가 예전처럼 일정을 잡고, 예전처럼 일하고, 몇 배의 노력을 잡아먹는 프로젝트 앞에서 번아웃 직전이 된다. Komoroske가 그린 '영웅적 분투 → 변경 → 불확실성 → 더 큰 역풍'의 악순환과, 그것을 고치려다 오히려 악화시키는 여섯 가지 처방을 빙산 계산기와 판단 퀴즈로 짚는다.
수학은 언어다 (4편) 확률: 도박사의 편지에서 태어난 학문, 종 모양의 미스터리, 그리고 '세 번 시도하면 99.2%'가 틀리는 순간
테런스 타오의 여섯 기둥 중 네 번째, 확률. 모든 결과를 정확히 계산하는 대신 '어떤 결과가 더 자주 오는가'를 다루기로 한 결단은 도박사들이 수학자 친구에게 보낸 편지에서 시작됐다. 주사위든 사람의 키든 실험 오차든 왜 같은 종 모양으로 수렴하는가(보편성), 확률이 잘 작동하는 조건과 작동하지 않는 조건(백 년에 한 번 오는 사건), 그리고 '성공률 80%짜리 작업을 세 번 시도하면 99.2%'라는 계산이 독립 가정 없이는 무너지는 이유를 두 개의 인터랙티브로 확인한다.