TECH BLOG
기술 블로그
AI 기술 인사이트와 엔지니어링 경험을 공유합니다.
ALL POSTS
모든 포스트
Transformer와 Depth Separation: 96개 층이 만드는 '생각의 깊이' — 왜 Transformer는 깊어야 똑똑한가
GPT-1은 12층, GPT-3는 96층이다. 층수가 8배 늘자, 모델은 '텍스트 생성기'에서 '범용 추론 엔진'으로 변신했다. 이 질적 도약은 왜 일어났는가? Transformer의 각 층이 어떤 역할을 하는지 — 초기 층의 문법 감지부터 깊은 층의 논리 추론까지 — 를 추적하고, 이 계층적 구조가 LoRA의 효율과 Mixture of Depths의 혁신을 어떻게 가능케 했는지를 파헤친다.
UAT에서 LoRA까지: 신경망이 세상을 배우는 수학적 여정
1989년, 한 수학 정리가 증명했다 — 뉴런이 충분하면 어떤 함수든 흉내 낼 수 있다. 이 '보편 근사 정리'에서 출발하여, 깊이의 혁명, Transformer, 스케일링 법칙을 거쳐 LoRA까지 — 신경망이 세상의 모든 것을 배우는 수학적 여정을 따라간다.
지금 AI에서 가장 중요한 5가지 아이디어 — 2026년, 세상이 바뀌는 원리를 해부하다
AlphaGo Zero의 자기 대국부터 카르파시의 Autoresearch, 바이브 코딩의 탄생, 70만 명의 숨은 AI 훈련사까지 — 2026년 AI를 관통하는 5가지 핵심 아이디어를 역사·논문·사례로 깊이 파고듭니다. 왜 이 개념들이 중요한지, 그리고 이들이 서로 만나면 무슨 일이 벌어지는지.
AI 시대에 진짜 안전한 것은 직업이 아니라 '판단 체계'다
AI가 사람을 대체하는 시대가 아니라, 사람의 판단을 더 중요하게 만드는 시대. 코어닷투데이가 제조업 AI, 의회 AI, Fact Explorer를 통해 바라보는 AI 시대의 본질을 이야기합니다.
EventRAG 완전 해부 — AI가 '사건의 흐름'을 이해하는 법 (ACL 2025)
전통 RAG는 왜 뉴스, 역사, 법률 문서를 제대로 이해하지 못하는가? ACL 2025에서 발표된 EventRAG는 이벤트 지식 그래프(EKG)로 이 문제를 해결한다. 사건의 시간 순서, 인과 관계, 다중 문서 추론까지 — '사건 중심' RAG의 모든 것.
EdgeCrafter 완전 이해: 작은 ViT의 반란 — 태스크 특화 증류로 엣지에서 검출·분할·포즈를 동시에
범용 사전학습이 소형 ViT에게는 독이 된다? — DINOv3를 태스크 특화 교사로 변환하여 10M 파라미터 ViT가 검출 51.7%, 분할 43.0%, 포즈 68.9% AP를 달성한 EdgeCrafter의 이야기.
AI가 말한 건 사실일까? — 주장 추출과 팩트체킹의 최전선
LLM이 쏟아내는 긴 답변 속에서 '진짜 사실'만 골라내려면? ACL 2025 최우수 논문이 제시한 주장 추출 평가 프레임워크와 Claimify 시스템을 쉽고 재미있게 파헤칩니다.
플라토닉 표현 가설: 모든 AI는 결국 같은 세계를 본다
GPT, CLIP, DINOv2 — 구조도 다르고 학습 데이터도 다른 AI 모델들이 왜 점점 비슷한 표현을 학습할까? MIT 연구팀이 제안한 '플라토닉 표현 가설'을 플라톤의 동굴 비유부터 2026년 AI 산업 전망까지, 풍부한 사례와 인터랙티브 시각화로 해부한다.
DX 로드맵: 기술을 배운 뒤, 조직을 어떻게 바꾸는가
클라우드를 배우고, 컨테이너를 익히고, CI/CD 파이프라인을 구성했다. 그런데 다음은? 기술 학습과 조직 변혁 사이의 간극을 메우는 DX 로드맵을 다룬다. 20대 엔지니어가 기술 역량을 커리어 자산으로 전환하는 구체적인 경로.