기술
201개의 포스트
포스트 트레이닝 혁명 — RLHF에서 SimPO, KTO, ORPO, RLVR까지 완전 정리
LLM을 똑똑하게 만드는 건 사전 학습이지만, 쓸모 있게 만드는 건 포스트 트레이닝이다. RLHF의 복잡함에서 DPO의 우아함으로, 그리고 SimPO·KTO·ORPO·RLVR까지 — 2026년 AI 정렬 기술의 모든 것.
OpenSearch 완전 정복: 오픈소스 전쟁에서 태어난 검색·분석 엔진의 모든 것
Elasticsearch의 라이선스 전쟁에서 AWS가 포크하여 탄생한 OpenSearch. 검색 엔진의 기원부터 Lucene, Elasticsearch의 부상, 라이선스 분쟁, 그리고 OpenSearch가 로그 분석·벡터 검색·AI까지 확장하는 현재를 풀어본다.
GraphRAG 검색 4총사: Local, Global, DRIFT, Basic — 언제 어떤 검색을 써야 하는가
같은 지식 그래프에서도 질문의 성격에 따라 완전히 다른 검색 전략이 필요하다. GraphRAG의 네 가지 검색 모드 — Local, Global, DRIFT, Basic — 가 각각 어떤 문제를 풀기 위해 설계되었는지, 비용은 얼마나 다른지, 실전에서 어떻게 선택하는지를 사례와 함께 풀어본다.
Kimi Linear 특집: '어텐션이 전부'인 시대, 선형 어텐션이 왕좌를 빼앗다
100만 토큰을 처리할 때 디코딩 속도 6.3배, KV 캐시 75% 절감 — 그러면서도 풀 어텐션 트랜스포머를 모든 벤치마크에서 이긴다. Moonshot AI의 Kimi Linear가 보여준 '선형 어텐션의 역습'을 완전 해부한다.
PathRAG: 그래프에서 '경로'만 골라내면 답변이 달라진다
GraphRAG는 너무 많이 가져오고, LightRAG는 이웃을 통째로 가져온다. PathRAG는 '질문에 답하는 데 필요한 경로만' 골라내는 흐름 기반 가지치기로, 더 적은 토큰으로 더 논리적인 답변을 만든다. 논문의 핵심 아이디어부터 실전 비교까지 풀어본다.
DynamoDB 완전 정복: Amazon이 논문 한 편으로 시작한 NoSQL 혁명
2007년 Amazon 내부 논문에서 시작해, 전 세계 10조 건 이상의 요청을 하루에 처리하는 서비스가 되기까지. Dynamo 논문의 핵심 아이디어, Single Table Design의 철학, 그리고 실전 사례와 주의점을 풀어본다.
s1 논문 해부: AI에게 '잠깐만' 하고 다시 생각하게 했더니 벌어진 일
1,000개의 문제로 26분 학습한 모델이 OpenAI o1-preview를 27% 앞질렀다. 비결은 단순했다 — AI가 답을 내려 할 때 'Wait'이라고 속삭인 것. 스탠퍼드에서 나온 s1 논문이 밝힌 '테스트 타임 스케일링'의 원리를 해부한다.
금속이 녹아가는 과정을 AI로 예측한다 — Sharp-PINNs 완전 해부
결합된 편미분방정식을 동시에 학습하면 그래디언트가 충돌한다. Sharp-PINNs는 '교대 학습 + 경성 제약'이라는 우아한 해법으로 이 난제를 돌파하고, 3D 부식 시뮬레이션에서 FEM 대비 10배 빠른 속도를 달성했다.
AWS RDS 완전 정복: 데이터베이스 관리라는 '야간 당직'에서 해방되는 법
새벽 3시에 DB 장애 알림을 받고 출근하던 시대에서, 백업·패치·복구·스케일링이 자동화된 시대로. RDS가 왜 탄생했고, 어떻게 DBA의 일상을 바꿨으며, Aurora는 왜 '재발명'이라 불리는지를 실전 사례와 함께 풀어본다.
Byte Latent Transformer: 토큰을 버리고 바이트로 돌아간 AI의 반란
GPT부터 Llama까지, 모든 LLM은 '토크나이저'라는 전처리 단계에 의존한다. Meta AI의 BLT는 이 관행을 뒤집었다 — 바이트를 직접 처리하되, 엔트로피 기반으로 '어려운 곳에 더 많은 연산'을 동적 할당하여 80억 스케일에서 Llama 3에 필적하는 성능을 달성했다.
어려운 문제는 쪼개서 푼다 — Augmented PINN(APINN)의 모든 것
PINN이 복잡한 문제 앞에서 좌절할 때, 수학자들은 수백 년 된 전략을 꺼내들었다 — '나눠서 정복하라.' 도메인 분해와 신경망을 결합한 APINN이 왜, 어떻게 PINN의 한계를 돌파하는지를 쉽고 깊게 풀어본다.
RAG vs Long Context 2026 — 10M 토큰 시대, 검색이 여전히 필요한가?
GPT-2의 1,024 토큰에서 Llama 4 Scout의 1,000만 토큰까지 — 컨텍스트 윈도우가 10,000배 커졌다. 이제 RAG는 필요 없는가? 2026년의 답은 '둘 다'이면서 '상황에 따라 다르다'이다.