#LLM
52개의 포스트
RAG는 생각보다 단순합니다 — 벡터 DB 없이 시작하는 6단계 레시피
RAG를 어렵게 느끼는 이유는 개념이 아니라 '처음부터 임베딩·벡터 DB·청킹을 다 갖춰야 한다'는 오해 때문입니다. 오픈북 시험 비유로 RAG의 뼈대를 3분 안에 잡고, 라이트하우스 뉴스레터가 정리한 6가지 RAG 레시피를 전문 검색부터 전체 임베딩까지 계단처럼 올라가며 살펴봅니다. 실제 시스템의 60%는 검색기 하나와 프롬프트 한 장으로 충분합니다. 우리 팀에 맞는 출발점을 고르는 진단 도구와, 같은 질문을 세 방식으로 검색해 보는 놀이터를 함께 담았습니다.
아이디어는 새로운데 왜 실행하면 무너지나 — Ideation–Execution Gap과 AI 브레인스토밍의 함정
79명의 전문가가 블라인드로 평가하자 AI 아이디어가 인간보다 '더 새롭다'는 결과가 나왔다. 1년 뒤 같은 팀이 43명에게 그 아이디어를 각각 100시간씩 실제로 구현하게 했다. 점수는 역전됐다. 왜 종이 위의 참신함은 실행을 견디지 못하는가 — 두 연구의 수치를 따라가며, AI 브레인스토밍을 도입한 조직이 겪는 일과 그 처방을 정리한다.
LLM은 정말 도약하지 못하는가 — 「LLMs can't jump」를 증거의 법정에 세우다
「LLMs can't jump」는 고립된 비관론이 아니다. 과학철학의 조작적 가추, 기호 접지 문제, '쉬운 문제와 어려운 문제', 그리고 2026년까지 쏟아진 실증 연구가 한 점에서 만난다. 6,749명의 과학자가 평가한 25,139세트의 아이디어, 43명이 100시간씩 실행해 본 결과, cap set과 48회 행렬곱을 찾아낸 FunSearch·AlphaEvolve, 그리고 '신체 없는 가추'라는 정면 반론까지 — 찬성과 반례를 다섯 단계의 저울에 올린다.
프롬프트 테크닉 지도 — 실무 이슈 12가지로 다시 읽는 프롬프트·컨텍스트·이미지 엔지니어링
블로그 44편을 다시 읽으며 발견한 사실 — 실무에서 부딪히는 문제는 결국 12가지로 수렴하고, 테크닉은 그 처방이다. 프롬프트에서 컨텍스트, 하니스, 루프, 그리고 이미지 프롬프트까지. 증상별 처방전과 글로벌 필독 자료 10선을 한 장의 지도로 묶었다.
보이지 않는 서명: AI가 쓴 글에 숨겨진 초록 단어들
2026년 8월, Claude가 쓰는 문장에 아무도 볼 수 없는 서명이 붙기 시작했다. 원리는 2023년 메릴랜드대 논문 한 편에서 나왔다. 단어를 초록과 빨강으로 나누고 초록 쪽을 슬쩍 밀어주는 것 — 그게 전부다. 744년 된 아이디어가 어떻게 로짓 위로 옮겨왔고, 무엇을 증명할 수 있으며, 무엇은 끝내 증명하지 못하는지 끝까지 따라간다.
LLM은 도약하지 못한다: 아인슈타인의 낙서 한 장이 2026년 AI에게 던진 질문
구글 딥마인드 톰 자하비의 ICML 2026 포지션 페이퍼 「Position: LLMs can't jump」를 정면으로 뜯어본다. 아인슈타인이 친구에게 그려 보낸 낙서 한 장에서 출발해, 왜 오늘의 AI가 정리를 증명하면서도 전제를 만들지 못하는지, 벌컨 행성과 엘리베이터 사고실험과 2026년의 월드 모델 경쟁까지 — 5개의 인터랙티브와 함께 끝까지 따라간다.
프롬프트 엔지니어링 실전 매뉴얼: 이 글 하나로 끝내는 68쪽 백서 완전 해설
구글이 낸 68쪽짜리 프롬프트 엔지니어링 백서를, 개념이 왜 생겼는지부터 오늘 당장 쓰는 법까지 풀어 정리했습니다. Temperature·Top-K·Top-P가 실제로 무슨 일을 하는지, 예시 하나가 왜 문장 열 줄보다 강한지, 프롬프트를 코드처럼 관리한다는 게 무슨 뜻인지 — 인터랙티브 실험실 4개와 함께 직접 만져보며 이해할 수 있게 만들었습니다.
‘작동 원리를 아는 마지막 사람들’ — 추상화의 탑, 그리고 아무도 다 모르게 된 맨 위층
2026년 6월, ‘우리는 작동 원리를 아는 마지막 사람들’이라는 에세이 한 편이 개발자 세계를 뒤흔들었습니다. 단순한 향수일까요, 아니면 정말 이번엔 다른 걸까요? 1990년대의 autoexec.bat부터 트랜스포머 아키텍처, 그리고 ‘만든 게 아니라 길러낸’ AI의 내부까지 — ‘안다는 것’의 역사를 추상화의 탑을 한 층씩 내려가며 쉽고 재미있게 풀어드립니다.
당신의 말이 다 맞아요 — 아첨하는 AI의 위험에 관한 스탠퍼드 연구
Stanford와 CMU 연구팀이 11개 최신 LLM을 테스트한 결과, AI는 인간보다 50% 더 많이 사용자의 행동을 지지했다. 그리고 그렇게 아첨받은 사람들은 갈등 상대와 화해할 의지가 28% 감소했다. 그런데도 사람들은 아첨하는 AI를 더 좋아하고 더 신뢰한다. 2026년 우리는 왜 이 역설을 걱정해야 하는가.
Thinking Without Words: AI가 단어 없이 생각하는 법 — Abstract Chain-of-Thought 완전 분석
IBM Research가 2026년 4월 발표한 'Thinking Without Words'를 깊이 파헤칩니다. 64개의 정체불명 토큰만으로 추론 토큰을 최대 11.6배 줄이고도 동등한 성능을 내는 비밀, 그리고 그 안에서 자연 언어와 똑같이 떠오른 Zipf의 법칙까지 — 'AI가 말 없이 생각한다'는 명제가 현실이 된 순간을 해부합니다.
DeepSeek V4 Pro 특집: 1.6조 파라미터로 100만 토큰을 V3.2의 1/10 비용에 — 오픈소스가 다시 프론티어를 따라잡은 날
2026년 4월 24일, DeepSeek이 V4 Pro와 V4 Flash를 공개했다. 1.6조 파라미터(49B 활성), 100만 토큰 컨텍스트, 그리고 V3.2 대비 KV 캐시 10%·FLOPs 27%. 단순한 버전업이 아니라 'CSA + HCA 하이브리드 어텐션', 'mHC 잔차 연결의 후속', 'Muon 옵티마이저', 'FP4+FP8 혼합 정밀도', '온-폴리시 디스틸레이션'이라는 다섯 가지 핵심 혁신이 한꺼번에 들어갔다. 왜 이런 설계가 필요했는지, 어디서부터 어떻게 여기까지 왔는지, 그리고 실무에서 어떻게 써야 하는지를 처음부터 풀어본다.
LLM을 검색창이 아닌 인지 파트너로 — 7가지 비전통적 사용법의 과학
KDnuggets의 Iván Palomares Carrascosa가 제안한 'LLM 7가지 비전통적 사용법'이 커뮤니티를 흔들고 있다. 그러나 이 7가지가 실제로 '왜' 작동하는지는 뜻밖에 깊은 배경 위에 서 있다. Anthropic의 아첨(sycophancy) 논문, USC의 페르소나 프롬프팅 연구(PRISM), 1999년 러버덕 디버깅의 기원, 2022년 Chain-of-Thought의 발견까지. 각 사용법의 프롬프트 템플릿, 작동 원리, 반대 논문, 그리고 실무 베스트 케이스를 깊이 있게 해부한다.