TECH BLOG
기술 블로그
AI 기술 인사이트와 엔지니어링 경험을 공유합니다.
ALL POSTS
모든 포스트
NPU, 2026년 가을의 성적표 — TOPS의 함정부터 국산 NPU 실전 투입까지
3월의 입문 글 이후 반년, NPU를 둘러싼 풍경이 달라졌습니다. 노트북 쪽에서는 TOPS 경쟁이 식고 Copilot+ PC라는 이름이 조용히 물러났습니다. 데이터센터 쪽에서는 엔비디아가 추론 전용 칩(Groq LPU)을 자기 랙 안에 넣었고, 한국에서는 리벨리온과 퓨리오사AI의 칩이 통신사와 포털의 실서비스에서 하루 수억~수십억 토큰을 처리하기 시작했습니다. 이 글은 2026년 10월 3일 기준으로 두 종류의 NPU(주머니 속 NPU와 데이터센터 NPU)를 점검합니다. TOPS가 왜 LLM 속도를 말해 주지 않는지, NPU가 실제로 맡는 일은 무엇인지, 'GPU 대비 몇 배'라는 주장을 어떻게 읽어야 하는지, 전성비의 진짜 쓸모가 전기요금이 아니라 전력 한도라는 점, 그리고 우리 일에 NPU가 맞는지 판단하는 기준까지. 계산기와 점검표 등 위젯 6개가 들어 있습니다.
GPU 고르는 법 2026 — A100·H100·L40S·B200, 이름만 봐도 아는 엔비디아 GPU 가이드
"H100이 좋다던데 우리도 그걸 사면 되나요?" GPU 상담에서 가장 많이 듣는 질문입니다. 이 글은 엔비디아 GPU를 차 고르듯 고를 수 있게 정리했습니다. A100의 A, H100의 H, L40S의 L이 무엇의 약자인지(과학자 이름입니다), 연산용 혈통과 그래픽 겸용 혈통이 어떻게 다른지, 제원표에서 봐야 할 숫자 네 개(메모리·대역폭·연결·전력)가 각각 무엇을 정하는지, 그리고 Ampere·Hopper·Ada Lovelace·Blackwell·Rubin 세대의 대표 제품을 언제 고르고 언제 피해야 하는지를 다룹니다. DGX가 GPU 이름이 아니라는 것, 서버를 사 놓고 놓을 자리가 없어지는 이유, 살지 빌릴지의 기준까지. 직접 눌러 보는 이름 해독기, 메모리 계산기, 전력 계산기, GPU 추천기 등 위젯 6개가 들어 있습니다.
Postgres 하나로 어디까지 ① 작업 큐 — SKIP LOCKED로 Redis·RabbitMQ 없이 시작하기
메일 발송·썸네일 생성·외부 API 호출처럼 '나중에 해도 되는 일'을 맡길 큐가 필요할 때, Redis나 RabbitMQ를 새로 띄우기 전에 이미 쓰고 있는 PostgreSQL로 충분한지 따져 봅니다. 큐 테이블 하나와 쿼리 세 개로 시작해 SKIP LOCKED로 여러 워커가 겹치지 않게 일을 나누고, 리스(lease)로 죽은 워커의 일을 되살리고, 재시도·백오프·데드레터를 붙이고, LISTEN/NOTIFY로 즉시 깨우는 법까지. 큐 테이블이 부푸는 MVCC의 함정과 파티션으로 피하는 법, 언어별 라이브러리, 그리고 언제 전용 브로커로 떠나야 하는지도 다룹니다. 데모 두 개는 여러분의 브라우저 안에서 진짜 PostgreSQL 18을 띄워 실행됩니다.
![[특집] 벡터 데이터베이스는 죽었다? — 터보퍼퍼가 벡터를 '색인 하나'로 내린 이유와 2026년 검색 인프라의 지각변동](/_next/image?url=https%3A%2F%2Ffiles.core.today%2Fstorage%2Fcoredot%2Fpublic%2Fblog%2Frv-cover.webp&w=3840&q=75)
[특집] 벡터 데이터베이스는 죽었다? — 터보퍼퍼가 벡터를 '색인 하나'로 내린 이유와 2026년 검색 인프라의 지각변동
2026년 9월 30일, 커서·노션·앤트로픽의 검색을 떠받치는 터보퍼퍼가 「RIP, vector database」라는 글을 올렸습니다. 3년 동안 모든 데이터를 벡터 클러스터 주소 아래 저장해 온 구조를 버리고, 벡터 색인을 '또 하나의 보조 색인'으로 내린다는 선언입니다. 벡터 하나가 이사하면 문서 전체와 색인이 따라 움직이는 쓰기 증폭, 토큰마다 문서를 복사하는 저장 증폭, 100~200개 상자에 갇힌 CPU — 원문이 밝힌 세 가지 이유를 키-값 예시 그대로 풀고, 2016년 우버가 포스트그레스를 떠난 이유와 InnoDB의 클러스터드 인덱스까지 거슬러 올라갑니다. 그리고 이 글이 터보퍼퍼만의 이야기가 아닌 이유 — 모든 DB가 벡터를 품고, S3가 벡터를 저장하고, 파인콘이 BM25를 붙이고, 클로드 코드가 grep을 고른 2025~2026년의 흐름을 검증된 숫자로 짚습니다. 인터랙티브 6개와 삽화 11장.
![[특집] '쉬우면 베껴도 된다'는 없다 — Thomson Reuters v. ROSS 항소심과 RAG·리걸테크 저작권 지도](/_next/image?url=https%3A%2F%2Ffiles.core.today%2Fstorage%2Fcoredot%2Fpublic%2Fblog%2Fcr-cover.webp&w=3840&q=75)
[특집] '쉬우면 베껴도 된다'는 없다 — Thomson Reuters v. ROSS 항소심과 RAG·리걸테크 저작권 지도
9월 29일 미국 제3순회항소법원이 AI와 공정이용에 관한 첫 항소심 판결을 냈습니다. 법률 리서치 스타트업 ROSS가 웨스트로의 판례 요지(헤드노트)로 AI를 훈련한 것은 공정이용이 아니라는 결론입니다. 판결문을 읽어 보면 핵심은 'AI 학습이냐'가 아니라 '원본 시장을 대체하느냐'와 '꼭 필요했느냐'에 있었습니다. 법원은 원본 판례는 자유롭게 쓸 수 있었는데 편해서 헤드노트를 베꼈다며 이렇게 썼습니다. '필요와 달리 편의는 복제의 정당화 사유가 아니다.' 생성형 학습을 공정이용으로 본 Bartz·Kadrey 판결, 독일 GEMA v. Suno, 한국의 지상파 3사 v. 네이버 소송과 개인정보 AI 특례까지 엮어, 검색·요약형 AI 서비스가 어디서 위험해지는지 지도로 그렸습니다.
![[특집] 소버린 AI 2차 평가의 역설 — 벤치마크 1위가 탈락했다: 독자 AI 파운데이션 모델 14개월과 '무엇으로 평가할 것인가'](/_next/image?url=https%3A%2F%2Ffiles.core.today%2Fstorage%2Fcoredot%2Fpublic%2Fblog%2Fsov-cover.webp&w=3840&q=75)
[특집] 소버린 AI 2차 평가의 역설 — 벤치마크 1위가 탈락했다: 독자 AI 파운데이션 모델 14개월과 '무엇으로 평가할 것인가'
2026년 8월, 국가대표 AI 모델을 가리는 '독자 AI 파운데이션 모델' 2차 평가에서 모티프테크놀로지스가 탈락했습니다. 그런데 세계적 평가 지표인 Artificial Analysis 지수로는 네 팀 중 모티프가 가장 높았습니다. 벤치마크 합계도 1위, 그러나 전문가와 사용자 점수는 꼴찌. 공개된 세부 점수로 배점을 바꿔 다시 채점해 보면, 이 탈락은 '모델의 우열'이 아니라 '무엇을 중시하기로 정했는가'의 결과에 가깝습니다. 1차에서 '독자성' 기준으로 탈락한 네이버, '처음부터 학습했나'를 둘러싼 공개 검증, 평가 화면에 모델 이름이 그대로 보였다는 지적, 절반 넘게 놀고 있는 임차 GPU, 그리고 '경쟁에서 육성으로'의 방향 전환까지 — 14개월의 기록과 다른 나라의 선택을 함께 봅니다.
Zep 생태계 지도 — Graphiti, Konig, Context Lake는 각각 무슨 일을 하나
반년 전 Zep 논문을 해부할 때는 'Zep의 엔진은 Graphiti'라는 한 줄로 충분했습니다. 지금은 Konig, Context Lake, Memory MCP 서버, Graphiti MCP 서버처럼 이름이 늘어 누가 무슨 일을 하는지 헷갈립니다. 이 글은 도서관에 빗대어 문·접수대·사서·서고·대출 데스크·관리 규정 여섯 층으로 생태계를 정리하고, 문장 하나가 기억이 되기까지 어느 구성요소를 거치는지 위젯으로 따라갑니다. 열린 것과 닫힌 것, 요금과 크레딧 계산법, 직접 운영과 서비스 이용 중 무엇을 고를지도 함께 다룹니다.
![[특집] '홈페이지 개선'은 왜 3주째 진행 중일까 — 이슈를 어떤 단위로, 어떻게 적을 것인가](/_next/image?url=https%3A%2F%2Ffiles.core.today%2Fstorage%2Fcoredot%2Fpublic%2Fblog%2Fiss-cover.webp&w=3840&q=75)
[특집] '홈페이지 개선'은 왜 3주째 진행 중일까 — 이슈를 어떤 단위로, 어떻게 적을 것인가
업무 보드에 '홈페이지 개선'이라는 카드가 3주째 진행 중입니다. 담당자는 매일 일했는데 카드는 끝나지 않습니다. 끝난 모습이 적혀 있지 않기 때문입니다. 이 글은 일을 '얼마나 잘게 나눌까'보다 '무엇을 하나의 완료로 볼 것인가'를 먼저 묻습니다. 팀이 추적하는 결과, 내가 시작하는 첫 행동, 일하며 남기는 기록, 나중에 다시 쓰는 지식은 서로 다른 단위입니다. 빌 웨이크의 INVEST와 마이크 콘의 SPIDR, Shape Up의 '어피타이트', 사이먼 윌리슨이 이슈를 실험 노트처럼 쓰는 법, 코치 토니의 '첫 행동', 칼 뉴포트의 조사 업무 준비, 예정일과 마감일의 분리, 제텔카스텐의 원자성과 '수집가의 오류', 그리고 AI 에이전트에게 일을 맡기는 2026년의 이슈까지. 원문을 하나씩 확인한 출처 서른한 건과 인터랙티브 4개, 삽화 12장으로 정리했습니다.
키워드와 의미, 둘 다 쓴다 — BM25·벡터·RRF·리랭커, 논문과 실측으로 보는 하이브리드 검색 (한국어 검색 스택 2편)
원문 메모의 그림은 이랬습니다. BM25와 벡터 검색을 나란히 돌리고, 결과를 RRF로 합치고, 리랭커로 다시 고른다. 이 글은 그 그림의 각 칸을 논문과 실측으로 채웁니다. 2009년 SIGIR의 두 쪽짜리 논문이 제안한 RRF는 점수 대신 등수만 쓰는 단순한 공식인데 왜 통하는지, k=60은 어디서 왔는지, 2023년 TOIS 논문은 왜 '점수 융합이 RRF보다 낫다'고 했는지, 2025년의 '약한 고리' 발견은 무엇인지. 그리고 1편의 한국어 코퍼스로 직접 재 보니, 등가중 RRF는 벡터 단독보다 오히려 나빴고 이유는 BM25가 약한 고리였기 때문이었습니다. 반면 강한 임베딩 둘(Qwen3-8B + BGE-M3)을 RRF로 합치자 어느 쪽 단독보다 좋아졌습니다. 리랭커는 '따로 읽고 비교'하는 바이 인코더와 '같이 읽고 판정'하는 크로스 인코더의 차이로 풀고, 로컬 LLM을 리랭커로 써서 상위 10개의 순서가 얼마나 바뀌는지 잽니다. 인터랙티브 5개와 삽화 8장.