#AI 인프라
5개의 포스트
![[특집] 전기를 기다리는 AI — 수도권 522건 중 10건, 9MW 데이터센터, 그리고 텍사스의 허가 중단](/_next/image?url=https%3A%2F%2Ffiles.core.today%2Fstorage%2Fcoredot%2Fpublic%2Fblog%2Fpwr-cover.webp&w=3840&q=75)
[특집] 전기를 기다리는 AI — 수도권 522건 중 10건, 9MW 데이터센터, 그리고 텍사스의 허가 중단
GPU는 돈을 내면 몇 달 안에 받을 수 있습니다. 전기는 그렇지 않습니다. 2024년 8월부터 2026년 3월까지 수도권에서 데이터센터를 전력망에 연결하겠다고 심사를 신청한 522건 가운데 마지막 관문을 넘은 것은 10건, 1.9%였습니다. 그러자 심사 기준선인 10MW 바로 아래, 9MW짜리 데이터센터가 서울 곳곳에 생겨나고 있습니다. 정부는 2027년 3월 시행되는 AI 데이터센터 특별법으로 데이터센터를 지방으로 보내려 하고, 미국에서는 텍사스 주지사가 데이터센터 인허가를 멈춰 세웠고 국민 69%가 '우리 동네에는 반대'라고 답했습니다. 칩에서 전기로 옮겨 간 AI의 병목을 숫자로 따라가고, GPU 몇 장이면 몇 MW인지 직접 계산해 봅니다.
모델 서빙 설계 가이드 2026 — 요청 하나의 여정으로 배우는 구조와 노하우
2026년 10월의 모델 서빙에서 엔진은 사실상 정해졌습니다(vLLM, SGLang). 설계의 승부는 엔진 바깥에서 납니다. 이 글은 요청 하나가 들어와 답이 나가기까지의 여정을 식당 운영에 빗대어 따라가며, 지금 통하는 설계와 그 근거를 정리합니다. 응답 시간을 대기·읽기·쓰기로 나눠 재는 법, 최대 처리량이 아니라 굿풋으로 용량을 세는 법, 엔진의 기본값(동시 처리 1,024개, 대기열 무제한)을 그대로 쓰면 안 되는 이유, 같은 대화를 같은 서버로 보내는 것만으로 처리량이 두 배가 되는 라우팅, 받을 수 없는 요청을 거절하는 입장 제어, GPU 사용률이 아닌 확장 신호, 수십 GB 모델의 콜드 스타트를 줄이는 방법, 세대별 양자화 선택, 그리고 규모별 구성까지. vLLM 0.30과 llm-d 0.10의 문서, 그리고 Together·Modal·Baseten·토스·네이버 등이 올해 공개한 운영 사례의 수치를 근거로 삼았습니다. 직접 움직여 보는 위젯 6개가 들어 있습니다.
GPU 고르는 법 2026 — A100·H100·L40S·B200, 이름만 봐도 아는 엔비디아 GPU 가이드
"H100이 좋다던데 우리도 그걸 사면 되나요?" GPU 상담에서 가장 많이 듣는 질문입니다. 이 글은 엔비디아 GPU를 차 고르듯 고를 수 있게 정리했습니다. A100의 A, H100의 H, L40S의 L이 무엇의 약자인지(과학자 이름입니다), 연산용 혈통과 그래픽 겸용 혈통이 어떻게 다른지, 제원표에서 봐야 할 숫자 네 개(메모리·대역폭·연결·전력)가 각각 무엇을 정하는지, 그리고 Ampere·Hopper·Ada Lovelace·Blackwell·Rubin 세대의 대표 제품을 언제 고르고 언제 피해야 하는지를 다룹니다. DGX가 GPU 이름이 아니라는 것, 서버를 사 놓고 놓을 자리가 없어지는 이유, 살지 빌릴지의 기준까지. 직접 눌러 보는 이름 해독기, 메모리 계산기, 전력 계산기, GPU 추천기 등 위젯 6개가 들어 있습니다.
넷플릭스는 왜 LLM을 직접 서빙하는가 (1부): '그냥 API 쓰면 되잖아'에 대한 대답
2026년 7월, 넷플릭스가 자사 LLM 서빙 스택을 공개했다. 요약하면 '우리는 OpenAI API를 쓰지 않는다. 모델 배포부터 추론까지 전 과정을 우리 손으로 굴린다'이다. 대부분의 회사가 API 한 줄로 끝내는 시대에, 넷플릭스는 왜 굳이 인프라를 통째로 짊어졌을까? 이 특집 1부는 그 '왜'를 추천 시스템의 역사부터 2026년 인퍼런스 경제학까지 따라가며 답한다.
Sovereign AI: 왜 각국은 자기만의 AI를 만들려 하는가
130개 프로젝트, 50개 국가, 2.5조 달러. 각국이 앞다투어 자체 AI 인프라를 구축하는 이유 — 데이터 주권, 안보, 경제적 자립. 한국의 7,350억 달러 이니셔티브부터 프랑스 미스트랄, 일본 라쿠텐까지.