#SK하이닉스

3개의 포스트

2026.10.30

[특집] 에이전트의 추론은 '미드필'이다 — 캐시 대 새 입력, 그리고 HBM 4단의 역습

코딩 에이전트의 추론은 '프리필 다음 디코드'가 아니라, 이미 캐시된 긴 앞부분에 짧은 새 입력을 붙이는 '미드필'의 반복입니다. 코어닷투데이 Claude Code 로그 6만 1,931번 호출을 세어 보니 입력의 97.8%가 캐시에서 왔고, 새 입력은 중앙값 1,711개로 캐시된 앞부분(중앙값 20만 1,917개)의 119분의 1이었습니다. 이런 일감에서는 HBM의 용량보다 대역폭과 KV를 옮기는 능력이 값을 정한다는 것이 SemiAnalysis의 주장이고, 그래서 Rubin Ultra는 GPU당 HBM을 288GB에서 192GB로 줄였으며 프런티어 연구소들은 4단 HBM을 원합니다. 공개 설정 파일과 공식 자료로 계산한 토큰당 KV는 모델마다 0.9kB에서 389kB까지 400배 넘게 벌어졌고, A100에서 vLLM으로 KV 예산을 줄여 본 실험은 '동시 사용자가 일정 수를 넘기 전까지는 아무 일도 없다'는 모양을 재현했습니다. 메모리 회사 입장의 계산은 유료 구간이라 추정하지 않고, 산수와 열린 질문만 정리했습니다.

코어닷투데이81분

[특집] AI의 청구서는 누가 내나 — 장부 밖 약속, 3년 만의 금리 인상, 그리고 수출의 절반이 된 반도체

특집특집AI 투자

2026.10.03

[특집] AI의 청구서는 누가 내나 — 장부 밖 약속, 3년 만의 금리 인상, 그리고 수출의 절반이 된 반도체

2026년 9월 한국 수출이 처음으로 월 1,200억 달러를 넘었고, 그 절반이 반도체였습니다. 같은 달 미국 연준은 3년 만에 금리를 올렸고, 영란은행 총재는 'AI 붐이 시장 충격을 부를 수 있다'고 경고했습니다. 이 두 장면은 하나의 사슬로 이어져 있습니다. 실리콘밸리 빅테크가 올해 AI 데이터센터에 쓰는 7,000억 달러 넘는 돈은 이제 번 돈만으로 감당되지 않아, 주식·회사채·리스·보증으로 메워지고 있습니다. 공시에 적힌 장부 밖 약속, 회계 기준 변경으로 '줄어든' 설비투자, 한 분기 만에 두 배가 된 엔비디아의 메모리 약정, 그리고 그 끝에서 코스피 시가총액의 57%를 차지하게 된 두 반도체 회사까지 — 공시와 공식 통계로 'AI의 청구서'를 따라가고, 앞으로 지켜볼 숫자 일곱 개로 정리합니다.

코어닷투데이26분

AI를 국경에서 멈춰 세우다 — 칩, 가중치, 그리고 2026년 AI 수출통제

특집AI 수출통제반도체 규제

2026.07.01

AI를 국경에서 멈춰 세우다 — 칩, 가중치, 그리고 2026년 AI 수출통제

냉동 랍스터 밑에 숨긴 GPU, 가짜 임신복 속의 칩, 하루 만에 증발한 6천억 달러. AI 수출통제라는 낯선 단어 뒤에는 냉전에서 시작된 70년의 계보와, '무기가 파일이 되는' 시대의 새로운 질문이 있다. 왜 칩이 급소가 됐고, 왜 이번엔 모델 자체를 막으려 했으며, 그 사이에서 한국은 어디에 서 있는가.

코어닷투데이27분