#총소유비용

2개의 포스트

2026.10.30

[특집] GPU 시간당 가격은 거짓말을 한다 — 고장·보안·숨은 비용으로 다시 잰 'GPU 빌리기'

GPU를 빌릴 때 모두가 견주는 숫자는 'GPU 한 장 한 시간에 얼마'입니다. SemiAnalysis는 같은 시간당 가격에서도 총비용이 사전학습에서 1.00배·1.10배·1.15배로 갈리고, 그 차이의 대부분이 고장으로 날아가는 '굿풋' 손실(6.14%·10.53%·20.91%)이라고 계산했습니다. 반면 노드 하나짜리 추론은 수리에 8시간이 걸려도 손실이 0.5% 안팎이라, '추론은 싸게, 학습은 신뢰성을' 사야 합니다. 코어닷투데이는 SA의 공개 수식으로 계산기를 다시 만들어 세 시나리오 중 둘을 몇 달러 차이로 재현했고, 공개 수식 그대로면 실버 사전학습 손실이 48%까지 오른다는 점도 확인했습니다. 우리 A100 클러스터에서 기동 시간을 재다가, 엿새째 아무 알림 없이 꺼져 있던 GPU 한 장도 찾았습니다.

코어닷투데이73분

[특집] 로봇의 뇌는 어디에 두나 — 7대의 교차점, 그리고 와이파이 지터

특집로봇피지컬 AI

2026.10.30

[특집] 로봇의 뇌는 어디에 두나 — 7대의 교차점, 그리고 와이파이 지터

SemiAnalysis는 로봇 96대를 놓고 '로봇마다 Jetson Thor를 다는 길'과 'B300 한 장을 여러 대가 나눠 쓰는 길'을 비교해, GPU 한 장에 5~7대가 넘으면 비용·실리콘·DRAM 모두 공유 쪽이 이긴다고 계산했습니다. 그러나 가동률 반영 전 시간당 비용은 오히려 온보드가 쌌고($14.97 대 $18.63), 판을 뒤집은 것은 '서버 90%·로봇 칩 40%'라는 가동률 가정이었습니다. 코어닷투데이가 같은 표를 '일한 로봇 한 시간'으로 다시 재면 46%가 아니라 55%였습니다. 사무실에서 20ms 간격으로 잰 왕복 시간은 유선이 p99 1ms 안팎으로 늘 같았지만, 와이파이는 첫 2분에 p99.9 1.25초를 찍었다가 30분 뒤에는 93ms, 이어진 10분 동안은 27ms로 조용했습니다. 로봇의 뇌를 어디에 둘지는 평균 지연이 아니라 언제 올지 모르는 이 꼬리가 정합니다.

코어닷투데이82분