클라우드란 무엇인가: 전산실에서 클라우드까지, IT 인프라의 대전환

들어가며: 서버를 사야 합니다

2005년, 직원 30명 규모의 전자상거래 스타트업을 상상해 보자. 창업자는 온라인 쇼핑몰을 오픈하려 한다. 개발팀이 코드를 완성했다. 이제 사용자들이 접속할 수 있도록 서버가 필요하다.

이 시점에서 창업자가 해야 할 일의 목록은 이렇다:

1. 서버 하드웨어 구매 (수천만 원)
2. 서버를 둘 장소 확보 — 항온항습 시설, UPS(무정전 전원장치), 물리적 보안
3. 네트워크 장비 구입 — 라우터, 스위치, 방화벽, 로드밸런서
4. 운영체제 설치, 보안 패치, 미들웨어 설정
5. 24시간 서버를 관리할 인력 채용
6. 백업 시스템과 재해복구 계획 수립

쇼핑몰 코드 한 줄 배포하기 전에, 인프라 구축에만 수개월과 수억 원이 필요하다. 그리고 가장 어려운 질문이 남는다 — "서버를 몇 대 사야 하지?"

평소에는 10대면 충분하지만, 블랙프라이데이 같은 대규모 세일 기간에는 100대가 필요할 수도 있다. 10대만 사면 피크 때 사이트가 다운되고, 100대를 사면 평소에 90대가 놀게 된다. 어느 쪽이든 손해다.

이것이 온프레미스(On-Premises) 시대의 현실이었다. 그리고 바로 이 문제를 해결하기 위해 클라우드가 탄생했다.

---

1. 온프레미스: "우리 건물, 우리 서버, 우리 책임"

온프레미스란?

온프레미스는 말 그대로 "자사 구내(premises)에서"라는 뜻이다. 기업이 자체 건물 안에 서버실(또는 데이터센터)을 구축하고, 하드웨어부터 소프트웨어까지 모든 IT 인프라를 직접 소유·운영하는 방식이다.

집을 "사는 것"에 비유할 수 있다. 내 땅에 내 집을 짓고, 수도·전기·난방을 직접 관리한다. 무엇이든 내 마음대로 할 수 있지만, 고장 나면 내가 고쳐야 하고, 보일러가 터지면 새벽에도 일어나야 한다.

전산실의 일상

온프레미스 환경에서 IT 팀의 하루는 이렇다:

• 하드웨어 관리: 서버, 스토리지, 네트워크 장비의 물리적 상태 점검. 디스크 교체, 메모리 증설, 케이블 정리
• 환경 유지: 서버실 온도를 18~27°C로 유지하는 냉각 시스템 관리. 습도 조절. 먼지 필터 교체
• 보안: 물리적 출입 통제, 방화벽 규칙 업데이트, 보안 패치 적용, 침입 탐지 시스템 모니터링
• 백업: 매일 데이터 백업. 주기적으로 백업 복원 테스트. 재해복구 시나리오 훈련
• 용량 계획: 3~6개월 뒤의 트래픽을 예측하고, 지금 장비를 주문해야 할지 판단

온프레미스의 강점

온프레미스가 나쁘기만 한 것은 아니다. 오늘날에도 특정 상황에서는 온프레미스가 최선이다:

• 완전한 통제: 하드웨어, 네트워크, 보안 정책을 100% 자체적으로 결정
• 데이터 주권: 민감한 데이터가 자사 건물 밖으로 나가지 않음. 금융·의료·군사 분야에서 중요
• 예측 가능한 비용: 일정 규모 이상에서는 장기적으로 클라우드보다 저렴할 수 있음
• 네트워크 지연 최소화: 서버가 물리적으로 가까이 있어 초저지연 처리 가능

그러나 — 온프레미스의 근본적 한계

특히 유휴 자원 낭비와 확장의 경직성이 결정적이었다. 서버는 "좀 더 여유 있게" 구매하는 것이 관례였고, 그 결과 전 세계 기업 데이터센터의 평균 서버 사용률은 **1525%**에 불과했다. 산 서버의 7585%가 대부분의 시간 동안 아무 일도 하지 않고 전기만 먹고 있었다는 뜻이다.

누군가는 이렇게 생각했을 것이다. "이 남는 컴퓨팅 파워를 다른 사람에게 빌려주면 어떨까?"

실제로 그렇게 생각한 회사가 있었다.

---

2. 클라우드의 탄생: "발전기에서 전력망으로"

전기의 역사가 알려주는 교훈

클라우드를 이해하는 가장 좋은 비유는 전기의 역사다.

19세기 후반, 공장을 운영하려면 자체 발전기가 필요했다. 공장마다 증기 엔진이나 수력 발전기를 갖추고, 엔지니어를 고용해 유지보수했다. 발전기가 고장 나면 공장 전체가 멈췄다.

그러다 1882년, 토마스 에디슨이 뉴욕 맨해튼에 최초의 중앙 발전소를 세웠다. 공장들은 더 이상 자체 발전기가 필요 없어졌다. 전선을 연결하고, 사용한 만큼 요금을 내면 됐다. 발전, 송전, 유지보수는 전력 회사가 알아서 했다.

클라우드 컴퓨팅은 컴퓨팅 파워에 대해 정확히 같은 전환을 만들어냈다. 모든 기업이 자체 서버실을 운영하는 대신, 거대한 데이터센터가 컴퓨팅 자원을 중앙에서 제공하고, 기업은 필요한 만큼만 사용하고 비용을 지불한다.

Amazon의 우연한 발견

클라우드의 탄생 뒤에는 흥미로운 이야기가 있다.

2000년대 초, Amazon은 급격한 성장을 겪고 있었다. 새로운 기능을 개발하려면 인프라팀에 서버를 요청해야 했고, 프로비저닝에 수 주에서 수 개월이 걸렸다. 개발팀은 기다리다 지쳤고, 회사의 혁신 속도가 인프라에 의해 병목이 됐다.

Amazon은 내부적으로 이 문제를 해결하기 위해 인프라를 표준화된 서비스로 재구축했다. 그리고 곧 깨달았다 — 자신들이 해결한 이 문제가 모든 기업의 문제라는 것을.

게다가 Amazon의 인프라는 크리스마스 쇼핑 시즌에 맞춰 설계되어 있었다. 연중 대부분의 시간에는 엄청난 유휴 용량이 있었다. 이 남는 용량을 외부에 판매할 수 있다면?

2006년 3월, Amazon Web Services(AWS)가 S3(스토리지)를 출시했다. 같은 해 8월, EC2(가상 서버)가 뒤따랐다. 클라우드 컴퓨팅 산업의 탄생이었다.

초기 반응은 회의적이었다. "인터넷 서점이 서버를 빌려준다고?" 하지만 스타트업들은 즉시 열광했다. 이전에는 서버를 사기 위해 수억 원의 투자를 받아야 했지만, 이제는 신용카드 하나로 몇 분 만에 서버를 띄울 수 있었다.

"유틸리티 컴퓨팅"의 비전

사실 컴퓨팅을 수도나 전기처럼 제공한다는 아이디어는 더 오래됐다. 1961년, MIT의 존 매카시 (AI의 아버지이기도 한 그 사람이다)는 이렇게 말했다:

"컴퓨팅이 언젠가 전화 시스템처럼 공공 유틸리티로 조직될 수 있다."

45년 뒤에야 이 비전이 현실이 된 것이다. 기술이 아이디어를 따라잡는 데 반세기가 걸렸다 — 에이전트 AI가 70년 된 아이디어를 실현하고 있는 것과 놀랍도록 유사한 패턴이다.

---

3. 클라우드란 무엇인가

정의

클라우드 컴퓨팅은 인터넷을 통해 서버, 스토리지, 데이터베이스, 네트워킹, 소프트웨어 등 IT 자원을 필요한 만큼 빌려 쓰고, 사용한 만큼 비용을 지불하는 모델이다.

미국 국립표준기술연구소(NIST)는 클라우드 컴퓨팅의 5가지 핵심 특성을 정의했다:

IaaS, PaaS, SaaS — 피자로 이해하기

클라우드 서비스는 제공 범위에 따라 세 가지 모델로 나뉜다. 피자 비유로 설명하면 가장 직관적이다.

각 모델을 구체적으로 살펴보자.

IaaS(Infrastructure as a Service) — 인프라를 빌린다

가상 서버, 스토리지, 네트워크 같은 기본 인프라를 빌려 쓰는 모델이다. 운영체제 위의 모든 것(미들웨어, 런타임, 애플리케이션)은 사용자가 직접 관리한다.

• 대표 서비스: AWS EC2, Google Compute Engine, Azure Virtual Machines, NHN Cloud
• 비유: 빈 사무실을 임대하는 것. 건물(인프라)은 제공되지만, 가구와 인테리어(소프트웨어)는 직접
• 적합한 경우: 인프라에 대한 세밀한 제어가 필요하거나, 기존 온프레미스 환경을 그대로 옮기고 싶을 때

PaaS(Platform as a Service) — 플랫폼을 빌린다

인프라뿐 아니라 운영체제, 런타임, 데이터베이스까지 제공한다. 개발자는 코드 작성에만 집중하면 된다.

• 대표 서비스: AWS Elastic Beanstalk, Google App Engine, Heroku, Vercel
• 비유: 풀옵션 공유 오피스. 책상, 의자, 인터넷, 프린터가 다 있다. 노트북만 들고 오면 된다
• 적합한 경우: 인프라 관리 부담 없이 빠르게 애플리케이션을 개발·배포하고 싶을 때

SaaS(Software as a Service) — 소프트웨어를 빌린다

완성된 소프트웨어를 인터넷으로 바로 사용한다. 설치도, 업데이트도, 서버 관리도 필요 없다.

• 대표 서비스: Gmail, Slack, Notion, Microsoft 365, Salesforce
• 비유: 배달 피자. 주문만 하면 완성된 피자가 도착한다. 요리할 필요가 전혀 없다
• 적합한 경우: 비개발 직군이 바로 사용하거나, 표준화된 업무 도구가 필요할 때

퍼블릭, 프라이빗, 하이브리드 클라우드

클라우드는 배포 방식에 따라서도 구분된다:

2026년 현재, 대부분의 엔터프라이즈는 하이브리드 또는 멀티클라우드 전략을 채택하고 있다. 민감한 데이터는 프라이빗 클라우드에, 탄력적 확장이 필요한 서비스는 퍼블릭 클라우드에 두는 식이다.

---

4. 클라우드가 바꾼 것들: 실제 사례

Netflix: 7년간의 대이주

클라우드 마이그레이션의 교과서적 사례다.

2008년, Netflix는 치명적인 사고를 겪었다. 데이터센터의 데이터베이스 손상으로 3일간 DVD 배송이 중단됐다. 이 사건을 계기로 Netflix는 자체 데이터센터에서 AWS로의 전면 이전을 결정한다.

하지만 이전은 쉽지 않았다. 2008년부터 2015년까지 7년이 걸렸다. 수천 개의 마이크로서비스를 재설계하고, 클라우드 네이티브 아키텍처로 전환해야 했다.

결과는? 2016년 넷플릭스는 전 세계 130개국에서 동시에 서비스를 출시했다. 온프레미스 시대였다면 각 국가에 데이터센터를 구축해야 했을 일이다. AWS의 글로벌 인프라 덕분에 버튼 몇 번으로 가능해졌다.

오늘날 Netflix는 매일 피크 타임에 전 세계 인터넷 트래픽의 약 15%를 처리한다. 이것을 자체 인프라로 감당하려면 천문학적 투자가 필요했을 것이다.

스타트업의 탄생 비용이 1,000분의 1로

클라우드가 만든 가장 극적인 변화는 창업의 진입장벽 하락이다.

2000년에 같은 서비스를 만들려면 투자를 받아 서버를 사야 했다. 2026년에는 노트북 하나로 시작할 수 있다. 이 변화가 전 세계 스타트업 생태계를 폭발적으로 성장시켰다.

한국 기업의 클라우드 전환

한국 시장에서도 클라우드 전환은 가속되고 있다:

• 쿠팡: 2018년부터 AWS 전면 전환. 로켓배송의 실시간 물류 최적화, 수백만 동시 사용자 처리를 클라우드 탄력성으로 해결
• 카카오뱅크: 국내 인터넷 전문은행 최초로 퍼블릭 클라우드(AWS) 도입. 출시 첫 주 300만 계좌 개설의 폭발적 트래픽을 감당
• 삼성전자: 하이브리드 클라우드 전략. 반도체 설계 등 민감한 워크로드는 온프레미스, 글로벌 서비스는 퍼블릭 클라우드
• 정부: 2024년 '클라우드 퍼스트' 정책 발표. 공공기관 정보시스템의 클라우드 우선 전환 추진

---

5. 온프레미스 vs 클라우드: 무엇을 선택할 것인가

비교 요약

어떤 상황에 무엇이 맞는가

온프레미스가 여전히 최선인 경우:

• 극도로 민감한 데이터를 다루는 경우 (군사, 일부 금융)
• 초저지연이 필수인 실시간 처리 (공장 자동화, Edge 시나리오)
• 대규모로 예측 가능한 워크로드를 장기간 운영하는 경우
• 규제로 인해 데이터가 물리적으로 자사 시설에 있어야 하는 경우

클라우드가 최선인 경우:

• 빠르게 성장하는 서비스로 트래픽 예측이 어려운 경우
• 글로벌 서비스를 제공하는 경우
• 초기 투자를 최소화하고 싶은 스타트업
• AI/ML 워크로드처럼 GPU를 대량으로 간헐적으로 사용하는 경우
• 재해복구와 고가용성이 중요한 경우

현실적으로 많은 기업은 하이브리드를 선택한다. 핵심 데이터는 온프레미스에, 웹 서비스와 분석 워크로드는 클라우드에 두는 식이다. "전부 클라우드" 또는 "전부 온프레미스"는 극단적인 선택이고, 대부분의 정답은 그 사이 어딘가에 있다.

---

6. 클라우드 시장의 현재

3강 구도

2026년 현재 글로벌 클라우드 인프라 시장은 명확한 3강 구도다:

AWS가 선발주자 이점을 유지하고 있지만, Microsoft Azure가 엔터프라이즈 시장에서 빠르게 추격하고 있다. Google Cloud는 AI/ML 워크로드에서 차별화를 추구하고 있다.

한국에서는 NHN Cloud, KT Cloud, 네이버 클라우드 등 국내 사업자도 활발하게 경쟁하고 있으며, 특히 공공 부문과 데이터 주권이 중요한 분야에서 강세를 보인다.

클라우드의 다음 단계

클라우드는 단순한 "서버 임대"에서 훨씬 더 진화하고 있다:

서버리스(Serverless): 서버의 존재 자체를 신경 쓸 필요가 없다. 코드만 올리면 실행되고, 요청이 없으면 비용도 0원. AWS Lambda, Google Cloud Functions가 대표적이다.

컨테이너와 쿠버네티스: 애플리케이션을 가벼운 컨테이너에 패키징하여, 어떤 환경에서든 동일하게 실행되도록 한다. "내 컴퓨터에서는 되는데?"라는 고전적 문제를 해결했다.

Edge 클라우드: 사용자와 가까운 곳에서 데이터를 처리한다. 자율주행, AR/VR, IoT처럼 초저지연이 필수인 서비스를 위해 클라우드가 "가장자리(edge)"로 내려오고 있다.

AI 클라우드: GPU, TPU 같은 AI 전용 하드웨어를 클라우드로 제공한다. AI 모델 학습과 추론에 필요한 막대한 컴퓨팅 파워를 사용한 시간만큼만 지불하면 되므로, 모든 기업이 AI를 활용할 수 있게 됐다.

---

마치며: 인프라는 보이지 않을수록 좋다

클라우드의 궁극적 비전은 인프라가 투명해지는 것이다. 우리가 수돗물을 쓸 때 정수장의 위치를 신경 쓰지 않듯, 전등을 켤 때 발전소의 종류를 생각하지 않듯, 소프트웨어를 만들 때 서버의 물리적 위치나 하드웨어 스펙을 신경 쓰지 않아도 되는 세상.

온프레미스 시대는 IT 팀이 서버실의 온도와 디스크 잔여 용량을 걱정하던 시대였다. 클라우드 시대는 개발자가 비즈니스 로직과 사용자 경험에만 집중할 수 있는 시대다.

코어닷투데이의 AI 제품들 — AI 아르스 키오스크, 의정지원 AI, Sharp-PINN — 도 이 인프라의 진화 위에 서 있다. Edge 디바이스에서의 실시간 AI 추론, 클라우드 기반 모델 서빙, 하이브리드 배포 — 이 모든 것이 "인프라를 의식하지 않고 AI를 활용한다"는 클라우드의 약속을 구체적으로 실현하는 사례다.

인프라는 보이지 않을수록 좋다. 그래야 정말 중요한 것에 집중할 수 있으니까.