[특집] 그림자 속의 동료 — 섀도 AI, 회사가 모르는 AI는 어떻게 가장 흔한 보안 사고가 되었나

크게 보기

들어가며: 보안 책임자도 붙여넣는다

2026년 1월 27일, 폴리티코는 미국 사이버보안·인프라보안국(CISA)의 국장대행이 "공무 전용(for official use only)" 표시가 붙은 계약 문서를 공개 ChatGPT에 올렸다고 보도했습니다. CISA는 미국 연방정부의 사이버 방어를 책임지는 기관입니다. 당시 이 기관의 다른 직원들에게는 ChatGPT 사용이 막혀 있었고, 그는 예외 허가를 받은 상태였습니다. 자동 보안 경고가 여러 번 울렸고 국토안보부가 피해 여부를 조사했습니다. 기관은 사용이 "단기적이고 제한적"이었다고 해명했습니다.

이 사건이 말해 주는 것은 한 사람의 부주의가 아닙니다. 보안을 가장 잘 아는 조직의 가장 높은 사람도, 일이 급하면 눈앞의 가장 편한 도구에 자료를 넣는다는 것입니다.

우리 주변도 다르지 않습니다. 삼성SDS가 2026년 5월 국내 기업·공공기관 재직자 1,750명을 조사했더니, 생성형 AI 사용 사례 가운데 38%가 회사 승인 없이 개인 비용으로 쓰는 것이었습니다. 엔터프라이즈 정식 계약으로 쓰는 경우는 24%였습니다. 하루 2시간 이상 생성형 AI를 쓰는 사람의 비율은 2025년 11월 18%에서 2026년 5월 72%로 뛰었습니다.

이렇게 회사가 승인하지 않았거나 회사가 모르는 채로 업무에 쓰이는 AI를 섀도 AI(Shadow AI)라고 부릅니다. 지난 글 남기지 않는 기술에서 공급자와 '보존 0일' 계약을 맺는 법을 다뤘는데, 그 계약은 직원이 회사 계정으로 쓸 때만 의미가 있습니다. 개인 계정으로 들어간 자료에는 어떤 계약도 따라가지 않습니다.

1. 1981년의 사무용품: 섀도 IT라는 오래된 이야기

섀도 AI를 이해하려면 그 조상부터 봐야 합니다. 회사의 IT 부서 모르게 직원이 들여온 기술을 섀도 IT라고 부릅니다.

가장 오래된 사례 가운데 하나는 1981년 말의 뱅크아메리카입니다. 개인용 컴퓨터가 막 나온 시절, 직원들은 전산 부서의 승인을 기다리는 대신 PC를 사무용품으로 비용 처리해 사들였습니다. 1984년 PC 매거진은 이 풍경을 이렇게 전했습니다. 임원 비서나 경리 보조가 PC 한 대로, 전산 전문가 팀이 이틀 걸리던 일을 20분에 해낸다고.

패턴은 그 뒤로 반복됐습니다. 2007년 아이폰이 나오고 2008년 드롭박스가 공개되자, 사람들은 회사 문서를 개인 클라우드에 올리고 개인 휴대폰으로 회사 메일을 봤습니다. 가트너는 2015년까지 기업 IT 지출의 35%가 IT 부서 예산 밖에서 집행될 것이라고 내다봤습니다. 이 틈을 메우려고 나온 보안 제품군이 클라우드 접근 보안 중개(CASB)입니다.

크게 보기

40년 동안 바뀌지 않은 교훈이 하나 있습니다. 섀도 IT는 직원이 규칙을 싫어해서가 아니라, 공식 도구가 일의 속도를 따라가지 못해서 생깁니다. 그리고 대부분의 섀도 IT는 몇 년 뒤 공식 IT가 됐습니다. PC가 그랬고, 스마트폰이 그랬고, 클라우드가 그랬습니다.

섀도 AI가 다른 점은 두 가지입니다. 하나는 속도입니다. PC가 사무실에 퍼지는 데는 10년이 걸렸지만, 2024년 마이크로소프트·링크드인 조사에서 업무에 AI를 쓰는 지식근로자의 46%는 쓴 지 6개월이 안 된 사람이었습니다. 다른 하나는 들어가는 것의 성격입니다. 드롭박스에는 파일이 통째로 올라갔고, 그 파일은 보안 도구가 추적할 수 있었습니다. 챗봇에는 문서의 가장 중요한 부분이 문장째 잘려서 들어갑니다. 무엇이 나갔는지 추적하기가 훨씬 어렵습니다.

2. 숫자로 보는 격차: 회사가 아는 AI와 직원이 쓰는 AI

섀도 AI의 규모를 보여 주는 조사는 많습니다. 다만 이 주제의 숫자는 유난히 잘못 인용됩니다. 대표적인 것 세 가지만 바로잡고 가겠습니다.

분모를 바로잡아도 그림은 충분히 선명합니다.

• 2024년, 마이크로소프트·링크드인 (31개국 31,000명). 지식근로자의 75%가 업무에 AI를 쓰고, 그 가운데 78%가 자기 도구를 가져와 씁니다. 이 조사가 붙인 이름이 BYOAI, 즉 "자기 AI를 들고 출근하기"입니다. 같은 조사에서 리더의 79%는 AI 도입이 필수라고 답했지만 60%는 자기 조직에 계획이 없다고 걱정했습니다.
• 2025년, KPMG·멜버른대 (47개국 4만 8천여 명). 업무에 AI를 쓰는 직원 가운데 무료 공개 도구를 쓰는 사람(70%)이 회사가 준 도구를 쓰는 사람(42%)보다 많았습니다. 44%는 조직 정책에 어긋나게 AI를 쓴 적이 있다고 답했습니다.
• 2026년, 넷스코프. 생성형 AI 사용자 가운데 개인 AI 앱을 쓰는 비율은 47%였습니다. 전년의 78%에서 크게 내려온 숫자입니다. 회사가 기업용 계정을 주기 시작하자 사람들이 옮겨 왔다는 뜻으로 읽힙니다. 그런데 같은 기간 민감 데이터 전송 사고는 2배로 늘어 조직당 월평균 223건이 됐습니다. 사용 자체가 3배로 늘었기 때문입니다.

아래 탐색기에서 주요 조사를 분모와 함께 볼 수 있습니다.

3. 비밀 사이보그: 사람들은 왜 숨기는가

섀도 AI에서 가장 흥미로운 부분은 기술이 아니라 심리입니다. 사람들은 AI를 몰래 씁니다. 금지돼 있어서만이 아닙니다.

크게 보기

와튼스쿨의 이선 몰릭 교수는 2023년 6월 이들을 "비밀 사이보그(secret cyborgs)"라고 불렀습니다. 그가 꼽은 숨기는 이유는 세 가지입니다. 첫째, 회사가 금지했으니 들키면 처벌받습니다. 둘째, AI가 썼다는 것을 모를 때 결과물이 더 높이 평가받습니다. 셋째, AI로 일을 줄일 수 있다는 것이 알려지면 자기나 동료의 일자리가 위험해질까 걱정합니다.

두 번째 이유는 2025년 실험으로 확인됐습니다. 듀크대 연구진이 4,400명 넘게 참여한 네 번의 실험을 PNAS에 발표했는데, AI를 쓴다고 알려진 사람은 더 게으르고 덜 유능하다고 평가받았습니다. 사람들은 그런 평가를 미리 예상하기 때문에 사용 사실을 숨깁니다. KPMG 조사에서 61%가 AI 사용을 밝히기를 피한 적이 있다고 답했고, 마이크로소프트 조사에서는 AI 사용자의 52%가 가장 중요한 업무에 AI를 쓴다는 사실을 인정하기 꺼렸습니다.

그렇다고 쓰지 않을 수도 없습니다. 효과가 너무 크기 때문입니다.

• BCG·하버드 (2023). 컨설턴트 758명을 대상으로 한 실험에서 GPT-4를 쓴 그룹은 과제를 12.2% 더 많이, 25.1% 더 빨리 끝냈고 결과물의 품질은 40% 넘게 높았습니다. 다만 AI의 능력 범위를 벗어난 과제에서는 오히려 정답률이 19%포인트 낮았습니다. 연구진은 이 들쭉날쭉한 경계를 '울퉁불퉁한 기술 경계(jagged frontier)'라고 불렀습니다.
• MIT (Science, 2023). 대졸 전문직 453명의 글쓰기 과제에서 ChatGPT는 소요 시간을 40% 줄이고 품질을 18% 높였습니다.

이 숫자를 본 직원에게 "쓰지 마라"는 지시는 "남들보다 40% 느리게 일하라"는 말로 들립니다. 2024년 소프트웨어 AG 조사에서 지식근로자의 46%가 회사가 금지해도 개인 AI 도구를 포기하지 않겠다고 답한 이유입니다.

4. 붙여넣기의 해부: 무엇이, 어디로 가는가

섀도 AI 사고의 대부분은 해킹이 아닙니다. 복사와 붙여넣기입니다.

보안 회사 사이버헤이븐은 근로자 300만 명의 실제 사용 기록을 분석해 왔습니다. 2023년 3월부터 1년 사이 직원들이 AI 도구에 넣는 기업 데이터의 양은 485% 늘었고, 그 가운데 민감 데이터의 비중은 10.7%에서 27.4%로 올랐습니다. 2026년 보고서에서는 전체 AI 상호작용의 39.7%가 민감 데이터를 포함했고, 직원 한 사람이 평균 사흘에 한 번꼴로 민감 데이터를 입력했습니다.

무엇이 들어갔는지를 보면 더 구체적입니다. 2024년 기준으로 AI 도구에 입력된 법률 문서의 82.8%, 연구개발 자료의 55.3%, 소스코드의 50.8%, 인사 기록의 49.0%가 회사 계정이 아닌 개인 계정을 통해 들어갔습니다.

크게 보기

가장 유명한 사례가 2023년의 삼성전자입니다. 반도체 부문이 3월 11일 ChatGPT 사용을 허용한 뒤 3주가 안 돼 세 건이 알려졌습니다. 설비 계측 데이터베이스의 소스코드, 불량 설비를 판별하는 프로그램의 코드, 그리고 회의 녹취였습니다. 세 직원 모두 일을 더 잘하려던 것이었습니다. 버그를 고치고, 코드를 최적화하고, 회의록을 만들려고 했습니다.

여기서 중요한 것은 '어디에' 넣었느냐입니다. 같은 자료라도 회사가 계약한 기업용 계정에 넣는 것과 개인 무료 계정에 넣는 것은 완전히 다른 일입니다. 전자에는 학습 미사용 조건, 보존 기간, 감사 로그, 처리위탁 계약이 따라붙습니다. 후자에는 아무것도 없습니다. 그리고 직원이 퇴사하면 그 대화 기록은 개인 계정과 함께 회사 밖으로 나갑니다.

아래 모형에서 조합을 바꿔 보세요.

5. 도구가 새는 날: 사고는 직원만의 잘못이 아니었다

직원이 조심해도 사고는 납니다. 지난 3년의 사건을 보면, 붙여넣은 사람이 아니라 도구 쪽에서 샌 경우가 적지 않습니다.

크게 보기

이 사건들은 한국에서도 조치로 이어졌습니다. 2025년 2월 5일 산업부·외교부·국방부가 DeepSeek 접속을 차단했고, 카카오와 LG유플러스는 사내 사용을 금지했습니다. 개인정보보호위원회는 2월 15일부터 이 앱의 국내 신규 다운로드를 잠정 중단시켰습니다. 4월 24일 발표한 점검 결과는 구체적이었습니다. 이용자 동의나 고지 없이 개인정보를 국외로 이전했고, 이용자가 입력한 프롬프트 내용을 바이트댄스 계열사로 전송하고 있었으며, AI 학습을 거부할 방법도 한국어 처리방침도 없었습니다.

마지막 줄의 브라우저 확장 사건은 특히 눈여겨볼 만합니다. 회사가 기업용 계약을 맺고 직원이 회사 계정으로만 썼더라도, 그 직원의 브라우저에 대화를 읽는 확장 프로그램이 깔려 있었다면 모든 대화가 제3자에게 넘어갔습니다. 섀도 AI의 경계는 "어떤 AI 서비스를 쓰는가"보다 넓습니다. AI와의 대화를 볼 수 있는 모든 소프트웨어가 포함됩니다.

6. 금지령의 3년: 막으면 사라질까

2023년 봄, 기업들의 첫 반응은 금지였습니다. 1월에 아마존 사내 변호사가 ChatGPT에 코드와 기밀을 넣지 말라고 경고했고, 2월에 JP모건이 사용을 제한했습니다. 5월에는 삼성전자가 회사 기기와 내부망에서 생성형 AI 사용을 금지했고, 애플도 외부 AI와 깃허브 코파일럿 사용을 제한했습니다. 뱅크오브아메리카, 씨티, 도이체방크, 골드만삭스, 웰스파고, 버라이즌이 같은 목록에 올랐습니다.

크게 보기

3년이 지난 지금 그 금지령들이 어떻게 됐는지는 삼성전자의 경로가 잘 보여 줍니다.

금지가 실패하는 이유는 단순합니다. 금지는 사용을 없애지 못하고 보이지 않게 만듭니다. 사내망에서 접속을 막으면 직원은 휴대폰을 꺼냅니다. 2025년 한 조사에서 근로자의 45%가 금지된 AI 도구를 써 봤다고 답했고, 40%는 일을 빨리 끝내기 위해서라면 정책을 알면서도 어기겠다고 했습니다. 사이버헤이븐의 2026년 보고서는 이렇게 평가합니다. 광범위한 차단은 위험을 줄이지 못하고 사용을 공식 통제 밖으로 밀어낸다.

반대 방향의 증거도 있습니다. 앞에서 본 넷스코프 통계에서 개인 앱 사용 비율은 1년 사이 78%에서 47%로 내려왔고, 사이버헤이븐 통계에서 직장 내 ChatGPT의 개인 계정 비중은 2024년 73.8%에서 2026년 32.3%로 떨어졌습니다. 회사가 길을 깔아 주면 사람들은 그 길로 옵니다. 삼성SDS 조사에서 국내 재직자의 95%가 검증된 플랫폼이 있다면 쓰겠다고 답했습니다.

다만 같은 2026년 통계에서 Claude는 58.2%, Perplexity는 60.9%가 개인 계정이었습니다. 새 도구가 나올 때마다 격차는 다시 벌어집니다. 한 번의 계약으로 끝나는 문제가 아니라는 뜻입니다.

7. 2026년의 새 그림자: 섀도 에이전트

여기까지는 사람이 AI에 무언가를 넣는 이야기였습니다. 2026년에는 그림자의 모양이 바뀌었습니다. 이제는 AI가 사람 대신 움직입니다.

크게 보기

상징적인 사건이 OpenClaw입니다. 개인 개발자가 2025년 11월 공개한 이 오픈소스 개인 에이전트는 2026년 1월 한 달 동안 이름을 세 번 바꾸는 사이 폭발적으로 퍼졌고, 3월 초 깃허브 별이 24만 개를 넘었습니다. 메신저로 말을 걸면 내 컴퓨터에서 메일을 읽고, 파일을 고치고, 명령을 실행해 주는 비서입니다. 사람들은 이것을 회사 노트북에도 설치했습니다.

문제는 곧 드러났습니다. 1월 28일 시스코 AI 보안팀이 서드파티 스킬을 통한 데이터 유출과 프롬프트 인젝션을 보고했고, 확산 일주일 사이 인증 토큰이 유출돼 에이전트가 통째로 장악될 수 있는 취약점(CVE-2026-25253, 심각도 8.8)이 공개됐습니다. 스킬 장터에는 정보 탈취 악성코드가 든 스킬이 수백 개 올라왔습니다. 2월 8일 네이버·카카오·당근이 사내 사용을 금지했습니다. DeepSeek 이후 1년 만에 나온 특정 AI 도구 금지령이었습니다.

섀도 에이전트가 섀도 AI보다 위험한 이유는 세 가지입니다.

표의 마지막 줄이 가장 중요합니다. 에이전트는 읽은 글 속의 지시를 주인의 지시와 구분하지 못합니다. 이 문제가 프롬프트 인젝션이고, 함께 낸 특집 읽는 순간 조종당한다에서 따로 다뤘습니다. 승인 없이 설치된 에이전트는 회사가 그 존재조차 모르기 때문에, 조종당해도 알아챌 사람이 없습니다.

에이전트만이 아닙니다. 코딩 어시스턴트를 쓰는 개발자는 2025년 한 해 동안 약 20%에서 49.5%로 늘었습니다(사이버헤이븐). 개발자가 에이전트에 연결하는 도구 서버(MCP 서버), 사내 시스템에 붙인 OAuth 연동, AI로 뚝딱 만든 사내 앱도 모두 같은 그림자에 속합니다. 삼성SDS 조사에서 국내 재직자의 17%가 이미 AI 에이전트를 실무에 쓰고 있었는데, 응답자의 47%는 회사에 관련 보안 가이드라인이 없다고 답했습니다.

8. 포장도로 깔기: 회사가 할 일

금지도 방치도 답이 아니라면 남는 길은 하나입니다. 지름길보다 편한 큰길을 까는 것입니다.

크게 보기

제도적 뒷받침도 이 방향으로 움직이고 있습니다. 미국 표준기술연구소의 AI 위험관리 프레임워크와 AI 경영시스템 국제표준 ISO/IEC 42001은 조직이 쓰는 AI의 목록을 갖추는 것을 출발점으로 둡니다. EU AI 법 4조는 2025년 2월부터 AI를 쓰는 조직에 직원의 AI 리터러시를 요구했습니다.

한국의 흐름도 '막기'에서 '안전하게 열기'로 옮겨 왔습니다.

• 2023년 6월, 국가정보원이 생성형 AI 활용 보안 가이드라인을 공공기관과 대학에 배포했습니다. 비공개 정보와 개인정보 입력 금지, 확장 프로그램 안전성 확인이 원칙이었습니다.
• 2024년 8월, 금융위원회가 망분리 개선 로드맵으로 금융회사의 생성형 AI 활용 길을 열었습니다.
• 2025년 8월, 개인정보보호위원회가 생성형 AI 개인정보 처리 안내서를 냈습니다.
• 2025년 9월, 국가정보원의 국가 망 보안체계(N2SF) 가이드라인이 획일적 망분리 대신 업무 PC에서 생성형 AI와 외부 클라우드를 쓸 수 있는 모델을 제시했습니다.
• 2026년 1월 22일, AI 기본법이 시행됐습니다.
• 2026년 6월, 행정안전부가 공공부문 AI 도입·활용 가이드를 냈습니다.

맺으며: 그림자는 빛이 닿지 않는 곳에 생긴다

1981년 은행 직원들이 PC를 사무용품으로 사들였을 때, 전산 부서는 그것을 규정 위반으로 봤습니다. 지금 돌아보면 그들은 회사보다 먼저 미래를 본 사람들이었습니다. 섀도 IT는 거의 언제나 조직이 아직 따라잡지 못한 수요의 다른 이름이었습니다.

섀도 AI도 같습니다. 직원들이 개인 돈을 내고, 평판이 깎일 위험을 감수하고, 때로는 규정을 어겨 가면서까지 AI를 쓴다는 것은 그만큼 일에 도움이 된다는 뜻입니다. 그 에너지를 막으려 하면 그림자가 짙어지고, 길을 깔아 주면 그림자가 옅어집니다. 3년 전 금지령을 내렸던 회사들이 지금 공식 도입을 발표하고 있는 이유입니다.

다만 이번에는 PC나 스마트폰 때보다 서둘러야 합니다. 들어가는 것이 파일이 아니라 생각이고, 2026년부터는 도구가 스스로 움직이기 시작했기 때문입니다. CISA 국장대행의 사례가 보여 주듯, 규칙을 아는 것과 급할 때 지키는 것은 다른 일입니다. 사람을 믿는 대신 안전한 길이 가장 편한 길이 되도록 만드는 것, 그것이 섀도 AI에 대한 가장 현실적인 답입니다.

그림자는 빛이 닿지 않는 곳에 생깁니다. 필요한 것은 더 높은 담이 아니라 더 많은 빛입니다.

참고 자료

조사·보고서

• Microsoft·LinkedIn, 2024 Work Trend Index: AI at work is here. Now comes the hard part (2024-05-08)
• MIT NANDA, The GenAI Divide: State of AI in Business 2025 (2025-07)
• KPMG·University of Melbourne, Trust, attitudes and use of AI: A global study 2025 (2025-04)
• Cyberhaven, Q2 2024 AI Adoption and Risk Report · 2026 AI Adoption & Risk Report (2026-02-11)
• IBM, Cost of a Data Breach Report 2025 (2025-07-30)
• Netskope, Cloud and Threat Report 2026
• Software AG, Half of all employees use Shadow AI (2024-10-22)
• Infosecurity Magazine, Gartner: 40% of firms to be hit by shadow AI security incidents (2025-11)
• HR Dive, Workers use banned AI tools at work (Anagram 조사, 2025-08)
• 삼성SDS, 국내 기업 GenAI 활용 실태 — 업무 효율 향상 이면의 Shadow AI 리스크 (2026-07-22) · 아주경제, 같은 조사 보도 (2026-08-19)

연구

• Ethan Mollick, Detecting the Secret Cyborgs (2023-06-18)
• Fabrizio Dell'Acqua et al., Navigating the Jagged Technological Frontier (BCG·Harvard, 2023-09)
• Shakked Noy & Whitney Zhang, Experimental evidence on the productivity effects of generative artificial intelligence (Science, 2023-07)
• Jessica Reif, Richard Larrick & Jack Soll, Evidence of a social evaluation penalty for using AI (PNAS, 2025-05)
• Wikipedia, Shadow IT (1981년 뱅크아메리카, 1984년 PC Magazine 인용, 가트너 예측)

사건

• TechCrunch, Trump's acting cybersecurity chief uploaded sensitive government docs to ChatGPT (2026-01-28)
• TechCrunch, Samsung bans use of generative AI tools like ChatGPT after April internal data leak (2023-05-02) · AI Incident Database, Incident 768
• 머니투데이, 삼성전자 DS부문 ChatGPT 조건부 전환 (2025-06-12) · 이코노믹리뷰, 삼성전자 DX부문 외부 AI 공식 도입 (2026-05-26)
• Gizmodo, Amazon 사내 변호사의 ChatGPT 경고 (2023-01) · Forbes, JPMorgan Chase restricts staffers' use of ChatGPT (2023-02-22) · TechCrunch, Apple reportedly limits internal use of AI-powered tools (2023-05-19)
• OpenAI, March 20 ChatGPT outage: Here's what happened (2023-03-24)
• Wiz Research, Wiz Research uncovers exposed DeepSeek database leaking sensitive information (2025-01-29)
• 한국경제, 정부 부처 DeepSeek 접속 차단 (2025-02-05) · 대한민국 정책브리핑, 개인정보위 DeepSeek 앱 국내 서비스 잠정 중단 (2025-02-17) · 비즈워치, 개인정보위 DeepSeek 실태점검 결과 (2025-04-24)
• CSO Online, Hacker allegedly puts massive OmniGPT breach data for sale (2025-02)
• Engadget, OpenAI is removing ChatGPT conversations from Google (2025-08) · Forbes, xAI published hundreds of thousands of Grok chatbot conversations (2025-08-20)
• NPR, Otter.ai transcription class action lawsuit (2025-08-15)
• The Hacker News, Featured Chrome browser extension caught intercepting millions of users' AI chats (2025-12-15)
• Wikipedia, OpenClaw · Kaspersky, OpenClaw enterprise risk management (2026-02-16) · 이코노미스트, 네이버·카카오·당근 OpenClaw 사내 금지 (2026-02-09)

제도

• NIST, AI Risk Management Framework · ISO, ISO/IEC 42001:2023 · EU AI Act Article 4 (AI literacy)
• 보안뉴스, 국정원 챗GPT 등 생성형 AI 활용 보안 가이드라인 (2023-06-29) · 금융위원회, 금융분야 망분리 개선 로드맵 (2024-08-13) · 전자신문, 국정원 N2SF 보안 가이드라인 1.0 (2025-09-30)
• 개인정보보호위원회, 생성형 AI 개발·활용을 위한 개인정보 처리 안내서 (2025-08-06) · 법률신문, AI 기본법 시행 (2026-01-22) · ZDNet Korea, 행안부 공공부문 AI 도입·활용 가이드 (2026-06-10)