KERAIA 완전 해부 — AI가 '생각의 길'을 보여주는 시대

들어가며: AI에게 "왜?"라고 물었을 때

2026년, 우리는 AI에게 매일 중요한 결정을 맡긴다.

의료 AI가 "이 환자는 패혈증 위험이 높습니다"라고 진단하고, 자율 주행차가 "지금 차선을 변경합니다"라고 판단하고, 금융 AI가 "이 거래를 차단합니다"라고 결정한다.

그런데 "왜?"라고 물으면?

대부분의 AI 시스템은 대답하지 못한다. 딥러닝 모델은 수십억 개의 파라미터 속에서 답을 찾지만, 그 과정은 블랙박스다. 전문가 시스템은 규칙으로 설명하지만, 현실의 복잡성 앞에서 부서진다.

이 글은 2025년 5월 공개된 논문 KERAIA — Knowledge Engineering and Reference AI Architecture — 가 제시하는 해법을 다룬다. "AI가 어떻게 생각하는지 보여주는" 프레임워크의 탄생 배경부터 핵심 개념, 실전 적용까지 — 지식 표현과 추론의 60년 역사를 함께 여행하자.

제1장: 지식을 가르치는 것이 왜 이렇게 어려운가

지식 획득 병목 (Knowledge Acquisition Bottleneck)

AI에게 지식을 가르치는 과정을 지식 공학(Knowledge Engineering)이라 한다. 그리고 이 과정은 AI 역사에서 가장 고통스러운 병목이었다.

1970~80년대, 전문가 시스템(Expert System)이 AI의 황금기를 열었다. 의사의 진단 지식을 IF-THEN 규칙으로 옮기면 AI 의사가 되는 것이다. 하지만 현실은 잔인했다:

프로젝트 시간의 70~80%가 전문가의 머릿속 지식을 꺼내어 컴퓨터가 이해할 형식으로 바꾸는 데 소모되었다. 그리고 전문가 시스템 프로젝트의 60%가 실패했다 — 대부분 이 병목 때문이었다.

암묵지의 벽

문제의 핵심은 암묵지(tacit knowledge)다. 마이클 폴라니가 1966년에 말했듯이:

"We know more than we can tell." (우리는 말할 수 있는 것보다 더 많이 안다.)

노련한 의사는 환자를 보는 순간 "뭔가 이상하다"고 느낀다. 하지만 그 느낌을 IF-THEN 규칙으로 설명하라고 하면 막힌다. 수십 년의 경험에서 나오는 직관은 명시적 규칙으로 환원되지 않는다.

KERAIA의 핵심 질문이 바로 이것이다:

"구조화되지 않은, 종종 암묵적인 인간의 전문 지식을, AI 시스템이 효율적으로 활용할 수 있는 계산 가능한 알고리즘으로 어떻게 변환할 수 있는가?"

제2장: 지식 표현의 60년 — 논리에서 구름까지

1956~1970년대: 논리와 규칙의 시대

AI의 아버지들 — 맥카시, 민스키, 사이먼 — 은 "지식을 어떻게 표현할 것인가"라는 근본적 질문에서 출발했다.

민스키의 프레임: KERAIA의 할아버지

1974년, MIT의 마빈 민스키(Marvin Minsky)가 논문 "A Framework for Representing Knowledge"를 발표했다. 이것은 지식 표현의 역사를 바꾼 논문이다.

민스키의 핵심 아이디어: 인간은 새로운 상황을 만나면, 기억 속에서 가장 유사한 "프레임"을 꺼내 적용한다. 생일 파티에 가면 "생일 파티 프레임"이 활성화되어, 케이크, 노래, 선물이라는 슬롯(slot)이 기대값으로 채워진다.

KERAIA의 Knowledge Source(KS)는 민스키 프레임의 직계 후손이다. 하지만 단순한 데이터 구조를 넘어, 추론 메서드(responder), 이벤트 트리거(attractor), 상태 변경 알림(pulse)까지 내장한다.

기존 패러다임의 5가지 한계

KERAIA 논문이 지적하는, 기존 지식 표현 방법들의 공통된 한계:

KERAIA는 이 다섯 가지 한계를 동시에 해결하겠다는 야심 찬 목표를 가지고 설계되었다.

제3장: KERAIA의 핵심 개념 — "지식의 구름"과 "사고의 경로"

전체 아키텍처

KERAIA는 크게 5가지 핵심 개념으로 구성된다:

개념 1: Clouds of Knowledge — 지식의 구름

"구름(Cloud)"은 특정 도메인, 시나리오, 관점, 또는 가상 상태를 나타내는 동적이고 맥락 기반의 지식 집합이다.

비유하자면, 당신의 뇌에서 "요리"에 대해 생각할 때 활성화되는 신경 영역과, "운전"에 대해 생각할 때 활성화되는 영역이 다른 것처럼 — 구름은 맥락에 따라 활성화되는 지식의 범위를 정의한다.

핵심 특성: 구름은 재귀적으로 중첩될 수 있다. 큰 구름 안에 작은 구름이 있고, 그 안에 더 작은 구름이 있을 수 있다 — 마치 러시아 인형(마트료시카)처럼.

개념 2: Knowledge Sources (KS) — 지식의 원자

Knowledge Source(KS)는 KERAIA의 원자적 빌딩 블록이다. 민스키의 프레임을 대폭 강화한 것으로, 단순한 데이터 저장을 넘어 능동적인 지식 단위다.

개념 3: Dynamic Relations (DRels) — 살아있는 관계

전통적인 온톨로지에서 "is-a" 관계(예: "개는 동물이다")는 항상 참이다. 하지만 현실에서 관계는 맥락에 따라 변한다.

KERAIA의 Dynamic Relations(DRels)은 조건부로 평가되는 관계다:

개념 4: Lines of Thought (LoTs) — AI의 "사고 과정 공개"

Lines of Thought(LoTs)는 KERAIA의 가장 혁신적인 기여이자, 설명 가능한 AI(XAI)를 실현하는 핵심 메커니즘이다.

LoT는 여러 KS를 연결하는 명시적 추론 경로다. 의사가 진단할 때 "먼저 증상을 확인하고, 혈액 검사를 보고, 영상을 확인하고, 최종 진단을 내린다"는 순서가 있는 것처럼 — LoT는 AI의 사고 순서를 명확하게 기록한다.

LoT가 제공하는 설명 가능성:

• 어떤 KS가 관여했는가 — 활성화된 지식 소스 목록
• 어떤 순서로 활성화되었는가 — 추론의 시간적 흐름
• 어떤 추론 로직이 실행되었는가 — 각 단계의 계산 내용
• 어떤 대안이 고려되었는가 — Fork에서의 분기 기록
• 왜 이 결론에 도달했는가 — 각 KS의 "explains" 속성

개념 5: Cloud Elaboration — 지식의 변환과 진화

Cloud Elaboration은 기본 지식을 맥락에 맞게 변환하고 확장하는 메커니즘이다.

해군 시나리오에서의 예시: 레이더가 물체를 탐지하면, 기본 데이터(위치, 크기, 속도)만 있다. Cloud Elaboration이 이를 점진적으로 확장한다:

각 단계가 이전 단계의 출력을 입력으로 받아 점진적으로 지식을 풍부하게 만든다. 이것은 마치 형사가 증거를 하나씩 모아 사건의 전체 그림을 완성하는 것과 같다.

제4장: GPPB — 모든 추론을 하나로

다중 추론 패러다임의 통합

KERAIA의 General Purpose Paradigm Builder(GPPB)는 다양한 추론 방법을 하나의 프레임워크에서 사용할 수 있게 해준다.

기존 시스템들은 보통 한 가지 추론 방법에 특화되어 있다. 규칙 기반 시스템은 규칙만, 사례 기반 추론은 사례만. KERAIA는 GPPB를 통해 같은 프레임워크 안에서 상황에 맞는 추론 방법을 골라 쓸 수 있다.

제5장: 기존 패러다임과의 비교 — 코드로 말한다

해군 시나리오 구현량 비교

KERAIA 논문은 정직하게 기존 패러다임들과의 코드량 비교를 제시한다:

같은 시나리오를 구현하는 데 KERAIA는 27 NLOC이면 되지만, 지식 그래프로 구현하면 100 NLOC이 필요하다. 3.7배의 차이다.

각 패러다임의 강점과 약점

제6장: 실전 사례 — 해군, 정수 공장, 보드게임

KERAIA는 세 가지 매우 다른 도메인에서 검증되었다.

사례 1: 해군 작전 시뮬레이션

다중 에이전트 해군 기동부대가 위협을 탐지하고, 적을 분류하고, 의도를 평가하고, 교전 규칙에 따라 대응을 결정하는 시나리오.

사례 2: 정수 처리 공장 진단

실시간 센서 데이터를 모니터링하고, 이상을 탐지하고, 고장을 진단하고, 결과를 예측하고, 교정 조치를 권고하는 산업 진단 시스템.

사례 3: RISK 보드게임 전략

전략 보드게임 RISK의 AI 플레이어. 자원 할당, 영토 제어, 상대방 모델링, 장기 전략을 요구하는 복잡한 의사결정 환경.

• 게임 보드를 하이퍼그래프로 표현 (대륙/영토가 노드)
• 전략적 자세(posture)를 구름으로 표현 (공격적 확장, 대륙 방어 등)
• 외부 게임 시뮬레이터와 Kafka 메시지 브로커로 통신
• 결과: KERAIA 기반 AI가 기본 봇들을 일관되게 능가

제7장: 설명 가능성 — KERAIA의 진짜 무기

"왜?"에 대답하는 6가지 메커니즘

KERAIA가 다른 프레임워크와 차별화되는 가장 큰 점은 설명 가능성(XAI)이 설계의 핵심에 내장되어 있다는 것이다.

제8장: 2026년, KERAIA가 중요한 이유

뉴로-심볼릭 AI의 부상

2026년은 뉴로-심볼릭 AI(Neuro-Symbolic AI)가 주류로 떠오르는 해다. LLM의 환각(hallucination) 문제가 심각해지면서, 기업들은 "알고 있는 것"을 명시적으로 관리하는 기호적 AI와 "패턴을 발견하는" 신경망을 결합하는 방향으로 움직이고 있다.

Amazon은 2025년부터 창고 로봇(Vulcan)과 쇼핑 어시스턴트(Rufus)에 뉴로-심볼릭 접근을 적용하기 시작했다. 모델 재학습 비용을 줄이면서 조직 지식을 구조적으로 재활용하려는 것이다.

KERAIA는 이 흐름의 기호적 AI 쪽을 대표하는 최신 프레임워크다.

EU AI Act와 설명 가능성

2025년 8월부터 전면 시행된 EU AI Act는 고위험 AI 시스템에 대해 설명 가능성을 법적으로 요구한다. 의료, 금융, 법률, 공공 부문에서 AI가 내린 결정에 대해 "왜"를 설명해야 한다.

KERAIA의 Lines of Thought는 이 법적 요구에 대한 기술적 해답이 될 수 있다:

제9장: 한계와 미래

현재 한계

미래 방향

1. 대규모 정량적 벤치마크: 현재는 질적 비교가 주력. 형식적 성능 측정이 필요
2. LoT 고급 시각화: 복잡한 사고 경로를 직관적으로 보여주는 도구 개발
3. 딥러닝 하이브리드: 신경망의 패턴 인식과 KERAIA의 구조적 추론을 결합
4. 분산 지식 공학: 여러 전문가가 협업하여 지식 베이스를 구축하는 도구 강화
5. MKEVI 벤치마크 완성: 9차원 평가 체계(추론 깊이, 지식 폭, 적응성, 설명력 등)의 정량적 구현

마치며: AI에게 "생각의 길"이 필요한 이유

AI의 역사는 "지식을 어떻게 표현할 것인가"라는 질문의 역사다.

1974년, 민스키는 프레임으로 구조화된 지식을 제안했다. 1980년대, 전문가 시스템은 규칙으로 전문 지식을 포착했다. 2012년, 구글은 지식 그래프로 세상의 엔티티를 연결했다. 그리고 2025년, KERAIA는 살아있는 지식 구름과 추적 가능한 사고의 경로를 제안한다.

KERAIA가 완벽한 해답인지는 아직 알 수 없다. 대규모 벤치마크가 부족하고, 딥러닝과의 통합도 과제로 남아 있다. 하지만 이 프레임워크가 던지는 질문은 분명히 옳다:

"AI가 무엇을 결정했는가"보다 "AI가 왜, 어떤 과정으로 그 결정에 도달했는가"가 더 중요하다.

의사가 진단서만 내밀고 설명을 거부한다면, 우리는 그 의사를 신뢰할 수 있을까? AI도 마찬가지다. 2026년, EU AI Act가 시행되고, AI 시스템의 투명성이 법적 의무가 된 지금 — "생각의 길"을 보여주는 AI는 선택이 아니라 필수다.

KERAIA는 그 길을 만드는 하나의 방법이다.