[특집] 설계도를 찾는 기계 — Archon과 AFlow, LLM을 '어떻게 엮을지'를 사람 대신 탐색이 정하기 시작했을 때
2024년 가을, 3주 간격으로 두 논문이 같은 질문에 서로 다른 답을 냈다. LLM을 여러 번, 여러 개 불러 엮으면 성능이 오른다는 건 다들 안다. 그런데 무엇을 몇 번 부르고 어떤 순서로 엮을지는 누가 정하는가. 스탠퍼드의 Archon(arXiv 2409.15254, ICML 2025)은 구조를 '여섯 개의 다이얼'로 줄이고 신경망 구조 탐색에서 쓰던 베이즈 최적화로 9,576가지 조합을 뒤졌다. DeepWisdom·홍콩과기대(광저우)의 AFlow(arXiv 2410.10762, ICLR 2025 구두 발표)는 구조를 '파이썬 코드'로 두고 LLM이 한 번에 한 군데씩 고치게 하면서 그 시도들을 나무로 기억했다. 이 글은 두 논문을 부록까지 읽고, 왜 한 번만 묻지 않게 됐는지(1785년 콩도르세, 1907년 골턴의 소, 2022년 자기 일관성)에서 시작해 여섯 부품과 깔때기 구조, 9,576가지 공간과 기대 향상, 노드·오퍼레이터·엣지, 선택·확장·평가·역전파 네 단계를 차례로 푼다. 본문과 부록, 공개 코드 사이에 엇갈리는 숫자(비평가 11.5점 대 3.1점, 선택 확률의 α·λ 세 벌)도 짚었다. 그리고 2년이 지난 2026년 11월의 눈으로 다시 본다. 단순 다수결이 자동 설계를 이긴다는 반론, 같은 모델을 여러 번 부르는 편이 섞는 것보다 낫다는 Self-MoA, 모델 안으로 들어간 병렬 추론, 그럼에도 남은 것. 인터랙티브 6개, 일러스트 14장, 논문 그림 15장.