#GEPA

4개의 포스트

2026.11.15

[특집] 스스로 채점하는 기계 — MASS와 GEPA, 자기 개선 고리에서 '좋아졌다'는 말을 어디까지 믿을 것인가

2026년 10월 8일, 같은 날 arXiv에 올라온 두 논문이 같은 고리를 서로 다른 쪽에서 돌렸다. 버클리·사카나 AI의 MASS(arXiv 2610.12176)는 모델이 자기 복사본으로 팀을 꾸려 일하고, 스스로 채점하고, 잘된 기록으로 자기 가중치를 다시 학습하는 고리를 두 바퀴 돌려 연구형 벤치마크 넷에서 출력 토큰당 점수를 1.2~1.6배로 올렸다. 딥리서치 에이전트의 프롬프트를 GEPA로 고친 논문(arXiv 2610.12601)은 처음 보는 주제 500문항에서 인용 보상을 0.702에서 0.781로 올렸지만, 이긴 프롬프트의 절반이 외운 답안지였고 그 답안지는 점수를 한 푼도 벌지 못했다는 것을 함께 보였다. 이 글은 두 논문을 부록까지 읽고, 1965년 굿의 '지능 폭발'에서 알파고 제로와 다윈 괴델 머신까지 자기 개선의 계보를 따라간 뒤, 워크플로의 네 부품(역할·지시·계약·홉), 두 겹의 고리, 완주율이 올린 점수, 2.6배 부풀림을 만든 승자의 저주, 숫자 하나짜리 채점이 전이를 음수로 만든 실험을 위젯 7개와 삽화로 풀어 설명한다.

코어닷투데이116분

[특집] 하네스도 분업을 배운다 — Adaptive-GEPA, 요청을 나누는 법과 푸는 법을 한 번의 탐색으로 함께 진화시키기

특집Adaptive-GEPAGEPA

2026.11.14

[특집] 하네스도 분업을 배운다 — Adaptive-GEPA, 요청을 나누는 법과 푸는 법을 한 번의 탐색으로 함께 진화시키기

하나의 AI 창구에는 성격이 다른 요청이 섞여 들어온다. 사실을 찾아야 하는 질문, 오래 생각해야 하는 수학 문제, 개인정보를 가려야 하는 부탁, 조건을 지켜 글을 고치는 일. 2026년 9월 30일 공개된 Adaptive-GEPA(arXiv 2609.38762)는 이 창구를 최적화하는 세 번째 길을 제안한다. 프로그램 하나를 통째로 다듬지도, 과제별로 미리 나눠 따로 다듬지도 않고, 요청을 나누는 라우터와 전문가 프로그램 묶음을 한 번의 탐색에서 함께 진화시킨다. 라우터의 지시문, 전문가마다 붙는 한 줄 설명, 프로그램 코드가 모두 사람이 읽는 글이고 실패 기록을 읽은 반성 모델이 그중 하나를 골라 고친다. 서로 다른 갈래를 합칠 때는 슬롯 번호가 아니라 ‘실제로 처리한 요청’의 겹침으로 전문가를 짝짓는다. Qwen3-8B 실험에서 네 과제 평균은 52.6에서 70.6으로 올랐고(프로그램 하나 진화 62.5, GRPO 54.0), 과제 이름을 한 번도 받지 않은 라우터가 시험 요청 651건을 과제 구분과 똑같이 나눴다. 이 글은 논문을 부록까지 읽고, 1991년 전문가 혼합에서 2025년 GEPA까지의 계보, 후보 하나의 구조, 다섯 가지 편집, 발자국 정렬 병합, 결과 표와 탐색 기록을 차례로 푼다. 시드 하나, 같은 프로그램을 다시 채점해도 2점씩 흔들리는 검증 점수, 세지 않은 계산량 같은 한계도 숫자로 짚었다. 한국어 요청 64건으로 논문의 ‘설명·라우터 편집’ 현상을 로컬 모델에서 다시 확인한 실측을 덧붙였다. 인터랙티브 6개, 일러스트 14장, 논문 그림 9장.

코어닷투데이121분

[특집] 에이전트 마흔 대가 노트 한 권으로 배우는 법 — Combee와 병렬 프롬프트 학습, 그리고 '컨텍스트 과부하'

특집Combee프롬프트 학습

2026.10.20

[특집] 에이전트 마흔 대가 노트 한 권으로 배우는 법 — Combee와 병렬 프롬프트 학습, 그리고 '컨텍스트 과부하'

AI 에이전트가 가중치를 건드리지 않고 '노트'를 고쳐 쓰며 배우는 프롬프트 학습은 2025년 ACE·GEPA로 실력을 인정받았다. 그런데 에이전트 마흔 대를 동시에 돌려 그 경험을 한꺼번에 노트에 반영하려 하자 이상한 일이 벌어졌다. 회고를 많이 넣을수록 노트가 얇아지고, '셋째 자리가 5 이상이면 올린다' 같은 알짜 요령은 사라지고 '꼼꼼히 확인하라'만 남았다. 버클리·스탠퍼드 연구진이 COLM 2026에 낸 Combee는 이 '컨텍스트 과부하'를 병렬 스캔, 복제 셔플, 동적 배치 조절이라는 세 가지 분산 컴퓨팅의 지혜로 푼다. 이 글은 인컨텍스트 학습에서 ACE·GEPA까지의 계보, 과부하가 왜 생기는지, Combee의 설계를 MapReduce와 프리픽스 합의 역사와 함께 풀고, 논문의 표를 전부 다시 읽어 '최대 17배'가 무엇과 비교한 숫자인지 따진 뒤, 수천 대의 에이전트가 일하는 2026년에 이 기술이 맡을 자리를 인터랙티브 6개와 일러스트 14장으로 설명한다.

코어닷투데이120분

[특집] 점수 대신 첨삭으로 배운다 — GEPA, 프롬프트가 스스로 진화해 강화학습을 이긴 방법

특집GEPA프롬프트 최적화

2026.10.20

[특집] 점수 대신 첨삭으로 배운다 — GEPA, 프롬프트가 스스로 진화해 강화학습을 이긴 방법

강화학습은 시도 한 번에 점수 하나를 받는다. 그런데 AI가 일한 흔적은 전부 글이다 — 생각의 과정, 도구 호출, 컴파일러 오류 메시지까지. 그렇다면 점수 대신 그 글을 읽고 배우게 하면 어떨까? UC 버클리·스탠퍼드·MIT 등 17명이 쓴 GEPA(ICLR 2026 구두 발표)는 이 질문에 답한다. 실패한 기록을 언어 모델이 직접 읽고 반성해 프롬프트를 고치고, 고친 프롬프트들을 '문항별 1등'이라는 파레토 기준으로 살려 두며 진화시킨다. 그 결과 여섯 과제에서 가중치를 고치는 강화학습(GRPO, 24,000 롤아웃)보다 평균 6점, 최대 20점 높았고, 롤아웃은 최대 35배 적게 썼다. 이 글은 '생각해 보자, 차근차근'이라는 주문에서 시작한 프롬프트 최적화의 역사, 반성·진화·파레토라는 세 기둥, 논문의 표와 그림, 수학 문제에서는 강화학습에 진 이유, 그리고 에이전트가 경험을 글로 쌓아 가는 2026년에 이 아이디어가 맡는 역할을 인터랙티브 6개와 일러스트 13장으로 풀어 본다.

코어닷투데이108분