coredot.today
블로그로 돌아가기

#GEPA

2개의 포스트

[특집] 에이전트 마흔 대가 노트 한 권으로 배우는 법 — Combee와 병렬 프롬프트 학습, 그리고 '컨텍스트 과부하'
특집Combee프롬프트 학습
2026.10.20

[특집] 에이전트 마흔 대가 노트 한 권으로 배우는 법 — Combee와 병렬 프롬프트 학습, 그리고 '컨텍스트 과부하'

AI 에이전트가 가중치를 건드리지 않고 '노트'를 고쳐 쓰며 배우는 프롬프트 학습은 2025년 ACE·GEPA로 실력을 인정받았다. 그런데 에이전트 마흔 대를 동시에 돌려 그 경험을 한꺼번에 노트에 반영하려 하자 이상한 일이 벌어졌다. 회고를 많이 넣을수록 노트가 얇아지고, '셋째 자리가 5 이상이면 올린다' 같은 알짜 요령은 사라지고 '꼼꼼히 확인하라'만 남았다. 버클리·스탠퍼드 연구진이 COLM 2026에 낸 Combee는 이 '컨텍스트 과부하'를 병렬 스캔, 복제 셔플, 동적 배치 조절이라는 세 가지 분산 컴퓨팅의 지혜로 푼다. 이 글은 인컨텍스트 학습에서 ACE·GEPA까지의 계보, 과부하가 왜 생기는지, Combee의 설계를 MapReduce와 프리픽스 합의 역사와 함께 풀고, 논문의 표를 전부 다시 읽어 '최대 17배'가 무엇과 비교한 숫자인지 따진 뒤, 수천 대의 에이전트가 일하는 2026년에 이 기술이 맡을 자리를 인터랙티브 6개와 일러스트 14장으로 설명한다.

코어닷투데이120분
[특집] 점수 대신 첨삭으로 배운다 — GEPA, 프롬프트가 스스로 진화해 강화학습을 이긴 방법
특집GEPA프롬프트 최적화
2026.10.20

[특집] 점수 대신 첨삭으로 배운다 — GEPA, 프롬프트가 스스로 진화해 강화학습을 이긴 방법

강화학습은 시도 한 번에 점수 하나를 받는다. 그런데 AI가 일한 흔적은 전부 글이다 — 생각의 과정, 도구 호출, 컴파일러 오류 메시지까지. 그렇다면 점수 대신 그 글을 읽고 배우게 하면 어떨까? UC 버클리·스탠퍼드·MIT 등 17명이 쓴 GEPA(ICLR 2026 구두 발표)는 이 질문에 답한다. 실패한 기록을 언어 모델이 직접 읽고 반성해 프롬프트를 고치고, 고친 프롬프트들을 '문항별 1등'이라는 파레토 기준으로 살려 두며 진화시킨다. 그 결과 여섯 과제에서 가중치를 고치는 강화학습(GRPO, 24,000 롤아웃)보다 평균 6점, 최대 20점 높았고, 롤아웃은 최대 35배 적게 썼다. 이 글은 '생각해 보자, 차근차근'이라는 주문에서 시작한 프롬프트 최적화의 역사, 반성·진화·파레토라는 세 기둥, 논문의 표와 그림, 수학 문제에서는 강화학습에 진 이유, 그리고 에이전트가 경험을 글로 쌓아 가는 2026년에 이 아이디어가 맡는 역할을 인터랙티브 6개와 일러스트 13장으로 풀어 본다.

코어닷투데이108분