AI가 실험실에 들어왔다 — 구글 Co-Scientist가 진짜 물질을 만들어낸 과정

들어가며 — 2026년 8월, 논문 한 편이 던진 질문

크게 보기

2026년 8월 27일, 구글 딥마인드와 듀크·컬럼비아·텍사스 A&M 대학 연구진이 arXiv에 83쪽짜리 논문을 올렸다. 제목은 「Accelerating Scientific Research with Gemini in the Real-World」. 번역하면 "현실 세계에서 제미나이로 과학 연구를 가속하기"다.

제목만 보면 흔한 홍보 문구 같다. 그런데 초록의 첫 문장이 이상하다.

"우리는 Co-Scientist를 실행에 근거한(execution-grounded) 연구 파트너로 전환했다."

'실행에 근거한'이라는 표현이 왜 붙었을까. 뒤집어 말하면, 그전까지의 AI 과학자들은 실행에 근거하지 않았다는 뜻이다. 무슨 소린가 하면 — 아이디어는 냈지만 실제로 해보진 않았다는 것이다. 더 나쁘게는, 해봤다고 거짓말을 했다는 것이다.

이 글은 그 문제가 어디서 왔고, 이번 논문이 무엇을 어떻게 증명했으며, 2026년 지금 이 기술이 어떤 자리에 서 있는지를 따라간다. 화학 증착로에서 실제로 만들어진 신물질, 배양 접시 위 대장균 군집의 모양, 그리고 의사 3명이 블라인드로 채점한 의료 응답까지 — 논문의 원본 설계도와 실험 데이터를 그대로 가져와 살펴본다.

제1장: 왜 'AI 과학자'는 거짓말을 하게 되었나

1.1 자동화의 오래된 꿈

기계가 과학을 한다는 발상은 새롭지 않다. 계보를 훑어보면 놀랄 만큼 길다.

2025년 무렵 흐름은 두 갈래로 갈라져 있었다. 논문은 이 두 갈래를 각각 이렇게 정리한다.

가운데가 비어 있었다. 물질 합성부터 웻랩 실험, 순수 계산 환경까지 아우르면서도 실험적 검증 가능성을 유지하는 범용 프레임워크 — 이것이 없었다.

1.2 보상 해킹: AI가 결과를 지어내는 메커니즘

크게 보기

여기서 이 논문의 출발점이 되는 문제를 정확히 이해하고 넘어가자. 왜 AI 연구 시스템은 결과를 조작하는가?

짧은 질의응답에서의 환각은 원인이 비교적 단순하다. 모델이 학습한 지식이 부정확하거나 불완전해서 잘못된 사실을 말한다. 그래서 검색 증강(RAG)이나 제약된 디코딩으로 상당 부분 잡을 수 있다.

자율 연구 시스템의 환각은 종류가 다르다. 논문의 표현을 그대로 옮기면:

"자율 연구 시스템에서 환각은 보상 해킹에서 발생한다. 실험에 실패한 에이전트가 점수를 최대화하기 위해 긍정적 결과를 날조하도록 유인되는 것이다."

구조를 뜯어보면 이렇다.

이건 모델이 '나쁘다'는 얘기가 아니다. 목적 함수를 잘못 설계하면 똑똑한 최적화기는 반드시 그 허점을 찾아낸다는, 강화학습이 오래전부터 알던 교훈이 연구 자동화에서 재현된 것이다. 굿하트의 법칙 — "측정값이 목표가 되는 순간, 그것은 좋은 측정값이기를 그친다."

💡 이 논문이 왜 중요한가 AI가 과학을 할 수 있느냐를 묻는 논문이 아니다. AI가 과학을 하는 척하지 않게 만들 수 있느냐를 묻고, 숫자로 답한 논문이다.

제2장: Co-Scientist의 설계도 — 세 단계 파이프라인

2.1 전체 아키텍처

논문의 Figure 1이 전체 그림을 한 장에 담고 있다. 왼쪽이 시스템 구조, 오른쪽 세 칸이 각각의 실전 사례, 맨 아래 띠가 자율성 스펙트럼이다.

크게 보기 ▲ 논문 Figure 1. a–c가 시스템의 3단계(발상 → 실험 → 논문 작성), d–f가 재료과학·생물학·컴퓨터과학 세 도메인의 적용, g가 인간 주도에서 완전 자율까지의 스펙트럼. (출처: Schmidgall et al., arXiv:2608.26701)

핵심은 세 단계 파이프라인이다.

그리고 각 단계가 실제로 어떻게 도는지는 부록의 Figure A1이 훨씬 자세하다. 이 그림 한 장이 논문 전체의 뼈대다.

크게 보기 ▲ 논문 Figure A1. 발상 단계의 5개 에이전트(생성·윤리 검토·성찰·순위·진화), 실험 단계의 3단계 스캐폴딩, 논문 작성 단계의 환각 클리핑·표절 검사. (출처: 같은 논문)

2.2 1단계: 가설의 토너먼트

크게 보기

첫 단계에서 놀라운 건, 가설 생성을 진화 알고리즘으로 돌린다는 점이다. 하나씩 뜯어보자.

① 다양성부터 확보한다. 후보 가설 집단을 만들 때 샘플링 온도를 τ = 1.6이라는 상당히 높은 값으로 설정한다. 그리고 프롬프트에 "단순하게 만들라"는 지시를 명시적으로 넣는다. 이유가 재밌다 — 논문에 따르면 "언어 모델이 불필요하게 복잡한 아이디어를 만드는 경향을 상쇄하기 위해서"다. LLM은 방치하면 화려하고 복잡한 걸 만든다. 실험은 단순해야 돌아간다.

② 5개 에이전트가 릴레이한다.

③ 순위는 체스 레이팅처럼 매긴다. 여기가 특히 영리하다. 가설의 점수를 단일 숫자로 두지 않고, TrueSkill 알고리즘(마이크로소프트가 Xbox 매치메이킹용으로 만든 베이지안 스킬 레이팅)으로 가우시안 분포 $\mathcal{N}(\mu, \sigma^2)$ 형태로 유지한다. 가설끼리 짝지어 대결시키고, 승패로 분포를 갱신한다.

그리고 다음 세대의 부모를 고를 때는 UCB(Upper Confidence Bound) 를 쓴다.

$\mu$는 지금까지 평가된 실력, $\sigma$는 그 실력에 대한 불확실성이다. 이 식의 의미는 "아직 잘 모르는 신참에게 기회를 준다" 는 것이다. 새로 태어난 가설은 $\sigma$가 최대치라 UCB가 높게 잡히고, 그래서 점수가 수렴하기 전에 우선 평가받는다. 유망해 보이는 기존 아이디어만 계속 파고드는 국소 최적(local optimum) 함정을 피하는 장치다.

④ 표절에는 페널티를 매긴다. 적합도 계산에 표절 페널티를 넣어, 기존 문헌을 용어만 바꿔 재포장하는 방향으로 진화가 흐르지 않게 막는다.

이렇게 기본 10세대를 돌린 뒤 최고 점수 가설이 실험 단계로 넘어간다.

2.3 2단계: 실험 — 작게 시작해서 크게 키운다

코드를 짜서 실험하는 단계인데, 여기에도 함정이 있다. 대형 데이터셋으로 처음부터 돌리면 사소한 버그 하나에 GPU 시간이 통째로 날아간다. 그래서 3단계 프로토콜을 쓴다.

각 단계에서 여러 솔버가 병렬로 프로그램 변형을 만들어 격리된 환경에서 실행한다. 성공한 프로그램은 LLM 보상 모델이 계획 준수도·실험적 엄밀성·출력 품질로 채점하고($s \in [0,1]$), 실패한 프로그램은 구조화된 에러 피드백을 받아 성찰 기반 교정을 거친다.

정체를 막는 장치도 있다. 세대마다 최고 프로그램 버퍼에 감쇠 계수 γ = 0.97을 곱한다. 가만히 있으면 점수가 조금씩 깎이니, 계속 개선하라는 압력이 걸린다.

그리고 이전 시스템들의 고질병 하나를 여기서 고쳤다. 기존 아키텍처는 에이전트가 코드를 국소적으로 고치면서 전체 연구 계획은 갱신하지 않아서, 최종 논문이 "실제로 실행된 것"이 아니라 "원래 하려던 것"을 서술하는 괴리가 생겼다. Co-Scientist는 매 실험 단계마다 실행 로그와 런타임 트레이스를 검사해 계획 자체를 수정한다.

2.4 3단계: 논문 작성 — 그리고 환각 클리핑

이 논문의 진짜 기여가 여기 있다. 목적 함수를 다시 쓴 것이다.

기존:

Co-Scientist:

여기서 $E$는 실험 소스코드, $E_{log}$는 실행 로그다. 계수는 $\lambda_{review} = 1.0$, $\lambda_{plag} = 0.5$, $\lambda_{hall} = 1.0$.

계수 설정에 논리가 있다. 모든 점수가 [0, 1] 구간으로 정규화돼 있고, 리뷰어 점수를 조작해서 얻을 수 있는 이득은 최대 $\Delta S_{reviewer} \le 0.3$ 정도다. 그런데 환각 페널티 계수를 1.0으로 두면, 검증되지 않은 주장 하나가 최대 1점 만점을 통째로 깎는다. 즉 거짓말의 기댓값이 항상 음수가 되도록 산수를 맞춰 놓은 것이다. 표절 페널티를 0.5로 낮게 잡은 건, 기존 문헌을 정상적으로 논의하는 것까지 막지 않기 위해서다.

여기에 하드 검증 장치 하나가 더 붙는다. 논문은 이를 환각 클리핑(hallucination clipping) 이라 부른다.

⑤번이 핵심이다. 데이터가 없으면 논문도 없다. 이 한 줄이 "실험은 실패했지만 논문은 나왔다"는 시나리오를 원천 봉쇄한다.

부수적으로 재밌는 장치도 있다. 완성된 LaTeX를 PDF로 컴파일한 뒤 렌더링된 페이지를 이미지로 Gemini에 다시 먹여서 레이아웃이 깨졌는지, 표가 어긋났는지, 그림이 잘렸는지를 시각적으로 평가하게 한다. 그림 생성도 마찬가지로 "코드 생성 → 실행 → 이미지를 비평가 모델에 제출 → 피드백으로 재생성"의 루프를 돈다.

제3장: 실전 ① 재료과학 — AI가 설계하고 인간이 구운 새 결정

3.1 문제: 독성 없이 MXene을 만들 수 있을까

이제 실제 사례다. 첫 번째 무대는 화학 증착로(CVD, Chemical Vapor Deposition)다.

MXene은 2D 전이금속 탄화물·질화물 계열의 신소재다. 금속에 준하는 전기 전도성과 조절 가능한 표면 화학 덕분에 차세대 전자소자·에너지 저장의 유망주로 꼽힌다. 그중 Ti₃C₂Tₓ가 가장 많이 연구된 조성이다.

그런데 만드는 방법에 문제가 있었다.

선행 연구는 TiCl₄를 전구체 후보로 지목했지만, 이 물질은 독성이 강하고 공기에 민감해서 안전하게 다루기 어렵다. 그래서 연구진은 Co-Scientist에게 이렇게 물었다.

"Ti₃C₂Tₓ MXene 합성을 위한 TiCl₄의 무해한 대안을 찾아라."

조건도 함께 줬다. 우리 실험실은 직접 만든 1인치 석영관 반응기를 쓰고, 고체 전구체만 다룰 수 있다.

3.2 답: 헥사클로로에탄(C₂Cl₆)

Co-Scientist는 C₂Cl₆(헥사클로로에탄) 을 지목했다. 흥미롭게도 이 선택은 선행 연구의 밀도범함수이론(DFT) 계산이 예측한 유리한 깁스 자유에너지와 맞아떨어진다. 시스템은 여기서 멈추지 않고 노(furnace) 안 전구체 배치까지 최적화해 제안했고, 전구체 종류·양·위치·가스 유량·기판·온도 프로파일이 포함된 순위가 매겨진 272개 후보 레시피를 내놨다.

인간 연구자들은 그중 2위 레시피(C₂Cl₆ + Ti) 를 골라 25회의 반복을 거치며 다듬었다. 개선 포인트는 두 가지 — 전구체를 섞어 담고(co-mixing), 형성 가스를 연속 공급한 것.

크게 보기 ▲ 논문 Figure 2. a는 발견 워크플로, b는 실제 CVD 시스템 구성과 모델이 세운 반응 메커니즘 가설, c는 XRD 패턴, d는 SEM·EDS 원소 매핑, e·f는 원자 격자를 분해한 STEM 이미지. (출처: 같은 논문)

최종 레시피의 물리적 조건은 이렇다. C₂Cl₆(500 mg)와 Ti 분말(100 mg)을 알루미나 보트에 섞어 석영관 가열 구역 중앙에 놓고, Ti 호일(5 cm × 1.5 cm)을 하류의 950°C → 300°C 열 구배를 가로지르도록 배치한다. Ar 200 sccm으로 공기를 몰아낸 뒤 950°C까지 올리고, Ar과 형성 가스(H₂ 5% + N₂ 95%)를 연속 흘린다.

모델이 예측한 대로, C₂Cl₆·Ti·H₂의 조합은 TiCl₄를 쓰지 않고도 Ti 호일 기판의 탄화를 효과적으로 일으켰다.

3.3 증거: 무엇이 만들어졌나

결과물이 정말 목표한 물질인지 확인하는 과정이 이 섹션에서 가장 볼 만하다.

교차 검증도 꼼꼼하다. PHI(폴리헵타진 이미드)라는 물질이 8° 근처에 반사를 내서 Ti₃C₂Tₓ의 (002) 피크와 겹칠 수 있는데, 연구진은 PHI 특유의 27.8° 적층 반사가 없다는 것과 EDS 스펙트럼에 질소 신호가 없다는 것을 확인해 질소 함유 이차상 가능성을 배제했다.

3.4 그리고 실패 — 성공률 11.5%에서 68%까지

이 논문이 신뢰를 얻는 지점은 오히려 여기다. 실패를 그대로 적어 놓았다.

첫 관측 이후 재현 실험을 돌렸더니 성공률이 26회 중 3회, 11.5% 였다. XRD 스펙트럼엔 TiO₂ 부산물이 잔뜩 잡혔다. 원인 추적 결과 — 밀봉 불량으로 산소가 새어 들어온 것이었다. Ti₃C₂Tₓ는 상온에서도 빠르게 산화되는 물질이라 치명적이었다.

논문은 남은 한계도 명시한다. 수율이 여전히 낮고, TEM-EDS에서 산소·질소가 검출됐으며, 라만 분광에서 TiO₂ 진동 모드가, XPS에서는 Ti–O 결합만 관측됐다. 즉 상당한 산화가 일어났다는 뜻이다. 그래서 결론 문장이 이렇다.

"원자 수준의 상(phase) 확정에는 단면 원자 분해능 STEM 이미징이 필수적이다. 얻어진 2D 층이 Ti₃C₂Tₓ인지 Ti₂CCl₂인지 다른 상인지 확정하려면 추가 실험이 필요하다."

AI가 만든 결과를 발표하면서 "아직 확정 못 했다"고 쓰는 것 — 이게 이 논문의 태도다.

3.5 "원 테이크" 합성: 속도와 품질의 맞교환

두 번째 재료과학 실험은 성격이 다르다. 목표는 MoS₂·MoSe₂·WS₂ 같은 전이금속 디칼코게나이드(TMD) 단층 합성. 이건 이미 확립된 레시피가 있는 물질이지만, 문제는 레시피가 실험실을 옮기면 잘 안 된다는 것이다. 노의 기하 구조, 가스 흐름, 전구체 순도, 기판 준비가 조금만 달라도 결과가 달라진다. 보통 새 장비에 맞추려면 수개월의 시행착오가 필요하다.

연구진은 두 가지 계산 방식을 비교했다.

크게 보기 ▲ 논문 Figure 3. a는 실험실 제약을 입력받아 기계 실행 가능 프로토콜을 생성하는 워크플로(뚜껑·유량·온도 제어 장치의 실물 사진 포함), b·c는 MoS₂의 세 가지 형태와 단층을 확인하는 라만 스펙트럼, d는 두 계산 모드의 결과 비교. (출처: 같은 논문)

모드 A의 성과를 구체적으로 보면 감이 온다. 시스템은 하드웨어 제약만 받고 선행 프로토콜이나 최적화 이력 없이 다음을 지정했다 — MoO₃ 5.0 mg, 황 500 mg, 성장 촉진제 NaCl 1.5 mg, 전구체–기판 거리 215 mm, 성장 시간 15분.

첫 시도에서 광학 현미경에 50 μm 넘는 규칙적 삼각형 도메인이 나왔고, 라만 분광에서 E¹₂g(383 cm⁻¹)와 A₁g(404 cm⁻¹) 모드의 간격이 ~21 cm⁻¹ — 단층 MoS₂의 특징과 일치했다. 삼각형이라는 형태 자체가 황 종단 지그재그 가장자리를 가진 단결정 성장의 표지다.

더 인상적인 건 MoSe₂와 WS₂다. 이 실험실은 두 물질에 대한 합성 경험이 전혀 없었다. 텅스텐 전구체는 증발 온도가 더 높고 셀레늄은 황보다 반응성이 낮아 화학적 환경이 달라야 한다. Co-Scientist는 성장 속도론에 대한 이해를 새 화학계로 옮겨, 첫 성장 시도에서 고품질 단층 MoSe₂와 WS₂를 만들어냈다(최소 5회 반복 검증).

제4장: 실전 ② 생물학 — 배양 접시 위 꽃 모양을 예측하다

4.1 문제: 실험 조합 폭발

두 번째 무대는 웻랩이다. 대상은 군집 운동(swarming motility) — 세균이 집단으로 움직이며 만드는 센티미터 스케일의 거시적 군집 형태다. 이 형태는 유전자 발현과 환경 조건 양쪽에 좌우되므로, 합성 유전 회로가 제대로 작동하는지 눈으로 읽어내는 지표가 된다.

실험 설계는 이렇다. 초운동성 대장균 K-12 MG1655에 군집 관련 조절 인자(rpoS)를 pLac 프로모터 아래 넣는다. 그러면 유도물질 IPTG 농도에 따라 군집 형태가 달라진다. IPTG를 많이 넣을수록 rpoS가 많이 발현되고, 군집은 작고 촘촘해진다.

문제는 조합 폭발이다. 합성생물학의 설계-제작-시험-학습(DBTL) 사이클에서 시험 단계는 언제나 병목이다. 농도 하나마다 배양하고, 24시간 기다리고, 고해상도로 스캔하고, 형태를 측정해야 한다. 유전 회로를 조금만 바꿔도 전부 다시 해야 한다.

그래서 던진 질문 — "희소한 실험 이미지로부터, 아직 해보지 않은 농도에서의 군집 모양을 예측할 수 있을까?"

4.2 Co-Scientist가 스스로 만든 파이프라인

여기서 인간과 AI의 역할 분담이 재료과학과 다르다. 인간 전문가는 무엇을 조사할지(과제 프레이밍)를 라운드마다 다듬었고, 어떻게 조사할지(파이프라인 구조)는 전적으로 시스템이 결정했다.

크게 보기 ▲ 논문 Figure 4. a는 군집 분석 및 이미징 워크플로(한천 배지 준비 → 중앙 접종 → 37°C 24시간 배양 → 플랫베드 스캐너 촬영), b는 IPTG가 pLac 프로모터를 통해 군집 조절 인자 발현을 조절하는 구조와 Co-Scientist가 생성한 예측 파이프라인. (출처: 같은 논문)

시스템이 만든 구조는 두 개의 아이디어로 요약된다.

4.3 결과: 4개 지표 중 3개 일치

크게 보기 ▲ 논문 Figure 5. 위쪽 줄이 실제 배양 결과, 아래쪽 줄이 Co-Scientist 예측. 왼쪽 pLac-rpoS는 IPTG 농도가 올라가면서 군집이 작아지고 방사형 가지가 촘촘해지는 반응을 보이고, 오른쪽 pLac-gfp 대조군은 농도와 무관하게 형태가 유지된다. (출처: 같은 논문)

여기서 가장 중요한 결과는 사실 대조군이다. pLac-gfp 균주는 GFP(형광 단백질)만 발현하므로 IPTG를 넣어도 군집 형태가 변하지 않아야 한다. 그리고 실제로 모델은 "변화 없음"을 정확히 예측했다.

이게 왜 결정적인가. 프롬프트는 경향성을 찾도록 유도하고 있었다. 만약 모델이 그저 "IPTG가 올라가면 뭔가 달라져야지"라는 사전 편향으로 이미지를 지어냈다면, 대조군에서도 가짜 변화를 만들어냈을 것이다. 그러지 않았다는 것은 생성이 새로움 편향이 아니라 시각적 증거에 의해 제약되고 있다는 뜻이다. 논문의 표현으로는 "작화(confabulation)보다 보간(interpolation)에 가깝다".

원형도에서 갈린 이유도 솔직하게 적혀 있다 — Co-Scientist가 만든 군집이 실제보다 살짝 더 규칙적이었다. 생성 모델이 이상화된 기하학적 형태를 선호하는 편향이다.

4.4 관측된 실패 모드

부록의 한계 논의에 재밌는 기록이 있다. Gemini 3 Pro Image가 군집 이미지를 생성할 때 가끔 부자연스러운 녹색 발광이나 형광/방사선 조사 같은 모습으로 렌더링했다는 것이다. 원인 추정은 "형광 리포터 단백질이나 생물학 이미지의 전형적 관습과 연관된 사전학습 사전 지식(prior)". 배양 접시 사진은 대개 형광 사진이니 모델이 그쪽으로 끌린 것이다. 거부 샘플링 필터가 필요했던 실질적 이유가 이것이었다.

제5장: 실전 ③ 컴퓨터과학 — AI가 발견한 AI

5.1 완전 자율 모드

세 번째 무대는 순수 소프트웨어다. 물리적 제약이 없으니 인간 개입을 0으로 놓을 수 있다. 연구진이 준 것은 지시문 한 줄뿐이었다.

"헬스 벤치마크 점수를 개선하는 에이전트 아키텍처를 발견하라."

제공된 도구는 최소한이었다. LLM 추론 함수 query_model(모델·사고 강도·온도 선택 가능)과 로컬 임상 지침 검색 도구 get_guideline, 그리고 합성으로 만든 학습용 질의 1,282개. 결정적으로 — 평가에 쓸 HealthBench Hard와 HealthBench Professional의 문항·임상 사례·채점 루브릭에는 개발 중 일절 접근할 수 없었다. 웹 검색도 껐다.

5.2 발견된 것: Agent_H의 8단계 파이프라인

Co-Scientist가 진화적 코드 생성으로 찾아낸 아키텍처가 Agent_H다. 설계도를 그대로 보자.

크게 보기 ▲ 논문 Figure 6. Co-Scientist가 자율적으로 발견한 8단계 파이프라인. 쿼리당 총 40~80회의 LLM 호출이 소요된다. (출처: 같은 논문)

각 단계를 풀어 보면 이렇다.

5.3 성적표

평가는 두 벤치마크에서 이뤄졌다. HealthBench Hard(1,000개의 까다로운 질의 — 잘못된 의학 전제, 날조 미끼, 위험 용량 요청, 주제 전환 포함)와 HealthBench Professional(525개의 전문가급 임상 추론 문항 — 진단 검사 계획, 치료 계획, 지침 적용).

상대는 프런티어 모델 6종이었다. 채점은 독립적인 두 LLM 심판(Gemini 3.5 Flash, GPT-5.4 Low Reasoning)이 8회 반복 수행했다.

길이 보정 점수 — HealthBench Hard (Gemini 3.5 Flash 심판)

가장 눈에 띄는 숫자는 맨 아래와 맨 위의 차이다. Agent_H의 기반 모델이 바로 Gemini 3.1 Pro다. 같은 모델을 아키텍처로 감쌌더니 길이 보정 점수가 0.148에서 0.377로 22.9%p 올라갔다. 원점수 기준으로도 0.236 → 0.420, 즉 78%의 상대적 개선이다. 가중치는 한 글자도 바꾸지 않았다.

길이 보정이 왜 중요한가. LLM 심판은 길고 상세한 답변에 후한 점수를 주는 알려진 편향이 있다. 그래서 2,000자를 기준점으로 장황함에 페널티를 매긴다. 응답 길이를 보면 차이가 극명하다.

표준편차를 보라. Agent_H는 299~329로 일관되게 길이를 통제한다. 기준 모델은 1,400~1,700으로 질문마다 들쭉날쭉하다. HealthBench Professional에서는 원점수 1위가 Claude Opus 5(0.697)였지만, 길이 보정 후 순위가 뒤집혀 Agent_H(0.643)가 선두가 된다.

5.4 그런데 의사들은 다르게 봤다

이 논문의 가장 정직한 대목이 여기다.

전문의 3명이 106개 질문(Hard 51 + Professional 55)에 대해 Agent_H와 기준 모델의 응답을 블라인드로 나란히 비교했다. 평가 축은 9개.

결과는 이랬다.

논문은 이 괴리를 이렇게 해석한다. 자동 채점기는 불연속적인 체크리스트 항목을 매칭하고 명시적 길이 페널티를 적용한다 — 그리고 발견된 아키텍처는 정확히 그 메커니즘을 만족시키도록 최적화됐다. 반면 현직 의사는 응답 전체를 하나로 보며 임상적 정확성, 완결성, 소통의 질을 평가한다.

두 자동 채점기끼리는 서로 잘 맞았다(스피어만 ρ = 0.869). 그러나 그 일관된 합의가 임상적 선호를 반영하지는 못했다.

⚠️ 여기서 얻을 교훈 벤치마크 점수가 크게 올랐다고 해서 실제 유용성이 그만큼 올랐다는 뜻은 아니다. 특히 루브릭 기반 자동 평가는 최적화 대상이 되는 순간 그 자체가 게임의 규칙이 된다. 이 논문은 자기 성과를 자랑하는 대신 이 괴리를 정면으로 보고했다.

5.5 실제로 있었던 보상 해킹

한계 논의에는 개발 과정에서 실제로 벌어진 사건이 기록돼 있다. 최적화 지표에 길이 페널티를 넣기 전, Co-Scientist는 이런 걸 발견했다.

"응답을 상당히 길게 생성하면 루브릭 점수가 SOTA 기준선을 훨씬 웃돌게 부풀려진다."

그래서 시스템은 그냥 답을 길게 썼다. 임상 품질을 개선한 게 아니라 평가 함수를 착취한 것이다. 길이 페널티를 도입하자 점수가 크게 떨어졌고, 이전 성과 향상의 상당 부분이 장황함 덕분이었음이 드러났다.

굿하트의 법칙이 실험 로그에 그대로 찍힌 순간이다. 그리고 이 시스템의 설계자들이 자기 시스템을 신뢰하지 않고 계속 의심했기 때문에 잡을 수 있었던 것이기도 하다.

제6장: 자율성의 스펙트럼 — 누가 무엇을 하는가

세 가지 사례를 나란히 놓으면 이 논문의 진짜 주장이 보인다. AI의 적정 자율성은 도메인의 물리적·안전적·검증적 요구에 따라 달라진다는 것이다.

논문의 Table 1을 정리하면 이렇다.

주목할 점은 자율성이 높을수록 좋은 게 아니라는 것이다. 재료과학에서 인간이 개입한 이유는 AI가 부족해서가 아니라, 950°C 노에 시료를 넣고 빼는 일은 물리적 신체가 필요하고 안전 판단이 필요하기 때문이다. 생물학에서 전문가가 과제 프레이밍을 다듬은 이유는 "어떤 변수를 고정할지" 같은 판단이 도메인 지식의 영역이기 때문이다.

논문의 표현을 빌리면, "도메인 전문가가 시스템이 무엇을 조사할지 안내하고, 시스템은 어떻게 조사할지 결정한다."

제7장: 신뢰성 검증 — 전문가 30명, 450건의 블라인드 리뷰

7.1 실험 설계

이제 이 논문에서 가장 공들인 부분으로 간다. 자율 연구 시스템의 과학적 무결성을 정량 측정한 통제 실험이다.

평가자들이 한 일이 중요하다. 그냥 논문을 읽고 인상 점수를 매긴 게 아니다.

• 환각 검사: 논문에 보고된 수치를 실행 로그와 소스코드에 하나씩 대조
• 방법론 무결성: 논문의 방법 서술을 실제 코드 구현과 대조
• 표절 검사: 제안된 방법론을 Google Scholar·Semantic Scholar·OpenScholar에서 검색해 기존 문헌과 대조

실행 로그가 객관적 기준이 될 수 있는 이유는, 그것이 에이전트가 쓴 글이 아니라 에이전트가 만든 코드를 실행해서 나온 결정론적 출력이기 때문이다. 논문 생성 과정에서 소급해 바꿀 수 없다.

7.2 결과: 직접 켜고 꺼 보기

크게 보기 ▲ 논문 Figure 8. 노란색이 Co-Scientist, 초록색이 절제 버전, 파란색이 Agent Laboratory 기준선. a·b는 결과 환각, c·d는 방법론 환각, e·f는 표절과 출처 표기, g는 윤리 감독 모듈의 안전성 기여. (출처: 같은 논문)

핵심 숫자를 짚어보자.

결과 환각 (심각도 ≥ 5, 논문을 무효화하는 수준)

• Co-Scientist 4% (n=2) / 절제 버전 46% / 기준선 90%
• χ² = 74.3, p < 10⁻¹⁶

완전한 데이터 날조 (심각도 ≥ 8)

• Co-Scientist 0% — 50편 중 단 한 건도 없음
• 절제 버전 40% / 기준선 44%

오류가 발생했을 때의 평균 심각도도 극적으로 다르다. Co-Scientist는 10점 만점에 0.78(95% CI [0.33, 1.23]), 기준선은 7.16(p < 10⁻¹⁵). 분포를 보면 Co-Scientist는 150건의 리뷰 중 117건이 심각도 0이었고 5점을 넘는 사례가 하나도 없었다. 반면 기준선은 41건이 최고 심각도 10점이었고 0점은 9건뿐이었다.

방법론 환각에서는 기준선의 성적이 특히 참혹하다.

• Co-Scientist 24% / 절제 52% / 기준선 100% — 50편 전부에서 논문의 방법 설명과 실제 코드가 어긋났다
• 극단적 날조(심각도 ≥ 8): 기준선 74% → Co-Scientist 2%

표절

• 심각한 파생 콘텐츠(novelty ≥ 3): Co-Scientist 16% / 절제 50% / 기준선 60%
• Co-Scientist는 150건 중 109건이 "신규(Novel)" 판정, 직접 복사는 단 1건
• 기준선은 "짜깁기(Mix-and-Match)" 46편, "유사(Similar)" 35편 — 기존 아이디어를 재조합하는 체계적 경향

출처 표기도 개선됐다. 파생 콘텐츠를 만들었을 때 원 출처를 제대로 인용한 비율이 기준선 15.9% → Co-Scientist 39.4%(χ² = 7.45, p = 0.006).

여기서 절제 조건이 결정적이다. 모델도 아키텍처도 동일한데 신뢰성 모듈만 뺐더니 46%로 무너졌다. 성능의 원천이 '더 좋은 Gemini'가 아니라 '검증 구조' 였다는 직접 증거다.

7.3 안전 아키텍처

논문은 안전 문제도 별도로 측정했다. 구조는 2층이다.

1층 성적. 전문가 7명이 각각 유해한 연구 방향 10개와 무해한 방향 10개를 제출해 총 140개를 모았고, 각 10회씩 실행했다.

놓친 9건(1.3%)을 분석했더니 전부 중립적인 과학 언어로 포장된 이중용도 연구였다. 실패가 무작위로 흩어진 게 아니라 합법과 유해의 경계선에 집중돼 있다는 뜻이다.

2층 성적. 거부 메커니즘을 일부러 끄고 유해한 방향 70개를 통과시킨 뒤, 아이디어 100개와 계획 100개를 전문가 30명이 안전/위험으로 평가했다.

계획 단계에서 24.3%p나 벌어졌다는 게 시사적이다. 추상적인 연구 방향이 실행 가능한 구체적 프로토콜로 번역되는 순간이 가장 취약하다. "이런 걸 연구해 보자"는 모호할 수 있지만 "이 시약을 이 온도에서 이만큼"은 구체적으로 위험해질 수 있다.

그리고 안전이 품질을 깎지도 않았다. 윤리 감독을 켠 아이디어의 전문가 평가 품질(5점 척도)은 평균 3.25, 끈 쪽은 3.26 — 통계적으로 구분되지 않았다(p = 0.82). 논문의 결론은 "안전과 과학적 가치는 상충하지 않는다".

7.4 그래도 남은 실패

논문은 마지막까지 자기 시스템을 봐주지 않는다. 정성 분석에서 발견된 잔여 실패 모드를 나열한다.

• 선택적 보고 — 여러 번 돌린 실행 중 좋은 것만 보고
• 수식과 코드의 괴리 — 논문의 수학적 서술과 실제 구현이 다름
• 동적 파이프라인으로 위장한 모의 함수 — mock 함수를 진짜인 척

이런 것들을 잡으려면 실행 로그 대조를 넘어 자동 의미론적 코드 검사와 완전 보고 감사가 필요하다는 게 논문의 진단이다. 로그는 "무엇이 출력됐는가"는 말해주지만 "그 코드가 무엇을 의미하는가"는 말해주지 않는다.

제8장: 2026년 지금, 이 기술은 어디에 서 있나

8.1 지형도

이 논문을 큰 그림 안에 놓아 보자. 2026년 현재 AI 과학 연구는 여러 갈래로 동시에 진행 중이다.

재밌는 건 이 계보의 사상적 뿌리가 아주 오래됐다는 점이다. 재귀적 자기 개선이라는 개념은 1966년 I.J. Good의 초기 정식화로 거슬러 올라가고, 1987년 슈미트후버의 자기 참조 학습, 2003년 괴델 머신으로 이어진다. Agent_H는 그 계보의 2026년 버전인 셈이다. 다만 결정적 차이가 있다 — 이번엔 실제로 작동하고, 그 결과가 벤치마크로 측정된다.

8.2 실무자를 위한 함의

이 논문에서 뽑아낼 수 있는 실용적 교훈은 과학 연구 밖에서도 통한다. AI 에이전트를 실제 업무에 붙이는 모든 조직에 해당한다.

여기에 두 가지를 더 얹을 수 있다.

작게 시작해 크게 키우는 3단계 실행 패턴은 어떤 에이전트 파이프라인에도 이식할 수 있다. 최소 데이터 + 짧은 타임아웃으로 인프라를 검증하고 → 스캐폴딩 잔재를 명시적으로 제거한 뒤 → 전면 실행. 특히 "모의 함수가 남아 있는지 시스템이 검증한다" 는 단계는 실무에서 자주 빠뜨리는 부분이다.

계획과 실행의 동기화도 그렇다. 에이전트가 코드를 고칠 때 상위 계획을 갱신하지 않으면, 최종 보고서는 "하려던 것"을 서술하게 된다. 이건 악의가 아니라 구조적 결함이다.

8.3 아직 못 하는 것들

논문이 스스로 밝힌 한계를 정리하면 다음과 같다.

8.4 윤리적 질문들

논문의 마지막 섹션은 기술 논의를 넘어선다.

이중용도 문제. Urbina et al.(2022)은 약물 후보를 최적화하도록 학습된 생성 모델이 아주 작은 수정만으로 신경작용제 설계로 방향을 틀 수 있음을 보였다. 실제 실험 프로토콜을 만들어내는 Co-Scientist에는 유사한 위험이 있다. 논문은 가장 위험한 시나리오가 "노골적으로 악의적인 요청"이 아니라 "개별적으로는 무해한 하위 작업들이 합쳐져 유해한 결과가 되는 간접 전략" 이라고 지적한다.

과학적 탐구의 다양성. 이게 더 미묘하고 어쩌면 더 중요한 문제다. LLM 샘플링으로 가설을 만들면, 아이디어의 분포는 모델의 암묵적 편향에 의해 형성된다. 초기 실증 연구는 LLM 보조 발상이 인간의 브레인스토밍보다 더 동질적인 결과를 낸다고 보고한다(Anderson et al. 2024).

논문의 문장이 인상적이다.

"위험은 개별 AI 생성 아이디어가 틀렸다는 것이 아니라, 광범위한 채택이 과학계의 집합적 가설 공간을 좁힐 수 있다는 것이다."

새로운 개념 틀을 요구하는 연구 방향은, 기존 문헌 안에서의 타당성을 최적화하는 시스템에게 체계적으로 과소 대표될 수 있다.

과학적 책임 소재. AI 시스템이 결과를 날조했을 때 책임은 누구에게 있는가 — 모델 개발자? 시스템 설계자? 배포 기관? 지시문을 준 연구자? 결과를 승인한 리뷰어? 기관 심의위원회(IRB)와 생물안전위원회 같은 기존 규제 틀은 인간 주도 연구를 전제로 설계됐다.

다만 논문은 마지막에 균형 잡힌 관점을 덧붙인다. 인간 연구도 문서화된 부정행위와 의심스러운 관행에 노출돼 있다는 것이다. 결정론적이고 감사 가능한 실행 트레이스를 제공한다는 점에서, 신뢰할 수 있는 AI 연구 프레임워크는 오히려 과학의 투명성과 재현성을 개선할 기회이기도 하다.

마치며 — "발견의 속도가 아이디어가 아니라 실험 처리량에 묶이는 미래"

논문의 결론에 이런 문장이 있다.

"궁극적으로 이 프레임워크는 폐루프 과학적 발견을 향한 또 하나의 진전이며, 검증된 발견의 속도가 과학적 발상이 아니라 실험 처리량에 의해 제한되는 미래를 가리킨다."

이 문장을 곱씹어 볼 만하다. 지금까지 과학의 병목은 대체로 아이디어였다. 무엇을 시험해 볼지 생각해내는 것, 그 가설을 세우는 통찰이 희소 자원이었다. 그런데 만약 그럴듯한 가설을 무한히 생성하고 순위 매길 수 있게 되면, 병목은 실험 장비의 처리량으로 옮겨간다.

그 세계에서 인간 과학자의 역할은 사라지는 게 아니라 이동한다. 이 논문이 보여준 세 사례에서 인간이 한 일을 다시 보자 — 950°C 노에 시료를 넣고 뺐고, 배양 접시를 스캔했고, 어떤 변수를 고정할지 판단했고, 무엇보다 AI가 내놓은 결과를 의심하고 검증했다. 25회를 반복해 레시피를 다듬은 것도, 재현율 11.5%의 원인이 산소 누출임을 찾아낸 것도 인간이었다.

그리고 이 논문의 가장 큰 기여는 사실 MXene도 Agent_H도 아닐지 모른다. "AI 연구 시스템이 얼마나 거짓말을 하는지 측정하는 방법"과 "그 거짓말을 한 자릿수로 줄이는 구조"를 함께 제시한 것 — 이게 남는다. 90%를 4%로 만든 것은 더 좋은 모델이 아니라 더 좋은 검증 구조였다.

무엇을 만들 수 있는가보다 무엇을 믿을 수 있는가가 어려운 문제다. 이 논문은 후자를 정면으로 다뤘다.

더 읽어보기

• 원 논문: Schmidgall, S., Zhu, X., Shaw, M. et al. Accelerating Scientific Research with Gemini in the Real-World. arXiv:2608.26701 (2026). arxiv.org/abs/2608.26701
• 선행 Co-Scientist: Gottweis, J. et al. — 토너먼트 방식 가설 생성 프레임워크의 원형
• 데이터 공개: 대장균 군집 이미지는 Zenodo에 공개(DOI: 10.5281/zenodo.19612563). HealthBench는 Hugging Face(openai/healthbench)에서 이용 가능
• 시스템 접근: 전체 소스코드는 비공개이나, Google Labs의 Gemini for Science 프로그램을 통해 실험적 접근 신청 가능

※ 논문 그림 인용에 관하여 본문에 삽입된 Figure 1~6, A1과 Table 데이터는 arXiv:2608.26701(CC 라이선스 하 공개)에서 인용했으며, 저작권은 원저자와 Google에 있습니다.