Temperature 특집: AI의 '창의성 다이얼'을 과학적으로 돌리는 법 — TURN 알고리즘과 멀티샘플 추론의 최적 온도

들어가며: AI 셰프의 화력 조절

요리를 생각해보자. 스테이크를 구울 때 불이 너무 약하면 고기가 질겨지고, 너무 강하면 겉은 타고 속은 안 익는다. 딱 맞는 온도를 찾아야 겉은 바삭하고 속은 촉촉한 완벽한 결과가 나온다. 그런데 소고기와 닭고기의 최적 온도가 다르고, 그릴과 오븐의 최적 온도가 다르다.

AI도 마찬가지다.

대규모 언어 모델(LLM)에는 Temperature라는 파라미터가 있다. 이 값을 낮추면 AI는 가장 확률 높은 답만 반복하고, 높이면 예상 밖의 창의적인(때로는 엉뚱한) 답을 내놓는다. ChatGPT에 같은 질문을 10번 하면 매번 조금씩 다른 답이 나오는 이유가 바로 이 Temperature 때문이다.

문제는 "최적 Temperature가 얼마인가?"라는 질문에 아직 좋은 답이 없었다는 것이다. OpenAI API의 기본값은 1.0이지만, 그것이 모든 모델, 모든 태스크에서 최선일까? 수학 문제를 풀 때와 창작 글을 쓸 때 같은 Temperature를 쓰는 게 맞을까?

2025년 ICML(세계 최고 권위의 머신러닝 학회)에서 카네기멜론 대학교(CMU)의 Weihua Du, Yiming Yang, Sean Welleck가 이 질문에 답하는 논문을 발표했다. TURN(Turning Point Temperature Selection) — 라벨 데이터 없이도 모델별 최적 Temperature를 자동으로 찾아내는 알고리즘이다.

이 글에서는 Temperature가 무엇이고 왜 중요한지(제1장), 멀티샘플 추론이 무엇인지(제2장), 왜 Temperature 최적화가 어려운지(제3장), TURN이 발견한 핵심 현상인 엔트로피 전환점(제4장), TURN 알고리즘의 작동 원리(제5장), 실험 결과(제6장), 이론적 근거(제7장), 그리고 2026년 현재 이 기술이 어떻게 활용되고 있는지(제8장)까지 풀어본다.

제1장: Temperature란 무엇인가 — 확률 분포의 '온도계'

언어 모델이 다음 단어를 고르는 방법

언어 모델은 텍스트를 한 토큰씩 생성한다. "서울의 인구는"이라는 입력이 들어오면, 모델은 다음에 올 수 있는 모든 토큰의 점수(logit)를 계산한다. 이 점수를 확률로 변환하는 함수가 바로 소프트맥스(softmax)다:

$P(y_i \mid y_{<i}, X) = \mathcal{F}\left(\text{softmax}\left(\frac{z_i}{T}\right)\right)$

여기서 $z_i$는 토큰 $y_i$의 logit, $T$는 Temperature다. $\mathcal{F}$는 Top-k, Top-p 같은 추가 필터링 함수다.

핵심은 나누기 $T$ 부분이다. Temperature가 이 식에서 하는 역할을 직관적으로 이해해보자.

Temperature의 3가지 모드

구체적인 예를 들어보자. 모델이 "서울", "부산", "대전", "제주", "인천" 다섯 후보에 대해 logit [5.0, 3.0, 2.0, 1.5, 0.5]를 내놓았다고 하자.

위 시뮬레이터에서 직접 확인할 수 있듯이:

• T=0.1이면 "서울"이 99% 이상을 차지한다. 사실상 항상 "서울"만 출력된다.
• T=1.0이면 "서울"이 약 65%로 가장 높지만, "부산"이나 "대전"도 가끔 선택된다.
• T=2.0이면 확률이 비슷해져서 어떤 토큰이든 나올 수 있다.

왜 "딱 맞는 온도"가 중요한가

"그냥 T=1로 두면 되는 거 아닌가?" — 아니다. 상황에 따라 최적 Temperature가 극적으로 달라진다.

여기에 모델 종류까지 더하면 문제는 더 복잡해진다. 같은 수학 문제라도 범용 모델(Llama)과 수학 특화 모델(Llemma)의 최적 Temperature가 다르다. 이 논문의 핵심 발견 중 하나다.

제2장: 멀티샘플 추론의 시대 — "여러 번 물어보면 더 똑똑해진다"

한 번 물어보기 vs 여러 번 물어보기

2022년, 구글 연구팀의 Self-Consistency 논문(Wang et al., 2022)이 간단하면서도 강력한 아이디어를 제시했다: 같은 질문을 여러 번 하고, 가장 많이 나온 답을 선택하자.

이것이 멀티샘플 추론(Multi-Sample Inference)의 핵심이다. 한 번 물어봐서 틀릴 수 있지만, 100번 물어보면 다수결로 더 정확한 답을 찾을 수 있다.

두 가지 핵심 전략

수식으로 표현하면:

Majority Voting:

$\hat{y} = \arg\max_{y \in \{Y_1, ..., Y_N\}} \sum_{i=1}^{N} \mathbb{I}(Y_i = y)$

Best-of-N:

$\hat{y} = \arg\max_{y \in \{Y_1, ..., Y_N\}} G(y)$

여기서 $G(y)$는 보상 함수다.

멀티샘플 추론과 Temperature의 관계

여기서 Temperature가 핵심적으로 작용한다. 직관적으로 생각해보자:

• Temperature가 너무 낮으면: 256번 물어봐도 거의 같은 답만 나온다. 투표해봤자 의미 없다. 다양성이 0이니까.
• Temperature가 너무 높으면: 256개의 답이 전부 다른데, 대부분이 쓸데없는 쓰레기다. 투표해봤자 맞는 답이 없다.
• Temperature가 딱 맞으면: 다양한 답이 나오되, 그중 상당수가 정답을 포함한다. 투표하면 정답이 다수를 차지한다.

이것이 TURN 논문의 출발점이다: 멀티샘플 추론에서 Temperature는 '다양성'과 '품질' 사이의 균형을 결정하는 가장 중요한 파라미터다. 그런데 이 균형점을 찾는 체계적인 방법이 없었다.

제3장: 왜 Temperature 최적화가 어려운가 — 모델마다 다르고, 태스크마다 다르다

현실: "T=0.7이면 대충 괜찮다"의 문제

지금까지 업계의 관행은 단순했다. 대부분 모든 모델, 모든 태스크에 같은 Temperature를 사용했다. OpenAI o1 시스템 카드에는 T=1.0이 명시되어 있고, 많은 벤치마크에서 T=0.7이나 T=0.8이 관례적으로 쓰인다.

하지만 이것은 소고기든 생선이든 180°C 오븐에 넣는 것과 같다.

실험: 최적 Temperature는 정말 다를까?

TURN 논문의 저자들은 Mistral-7B의 세 가지 변형(사전학습, 지시학습, 태스크 파인튜닝)을 MATH 데이터셋에서 테스트했다. 결과는 놀라웠다.

모델-태스크 거리: 핵심 통찰

저자들은 이 관계를 정량화했다. 모델-태스크 거리(Distance)를 토큰 수준 엔트로피의 평균으로 정의한다:

$\mathcal{D}(\mathcal{M}, \mathcal{T}) = \frac{1}{k}\sum_{i=1}^{k}\left[\frac{1}{|Y_i|}\sum_{j=1}^{|Y_i|}\mathcal{H}\big(p_\mathcal{M}(\cdot \mid X_i, Y_{i,<j})\big)\right]$

여기서 $\mathcal{H}(p) = -\sum_{v \in p} p(v) \log p(v)$는 Shannon 엔트로피다.

결과: 13개 모델을 분석한 결과, 모델-태스크 거리와 최적 Temperature 사이에 강한 음의 상관관계가 나타났다:

음의 상관관계의 의미: 모델이 태스크에 가까울수록(거리가 작을수록) 최적 Temperature가 높다. 모델이 태스크에 멀수록(거리가 클수록) 최적 Temperature가 낮다.

이것은 실무에서 중요한 가이드라인을 제공한다:

하지만 이것은 대략적인 가이드일 뿐이다. 모델마다, 태스크마다 최적값이 미묘하게 다르다. 각각에 대해 grid search를 하려면 엄청난 비용이 든다. 라벨 데이터 없이 자동으로 최적 Temperature를 찾을 수 있다면?

제4장: 엔트로피 전환점(EntP) — "이 온도를 넘으면 품질이 무너진다"

놀라운 발견: 엔트로피 스파이크

TURN 논문의 가장 핵심적인 발견은 엔트로피 스파이크(entropy spike) 현상이다.

Temperature를 0.1부터 점점 올리면서 모델의 토큰 수준 엔트로피를 측정하면, 놀라운 패턴이 나타난다:

1. 낮은 Temperature (0.1~0.6): 엔트로피가 천천히, 완만하게 증가한다.
2. 임계점 부근 (0.6~0.9): 엔트로피가 급격히 증가하기 시작한다.
3. 높은 Temperature (0.9~1.5): 엔트로피가 폭발적으로 치솟는다.

로그 스케일로 보면 이 패턴이 더 선명해진다. $\log(\mathcal{H})$ 곡선은:

• 전환점 전: 오목(concave) — 완만한 증가
• 전환점 후: 볼록(convex) — 폭발적 증가

이 오목에서 볼록으로 바뀌는 지점을 엔트로피 전환점(Entropy Turning Point, EntP)이라 정의한다.

왜 이것이 중요한가: 품질 붕괴의 신호

엔트로피 스파이크는 단순한 수학적 현상이 아니다. 이것은 샘플 품질 붕괴(quality collapse)의 직접적 신호다.

저자들은 이것을 입증하기 위해 교묘한 실험을 설계했다. 만약 엔트로피 증가가 단순히 Temperature에 의한 확률 분포 평탄화 때문이라면, 고정된 텍스트(greedy decoding으로 생성)의 엔트로피도 비슷하게 높아져야 한다.

하지만 실험 결과, 고정 텍스트의 엔트로피(점선)와 실제 샘플링 텍스트의 엔트로피(실선) 사이에 큰 격차(gap)가 나타났다. 이것은 스파이크가 단순히 Temperature의 수학적 효과가 아니라, 모델의 다음 토큰 분포 자체가 변화했음을 의미한다.

EntP와 실제 최적 Temperature의 상관관계

논문의 Figure 1(b)가 이것을 극적으로 보여준다. 13개 모델에 대해 EntP에서의 정확도와 grid search로 찾은 최고 정확도를 비교했더니:

• MATH 데이터셋: 상관계수 0.9998 (거의 완벽한 상관!)
• MBPP 데이터셋: 상관계수 0.9913

이것은 EntP가 최적 Temperature의 사실상 완벽한 대리 지표라는 뜻이다.

제5장: TURN 알고리즘 — 라벨 없이 최적 온도를 자동으로 찾다

알고리즘의 핵심 아이디어

TURN의 아이디어는 우아하게 단순하다:

"엔트로피 곡선의 로그를 취하고, 그 곡선이 오목에서 볼록으로 바뀌는 지점(EntP)을 찾으면, 그것이 최적 Temperature다."

라벨 데이터가 필요 없다. 정답을 몰라도 된다. 모델 자체의 엔트로피만으로 최적 Temperature를 예측할 수 있다.

TURN의 5단계

알고리즘을 단계별로 풀어보면:

알고리즘의 의사코드

def TURN(model, task, t_interval=0.1, t_max=1.5, N=40, strategy="majority_voting"):
    J = int(t_max / t_interval)  # 온도 후보 수
    entropies = []
    
    for j in range(J + 1):
        T = j * t_interval
        H_samples = []
        for _ in range(N):
            x = random.choice(task)       # 랜덤 입력 선택
            y = model.generate(x, T=T)     # 샘플 생성
            H = token_level_entropy(y)     # 토큰 엔트로피 계산
            H_samples.append(H)
        entropies.append(mean(H_samples))
    
    # 로그 변환
    log_entropies = [log(h) for h in entropies]
    
    # 이계도함수가 음→양으로 바뀌는 지점 찾기
    j_star = find_inflection_point(log_entropies)
    t_star = j_star * t_interval
    
    # 집계 방법에 따른 보정
    beta = 0.0 if strategy == "majority_voting" else 0.1
    return t_star + beta

왜 40개 샘플이면 충분한가

비용이 걱정될 수 있다. "각 Temperature마다 N개 샘플을 뽑아야 한다고? 비용 폭탄 아닌가?"

놀랍게도, N=40이면 충분하다.

40개 샘플의 성능 손실은 0.2%에 불과하다. grid search(수백~수천 회 추론)와 비교하면 비용이 1/10 이하로 줄어든다.

제6장: 실험 결과 — "정말 작동하는가?"

실험 설정

저자들은 두 가지 시나리오에서 TURN을 검증했다:

• 수학 문제 풀이: MATH 데이터셋 200문항 + Majority Voting + 13개 모델
• 코드 생성: MBPP 데이터셋 100문항 + Best-of-N + 13개 모델

모든 실험에서 256개 샘플을 생성하여 집계했다.

핵심 결과 1: TURN의 적중률

핵심 결과 2: 모델별 상세 결과 (MATH + Majority Voting)

핵심 결과 3: 고정 Temperature와의 비교

이것이 가장 의미 있는 비교다. "그냥 T=0.7로 통일하면 안 되나?"에 대한 답이다.

T=0.7이 그나마 가장 나은 고정 Temperature였지만, TURN은 그보다도 2.4배 낮은 Temperature Gap과 2.9배 낮은 성능 손실을 달성했다. 특히 어떤 고정 Temperature도 모든 데이터셋에서 동시에 최고 성능을 달성하지 못하지만, TURN은 양쪽 모두에서 우수했다.

제7장: 확률 과정 모델 — "왜 엔트로피가 갑자기 치솟을까?"

도미노 효과의 수학적 모델

저자들은 엔트로피 스파이크가 왜 발생하는지를 설명하기 위해 확률 과정(stochastic process) 모델을 도입했다. 이 모델은 놀라울 정도로 직관적이다.

모델의 핵심 아이디어

언어 모델이 토큰을 순차적으로 생성하는 과정을 이렇게 추상화한다:

시뮬레이션 결과가 실제와 일치

이 단순한 모델($N_0 = 10$, $N_1 = 30000$, $\alpha = 2$)로 시뮬레이션하면:

1. 엔트로피 커브: 실제 LLM과 거의 동일한 모양이 나온다. 낮은 Temperature에서 완만하게 증가하다가, 특정 지점에서 급증한다.
2. 부적절한 토큰 비율: EntP 이후 급격히 증가한다. EntP 전에는 거의 0%이던 부적절 토큰이, EntP 이후 빠르게 5%, 10%, 20%로 치솟는다.

제8장: 2026년, Temperature 최적화의 현재와 미래

역사적 맥락: Temperature의 여정

Temperature라는 개념은 원래 통계 물리학에서 왔다. 볼츠만 분포에서 온도 $T$가 입자 에너지 분포를 결정하는 것과 정확히 같은 수학적 구조다. 신경망에 처음 도입된 것은 1980년대 Simulated Annealing과 Boltzmann Machine 시절이다.

2026년 현재: 추론 스케일링 시대의 Temperature

2026년 현재, AI 업계는 추론 시점 연산 스케일링(inference-time compute scaling)의 시대에 돌입했다. OpenAI의 o-시리즈, Google의 Gemini Thinking, Anthropic의 Claude의 확장된 사고 등 — 모두 "추론 시 더 많이 생각하면 더 좋은 답이 나온다"는 패러다임이다.

이 맥락에서 TURN의 기여가 빛난다:

실전 활용 시나리오

미래 연구 방향

TURN이 열어놓은 길은 넓다:

1. 동적 Temperature: 생성 도중에도 Temperature를 조절하는 방법. 수식 풀이의 전반부(탐색)는 높게, 후반부(계산)는 낮게.
2. 더 큰 모델에서의 검증: 현재 7B~9B 모델에서 검증되었으나, 70B+ 모델에서도 동일하게 작동하는지.
3. 다양한 태스크 확장: 수학, 코드 외에 추론, 요약, 번역 등 더 다양한 태스크.
4. 추론 스케일링과의 통합: TURN + Chain-of-Thought + Self-Consistency의 최적 조합.

마무리: Temperature는 단순한 숫자가 아니다

이 논문이 우리에게 말하는 것은 명확하다:

Temperature는 "그냥 0.7로 두면 되는" 단순한 하이퍼파라미터가 아니다. 모델의 학습 이력, 태스크의 특성, 집계 전략에 따라 최적값이 달라지는 핵심 변수다.

그리고 TURN은 이 변수를 과학적으로, 자동으로, 효율적으로 최적화하는 첫 번째 방법을 제시했다. 라벨 데이터 없이, 40개 샘플만으로, 92% 이상의 적중률로.

2026년 현재, AI 시스템은 갈수록 복잡해지고 있다. 에이전트, 멀티모달, 추론 체인 — 이 모든 것의 기반에 "다음 토큰을 어떻게 뽑을 것인가"라는 근본적 질문이 있다. TURN은 그 질문에 대한 가장 과학적인 답 중 하나다.

마치 좋은 셰프가 재료와 조리법에 따라 불 세기를 조절하듯, 좋은 AI 시스템도 모델과 태스크에 따라 Temperature를 조절해야 한다. TURN은 그 조절을 자동으로 해주는 AI 셰프의 온도계다.