Transformer에서 창발하는 유추 추론

Digest: Transformer가 유추 추론(analogical reasoning, 서로 다른 도메인 간 관계 구조를 대응시켜 지식을 옮기는 능력) 을 언제·어떻게 획득하는지가 미해결이었다. 저자들은 범주론(category theory)에서 영감을 얻은 합성 과제 — 원자적 사실(atomic fact), 합성적 사실(compositional fact, 2-hop 연쇄), 유추적 사실(analogical fact, 범주 간 대응) — 로 학습을 추적해, 모델이 암기 → 합성 추론 → 유추 추론 의 3단계를 밟으며, 유추 능력은 관계 수 |ℛ|≥1,000, 적당한 weight decay(0.01–0.1), 낮은 OOD 비율 같은 데이터·최적화 조건에 민감함을 발견했다(default |ℰ|=20, |ℛ|=10,000, 1-layer 1-head, d_model=128, Figure 1B·6). 메커니즘은 (1) 임베딩 공간의 구조 정렬(관련 엔티티가 기하학적으로 가까워짐, Dirichlet Energy 감소로 측정)과 (2) attention+residual을 통한 functor 적용(eₜ ≈ eₛ + f 벡터 덧셈)의 두 요소로 분해된다. Gemma2-2B/9B·LLaMA에서는 동일 현상이 학습 스텝 축이 아니라 레이어 깊이 축을 따라 in-context로 나타난다(Figure 8, Layer 7 vs 21). 유추를 추상적 인지 개념에서 기계적으로 규명 가능한 현상으로 끌어내렸지만, 합성 과제가 실제 세계의 부분 중첩 범주·암묵적 functor 신호를 담지 못하고 샘플 효율 이득이 실증되지 않은 한계가 있다.

먼저 이해하기

유추(analogy)란 “A와 B의 관계가 C와 D의 관계와 같다”처럼 서로 다른 영역에서 똑같은 관계 구조를 알아보고 지식을 옮기는 능력이다. 이 논문은 이런 능력이 Transformer 안에서 저절로 생겨나는지, 생겨난다면 어떤 조건에서 어떤 방식으로 생기는지를 실험으로 파헤친다.

핵심 아이디어는 문제를 아주 깔끔한 장난감 과제(synthetic task)로 축소한 것이다. 두 개의 분리된 엔티티 집합 ℰ₁, ℰ₂(각 20개)와 관계 집합 ℛ(최대 10,000개)를 만들고, 세 종류의 사실을 학습시킨다: 원자적 사실(atomic, 한 관계로 이어진 두 엔티티), 합성적 사실(compositional, 두 관계를 이어붙인 2-hop 연쇄), 유추적 사실(analogical, 한 범주의 구조를 다른 범주로 통째로 대응). 이렇게 하면 모델이 언제 무엇을 배우는지 학습 곡선에서 단계별로 관찰할 수 있다.

왜 중요한가: 저자들 표현으로, 이 작업은 유추를 “추상적 인지 개념(abstract cognitive notion)에서 현대 신경망의 구체적·기계적으로 규명된 현상”으로 옮긴다. 샘플 효율적 학습과 AI의 창의성을 이해하는 토대가 된다는 것이 논문의 주장이다.

먼저 알아둘 용어

용어	쉬운 설명
Analogical reasoning (유추 추론)	서로 다른 도메인에서 같은 관계 구조를 알아보고 지식을 옮기기
Compositional reasoning (합성 추론)	배운 관계 두 개를 이어붙여 새 사실 추론(2-hop)
Functor (범주론)	한 범주의 엔티티를 다른 범주로 대응시키는 사상 `ℱ(eₛ)`
Dirichlet Energy	관련 엔티티들이 임베딩 공간에서 얼마나 가까운지 측정(낮을수록 정렬 잘 됨)
OOD ratio	학습 분포 밖 데이터 비율, 일반화를 강제하는 조절 손잡이
Inverse scaling (역스케일링)	모델을 키울수록 오히려 성능이 나빠지는 현상

섹션별 요약

Abstract

Transformer가 유추 추론을 획득하는 시점과 방식을 규명한다. 범주론 기반 합성 과제로 학습 동역학을 추적해, 유추 능력이 암기·합성 추론 이후 가장 늦게 창발하며 데이터·최적화 조건에 강하게 의존함을 보인다. 메커니즘을 임베딩 구조 정렬과 functor 적용의 두 요소로 분해하고, Gemma2·LLaMA에서 레이어 축을 따라 같은 현상이 나타남을 확인한다.

왜 이 연구를 하는가?

유추는 인간 인지의 핵심이자 샘플 효율·창의성의 원천으로 여겨지지만, 신경망에서 언제·어떻게 생기는지는 기계적으로 밝혀지지 않았다. 저자들은 관계 구조 대응이라는 유추의 본질을 범주론의 functor 개념으로 형식화해, 통제된 합성 환경에서 창발 조건과 내부 구현을 동시에 관찰할 수 있게 만든다.

Introduction

유추를 “엔티티의 고유 특성이 아니라 관계적 역할 유사성에 근거해 범주 간 대응(functor)을 추론하는 것”으로 정의한다. 이를 원자적/합성적/유추적 사실로 조작화하고, 모델이 세 능력을 순차적으로 획득함을 보인다. 합성 추론은 모델 크기에 따라 단조 개선되지만, 유추 추론은 데이터·최적화에 민감하고 비단조적으로 스케일한다는 점이 핵심 대비다.

Methods

데이터: 분리된 두 엔티티 집합 ℰ₁, ℰ₂ (default |ℰ|=20), 관계 집합 |ℛ|=10,000. 세 사실 유형 — atomic (eₛ, r, eₜ), compositional(2-hop), analogical (eₛ, f, ℱ(eₛ)). 각 엔티티는 서로 구분되는 outgoing 관계 라벨을 가져 합성 추론이 성립하도록 보장. compositional/analogical OOD 비율 default 0.1.
모델: 합성 실험은 1-layer, 1-head Transformer, d_model=128, MLP 폭 4×d_model, RoPE, 최대 시퀀스 길이 64, 어휘 크기 |ℰ|+|ℛ|+1.
학습: Adam, lr 10⁻⁴, weight decay 0(0~1.0 스윕), batch size 32, 마지막 토큰에만 cross-entropy, 3 시드 평균.
측정 지표: Dirichlet Energy E(ℰ)=Σᵢⱼ Aᵢⱼ‖h_{eᵢ}−h_{eⱼ}‖²; attention parallelism cos(h′ₜ−hₛ, h_f); attention weight Attn(eₛ→f).

발견 (Findings)

3단계 학습 동역학: in-distribution 암기 → 합성 추론 → 유추 추론(가장 늦게 창발). Figure 1B(10 엔티티).
데이터 민감성: 유추는 |ℛ|≥1,000 필요, |ℛ|=100 이하 실패, |ℛ|=1,000에서 창발 후 소멸하는 transient 거동. OOD 비율 >0.5에서 크게 저하, analogical OOD ≥0.9면 실패. 엔티티 수 증가 시 창발 시간이 크게 늘어남.
최적화 민감성: weight decay 비단조 — 0.01~0.1은 가속, ≥1.0은 창발 봉쇄. 합성 추론은 모든 decay에서 견고. batch size는 클수록(≤128) 일관되게 가속.
비단조 스케일링: d_model은 128~256에서 최적, 512에서 저하. 레이어 깊이는 깊을수록 나빠지는 inverse scaling. 합성 추론은 예측 가능하게 스케일.

Results

정확도 곡선에서 세 능력의 창발 순서·시점이 뚜렷이 분리된다(Figure 1B). Dirichlet Energy의 급감이 유추 성능 향상에 선행(Figure 6a)하고, Attn(eₛ→f)는 창발과 함께 증가(Figure 6b)한다. 벡터 산술 eₜ≈eₛ+f는 (eₜ−eₛ)와 functor 표현 간 cosine parallelism으로 확인된다.

Discussion

유추는 두 요소로 분해된다: (1) 임베딩 수준 구조 정렬(관련 엔티티 군집화, Dirichlet Energy 감소), (2) Transformer 내 functor 적용(attention이 functor 토큰→source 엔티티를 조회, residual이 가산 통합). LLM(Gemma2-2B/9B, LLaMA)에서는 동일 메커니즘이 학습 스텝이 아니라 레이어 깊이를 따라 in-context로 전개된다. logit lens로 후반 레이어에서 Dirichlet Energy 감소와 target 확률 증가가 동시에 관찰된다. PCA(Figure 8, Gemma2-2B Layer 7 vs 21)에서 에너지 급감 전엔 약한 정렬, 후엔 뚜렷한 기하 정렬이 보인다.

이론적 의의

유추를 범주론의 functor로 형식화함으로써, “관계 구조의 대응”이라는 추상 개념을 임베딩 기하(구조 정렬)와 회로 연산(attention+residual 벡터 덧셈)이라는 측정 가능한 양으로 환원한다. 이는 in-context learning이 내부적으로 gradient-descent 유사 동역학을 구현한다는 선행 관찰과도 연결된다.

Discussion Points

학습-스텝 축(toy)과 레이어-깊이 축(LLM)에서 같은 현상이 나타난다는 대응은 in-context learning=암묵적 최적화 가설을 강화한다.
inverse scaling은 “크게 만들면 좋아진다”는 통념과 충돌하며, 유추 능력의 sweet spot이 존재함을 시사한다.
합성 과제의 명시적 ⟨f⟩ 토큰은 인간 추론에 없는 신호로, 실세계 이전에 갭이 존재.

실험 결과 상세

조건/변인	설정·측정	결과 (출처)
학습 단계	atomic→compositional→analogical	유추가 가장 늦게 창발 (Figure 1B,
관계 수	ℛ
OOD 비율	0.1(default)~0.9	>0.5 크게 저하, analogical OOD≥0.9 실패
Weight decay	0~1.0 스윕	0.01~0.1 가속, ≥1.0 창발 봉쇄; compositional은 견고
Batch size	32(default)~128	클수록 일관 가속
모델 폭 d_model	128 / 256 / 512	128~256 최적, 512 저하 (비단조)
레이어 깊이	얕음 vs 깊음	깊을수록 저하 (inverse scaling)
LLM 검증	Gemma2-2B/9B, LLaMA	레이어 축 따라 Dirichlet Energy 감소+target 확률 증가 (Figure 8)

정확한 정확도 수치 표는 원문 본문에 Figure로 제시되어 수치 테이블 형태로는 데이터 불충분. 위 값들은 본문 서술과 caption 기준.

프레임워크 다이어그램

flowchart TD
    A["합성 과제 설계<br/>ℰ1, ℰ2 (|ℰ|=20), |ℛ|=10000"] --> B["세 사실 유형<br/>atomic / compositional / analogical"]
    B --> C["1-layer 1-head Transformer<br/>d_model=128, RoPE, Adam lr=1e-4"]
    C --> D["3단계 학습 동역학<br/>암기 → 합성 → 유추"]
    D --> E1["요소1: 구조 정렬<br/>Dirichlet Energy 감소"]
    D --> E2["요소2: functor 적용<br/>eₜ ≈ eₛ + f (attn+residual)"]
    E1 --> F["유추 추론 창발"]
    E2 --> F
    F --> G["LLM 검증 (Gemma2-2B/9B, LLaMA)<br/>레이어 깊이 축으로 in-context 전개"]

재현성 및 신뢰도 평가

종합등급: B (Evidence B / Reproducibility B)

근거: 합성 과제·하이퍼파라미터(|ℰ|, |ℛ|, d_model, lr, batch, weight decay)와 지표 정의(Dirichlet Energy, attention parallelism)가 명시되어 있어 재현 가능성이 높다. 3 시드 평균·다중 변인 스윕으로 통제가 견고하다. 다만 (1) 코드 공개 여부가 제공 텍스트에서 확인되지 않고, (2) 정확도의 절대 수치가 Figure 의존이라 테이블 검증이 어렵고, (3) LLM 실험이 probe 설계 기반 정성 관찰 위주라 B로 판정.

주장별 신뢰도

“유추가 암기·합성 이후 가장 늦게 창발”(높음): 다중 시드 학습 곡선에서 반복 관찰(Figure 1B).
“Dirichlet Energy 급감이 성능 향상에 선행”(중상): Figure 6a의 시간 정렬 근거는 강하나 인과가 아닌 상관 가능성 잔존.
“LLM에서 레이어 축으로 동일 현상”(중): 특정 모델·레이어(Gemma2-2B Layer 7 vs 21) 사례 위주, 일반성은 추가 검증 필요.

원자적 인사이트 (Zettelkasten)

유추는 합성보다 늦게, 더 까다롭게 창발한다. 같은 Transformer에서 합성 추론은 모델 크기에 단조 비례하지만 유추는 데이터량·weight decay·OOD 비율의 좁은 창(window) 안에서만 나타난다 — 능력마다 창발 조건의 지형이 다르다.
유추의 내부 구현은 “기하 정렬 + 벡터 덧셈”이다. 관련 엔티티가 임베딩 공간에서 가까워지고(Dirichlet Energy↓), attention+residual이 eₜ≈eₛ+f를 실행한다 — 추상적 대응이 측정 가능한 두 연산으로 환원된다.
학습-스텝 축(toy)과 레이어-깊이 축(LLM)은 같은 창발을 다른 축에서 보여준다. 이는 in-context learning이 내부적으로 최적화 같은 동역학을 돈다는 가설과 정합한다.
inverse scaling은 유추 능력에 sweet spot이 있음을 뜻한다. d_model 128~256, 얕은 깊이에서 최적 — 무작정 키우면 유추가 오히려 무너진다.

핵심 용어 정리

Analogical fact: 한 범주의 엔티티를 functor ℱ로 다른 범주에 대응시킨 사실 (eₛ, f, ℱ(eₛ)). 관계 구조 보존이 핵심.
Compositional fact: 두 관계를 이어붙인 2-hop 연쇄. OOD 일반화 능력을 측정.
Dirichlet Energy E(ℰ)=Σ Aᵢⱼ‖h_{eᵢ}−h_{eⱼ}‖²: functor로 연결된 엔티티 쌍의 임베딩 거리 합. 낮을수록 구조 정렬이 잘 됨.
Functor: 범주론에서 한 범주를 다른 범주로 사상하는 구조 보존 매핑. 본 논문에서 유추의 형식적 정의.
Attention parallelism cos(h′ₜ−hₛ, h_f): source→target 변위가 functor 표현과 평행한 정도. 벡터 산술 구현의 증거.
Inverse scaling: 모델을 키울수록 특정 과제 성능이 떨어지는 현상. 여기선 깊은 모델의 유추 성능 저하.

BibTeX

@article{minegishi2026emergent,
  title   = {Emergent Analogical Reasoning in Transformers},
  author  = {Minegishi, Gouki and Feng, Jingyuan and Furuta, Hiroki and Kojima, Takeshi and Iwasawa, Yusuke and Matsuo, Yutaka},
  journal = {arXiv preprint arXiv:2602.01992},
  year    = {2026},
  url     = {https://arxiv.org/abs/2602.01992}
}

Transformer에서 창발하는 유추 추론

Transformer에서 창발하는 유추 추론

먼저 이해하기

섹션별 요약

Abstract

왜 이 연구를 하는가?

Introduction

Methods

발견 (Findings)

Results

Discussion

이론적 의의

실험 결과 상세

프레임워크 다이어그램

재현성 및 신뢰도 평가

원자적 인사이트 (Zettelkasten)

핵심 용어 정리

관련 연구

태그

BibTeX