계층적 추론 모델 해부: 기계론적 연구

개요

**HRM(Hierarchical Reasoning Model)**은 27M 파라미터로 Sudoku, 미로, ARC-AGI를 푼 잠재 공간 추론 모델이다. 느리게 바뀌는 상위 상태 z_H와 빠르게 여러 번 바뀌는 하위 상태 z_L을 주고받으며 답을 다듬는다. 생각을 글로 쓰지 않기 때문에 정확도만 봐서는 두 상태가 각각 무슨 일을 하는지, 내부에서 읽히는 정보를 모델이 실제로 쓰는지 알 수 없다. 이 논문은 해부 도구 세 가지로 이 질문에 답한다. 첫째, 상태를 지우거나(ablation), 얼리거나(freezing), 다른 퍼즐의 상태로 바꿔 끼우는 **causal intervention(내부 상태를 직접 바꿔 출력이 어떻게 변하는지 보는 실험)**이다. 둘째, 상태에서 정답 관련 변수를 읽어 내는 **linear probe(내부 벡터에서 어떤 정보를 직선 하나로 분리해 읽을 수 있는지 재는 작은 분류기)**와, 그 방향만 지웠을 때의 효과다. 셋째, SAE(sparse autoencoder, 내부 벡터를 드물게 켜지는 많은 특징의 합으로 분해하는 장치) 특징 제거다. 결과는 세 갈래다. (1) 계층의 역할은 과제마다 다르다. Sudoku에서는 z_H가 점점 다듬어지는 해를 담아, 마지막 단계(step 15)의 z_H를 지우면 셀 정확도가 26.0%p 떨어진다. Maze에서는 다른 퍼즐의 z_L을 끼우면 step 4부터 유효 경로가 43–56% 무너지지만, z_H 교체는 마지막 출력 직전까지 거의 영향이 없다. (2) probe로 거의 90% 가까이 읽히는 변수의 방향을 지워도 효과는 무작위 방향을 지운 것과 비슷하다(±0.6%p 이내). “읽힌다”와 “쓰인다”는 다르다. (3) SAE 특징을 지우면 더 크게 흔들린다(Sudoku −3.63%p). 하지만 가장 강한 50개를 지우든 무작위 50개를 지우든 차이가 없다(p = 0.43). 학습을 BPTT로 바꿔도 같았다. 계산이 몇 개의 핵심 특징이 아니라 상태 전체에 퍼져 있다는 뜻이다. 덧붙여 계층이 없는 Recurrent Transformer가 Sudoku 퍼즐 정확도에서 HRM을 조금 앞섰다. 결국 HRM의 성능은 계층보다 반복에서 온다.

Implication: HRM류 재귀 추론기에서 “probe로 읽힌다”는 결과를 “모델이 그 변수로 추론한다”는 증거로 쓰면 안 되며, SAE의 상위 특징도 인과적 핵심을 짚지 못했다. 계층 구조의 가치는 성능보다 “따로 개입할 수 있는 두 상태”를 준다는 해석 가능성 쪽에 있을 수 있다. 다만 ARC-AGI-2는 표현 수준 분석만 했고, 대상은 27M HRM 하나다.

📎 https://arxiv.org/abs/2609.22197

배경과 문제

문제. LLM의 chain-of-thought와 달리 잠재 공간 추론은 연속 상태를 직접 다듬는다. 그래서 글로 남는 감사 기록이 없다. HRM은 이 계열의 초기 모델로 TRM, CGAR, Generative Recursive reasoning 같은 후속 모델에 영향을 주었다(Section 1). 최종 정확도만으로는 계산이 상·하위 모듈에 어떻게 나뉘는지, 어떤 알고리즘 전략을 쓰는지, 읽히는 특징을 실제로 쓰는지 알 수 없다(author-stated, Section 1).

연구 질문 (Section 1).

RQ1: z_H와 z_L은 추론 중 어떤 기능을 하고, 그 역할은 과제마다 다른가?
RQ2: 과제 변수가 잠재 상태에서 선형으로 읽힐 때, 그 probe 방향이 추론을 인과적으로 뒷받침하는가?
RQ3: probe와 SAE가 찾은 특징 중 성능에 가장 큰 영향을 주는 작은 특징 집합이 있는가?

계보 (Section 2).

잠재 추론: 은닉 상태를 다음 입력으로 되먹이는 latent CoT(Coconut, Heima 등)와, 블록 하나를 반복 통과하는 재귀 추론(ACT, Universal Transformer, Geiping et al. 2025의 확장, HRM, TRM, CGAR, Generative Recursive reasoning)이 있다. 저자들은 이 연구들이 주로 최종 정확도를 보고한다고 본다.
기계론적 해석가능성: linear probe(Belinkov 2022), probe 방향을 지워 인과를 시험하는 iterative null-space projection과 amnesic probing(Ravfogel et al. 2020, Elazar et al. 2021), LLM의 mono-semantic SAE 특징(Bricken et al. 2023, Templeton et al. 2024), activation patching과 궤적 분석이 있다.
가장 가까운 선행 연구: Ren & Liu(2026)는 HRM을 “structured guesser”로 보고 Sudoku 앙상블 투표를 제안했지만, 계층이 무엇을 담는지나 특징의 인과성은 시험하지 않았다. Miyanishi & Morimura(2026)는 HRM·TRM에서 상·하위 섭동의 공간적 영향 범위를 측정했다. 이 논문은 단계별 상태 필요성과 읽히는 특징의 인과적 지위를 다룬다(author-stated).

이 논문의 차이. feed-forward 모델에서 알려진 “읽힘 ≠ 인과” 해리를, 상태가 계속 다듬어지는 재귀 잠재 추론 모델에서 처음 확립했다고 주장한다(author-stated, Section 7).

관련 vault 노트: Less is More - Recursive Reasoning with Tiny Networks(HRM의 one-step gradient 근사를 문제 삼은 TRM. 이 논문 Section 6이 인용), Training Large Language Models to Reason in a Continuous Latent Space(Coconut, Section 2의 latent CoT 대표).

지표

지표	뜻	단위·방향	분모·조건	위치
Cell accuracy (Sudoku)	81칸 중 맞힌 칸 비율	%, 높을수록 좋음	평가 500개 퍼즐. 개입 실험은 1,000개 퍼즐, clean baseline 81.8%	Section 3, Appendix Table 5
Puzzle accuracy (Sudoku)	전체를 완전히 맞힌 퍼즐 비율	%, 높을수록 좋음	500개	Section 3, Appendix Table 4
Hamming distance	정답과 다른 칸의 수	칸 수, 낮을수록 좋음	500개	Figure 1
Valid S–G path rate (Maze)	출발점과 도착점을 잇는 유효 경로를 낸 비율	%, 높을수록 좋음	Maze-Hard. 개입 실험의 clean baseline은 실험마다 92.0–93.5%	Section 3, Figure 3
Path-cell / token accuracy (Maze)	경로 칸·토큰 단위 정확도	%	저자들은 이것이 약한 진단 지표라고 지적	Figure 3 캡션
Color-cell accuracy (ARC-AGI-2)	출력 격자의 색 칸 정확도	%	SAE 실험 150개 퍼즐	Section 6, Appendix A.2
Probe accuracy	선형 probe의 검증 정확도	%	이진 per-cell 타깃, 전역 경로 타깃, 10-way 색 분류 등 타깃마다 기준이 다름	Table 1
Δ metric (pp)	개입 없는 출력 대비 주 지표 변화	%p, 음수 = 성능 저하	paired per-example 비교, bootstrap 신뢰구간(probe) 또는 paired t-test(SAE)	Section 5–6

방법과 벤치마크 구성

모델과 데이터 (Section 3).

HRM: 27M, 하위 모듈 f_L과 상위 모듈 f_H가 각자 상태 z_L, z_H를 가진다. 한 cycle에서 z_L을 T번 갱신(Eq. 1)한 뒤 z_H를 한 번 갱신(Eq. 2)한다. N cycle이 한 segment(순방향 1회)이고, ACT head가 최대 M_max = 16 segment까지 계속할지 정한다. 학습은 deep supervision과 one-step gradient 근사(마지막 z_L, z_H 갱신만 미분)로 한다. 분석은 hidden d = 512에서 16 segment 전체 궤적 z_H^(0)…z_H^(15)를 쓴다.
Sudoku: Sudoku-Extreme, 공개 HRM 체크포인트를 재학습 없이 사용, 결정적 500개 평가 퍼즐.
Maze: 30×30 Maze-Hard, 공개 체크포인트를 재학습 없이 사용.
ARC-AGI-2: seed 42와 증강 1000개로 데이터셋을 다시 만들고, 공개 체크포인트에서 더 작은 퍼즐 부분집합과 더 짧은 epoch로 미세조정한다. 과제가 이질적이라 개입 해석이 어려워 probe와 SAE의 표현 수준 분석만 한다.

Finding 1 실험 (Section 4).

반복 vs 계층 비교: HRM과 4개 baseline을 비교한다. Recurrent Transformer(8층 post-norm을 16단계 갱신), Universal Transformer(가중치 공유 단일 상태 반복), Plain Transformer(1회 통과), GRU(입력 순서로 반복하지만 같은 해 상태를 다듬지 않음). 입력 embedding과 출력 head는 HRM과 같고, 데이터·학습 설정·파라미터 수(25–28M)를 대체로 맞췄다(Appendix Table 3). HRM은 재학습하지 않았다.
상태 개입: zero-ablation(모든 단계 또는 특정 단계에서 상태를 0으로), freezing(k단계 이후 갱신 정지), 같은 퍼즐 안 시점 이식(temporal transplant), 다른 퍼즐 상태로 교체하는 cross-puzzle patching이다.

Finding 2 실험 (Section 5). 매 반복 단계의 z_H와 z_L을 기록해 독립 probe를 학습한다. 타깃은 Sudoku(셀 값, 단서 여부, 셀 정답 여부, 행·열·박스 위반), Maze(벽·빈칸·경로 소속, 출발-도착 연결성, 경로 유효성), ARC-AGI-2(격자 기하, 색 구조, 물체 경계, 입출력 변환)다. probe 방향 ŵ는 직교 보공간 투영 z ← z − (zᵀŵ)ŵ(Eq. 3)로 지운다. 비교 대상은 Gaussian에서 뽑은 rank-matched 무작위 방향이다.

Finding 3 실험 (Section 6). HRM 반복 활성에 SAE를 학습한다(사전 크기 D_SAE ∈ {1024, 2048, 4096}, sparsity λ ∈ {0.001, …, 0.1} grid search). 개입 시 활성을 인코딩해 선택한 계수를 0으로 만들고 디코딩해 추론을 이어 간다. 활성 크기 상위 k개와 무작위 k개를 비교한다. BPTT 대조: one-step 근사 HRM과 BPTT(backpropagation through time, 반복 전 구간 역전파) HRM을 같은 설정·데이터·seed로 처음부터 학습해 Sudoku 200개 퍼즐에서 SAE 분석을 반복한다.

주요 결과

주장	근거 위치	관찰/수치	조건·주의	출처 라벨
반복이 있어야 Sudoku를 푼다	Figure 1, Appendix Table 4	반복 모델은 16단계에 걸쳐 Hamming 감소·셀 정확도 상승. Plain Trans·GRU는 평평(Hamming >30). Recurrent Trans 최고 퍼즐 51.4%, Univ. Trans 48.4%, Plain 0.4% 이하, GRU 0.0%	체크포인트별 최고값. HRM의 퍼즐 정확도 수치는 표에 없다	author-stated
계층 자체가 Sudoku 성능을 올리지는 않는다	Section 4, Section 7	계층 없는 Recurrent Transformer가 퍼즐 정확도에서 HRM을 “slightly” 앞선다	HRM 숫자가 제시되지 않아 차이 크기는 확인 불가	author-stated
Sudoku에서 z_H가 점점 다듬어지는 해 상태다	Figure 2a, Table 5	단일 단계 z_H ablation: step 1 −1.8 → step 15 −26.0%p. z_L 단일 단계는 최대 −1.0	1,000 퍼즐, clean 81.8%. 모든 단계 ablation은 z_H, z_L 모두 −19.3으로 같다	author-stated
z_H를 일찍 얼릴수록 손해가 크다	Figure 2b, Table 6	캡션: step 0 동결 −9.1. Table 6: step 1 −6.2, 2 −3.9, 4 −2.0, 8 −0.4. z_L 동결은 ±0.2	본문은 “step 1부터 동결 시 −9.1”이라 써서 캡션·Table 6과 어긋난다	author-stated (수치), analyst-inference (불일치)
늦은 z_H를 이른 단계에 이식하면 약간 좋아진다	Figure 2c, Table 7	Sudoku 9→2 +0.8, 12→2 +0.7. 반대 방향 10→14 −0.5	효과가 1%p 안팎으로 작다	author-stated
Maze에서는 z_L이 중간 경로를 운반한다	Figure 3c	다른 퍼즐 z_L 교체: step 4부터 유효 경로 −43~−56%. z_H 교체는 step 15에서만 −26	250쌍 donor–target	author-stated
그러나 Maze의 z_H도 최종 출력에 중요하다	Figure 3a–b, Table 5	모든 단계 ablation 유효 경로: z_H −32.5, z_L −8.5. 단일 단계 z_H step 15 −38.5	”Maze는 z_L”이라는 요약과 함께 읽어야 할 반례	author-stated (수치), analyst-inference (해석)
과제 변수는 선형으로 잘 읽힌다	Table 1, Figure 5a	Sudoku 위반 88.3/87.8/87.5(z_H), 셀 정답 82.5. Maze 유효 경로 95.7(z_H)/92.1(z_L), 정확히 풂 77.5. ARC-2 색 변경 97.2, 셀 정답 91.6, 입력 색 81.4	서론의 “~90%“는 이 범위(75.8–97.6)의 대략값	author-stated
probe 방향은 인과적으로 특별하지 않다	Figure 5b	probe/무작위 방향 ablation: Sudoku +0.23/+0.57, Maze −0.19/+0.22, ARC-2 −0.16/+0.12 (%p)	전체 상태 개입(수십 %p)보다 훨씬 작다	author-stated
읽힘 위치와 인과 위치가 다르다 (Maze)	Figure 5c	유효 경로 probe: z_H 95.7, z_L 92.1. donor patching: z_H −4.4, z_L −47.2	패칭 단계는 그림에 명시되지 않음	author-stated
SAE 특징 제거가 probe 방향보다 크게 흔든다	Figure 4, Section 6	Sudoku −3.63, Maze −2.99 vs probe 거의 0	ARC-2에서는 SAE 제거가 오히려 +1.27	author-stated
상위 SAE 특징이 무작위보다 중요하지 않다	Figure 4, Section 6	top-50/random-50: Sudoku −3.63/−3.40(p = 0.43), Maze −2.99/−3.35(p = 0.18), ARC-2 +1.27/+1.28(p = 0.94)	대표 SAE 설정 1개. 다른 사전 크기·λ에서도 같은 경향(Appendix A.10)	author-stated
BPTT로 학습해도 분산 계산은 그대로다	Table 2	top-50/random-50: Stock −1.59/−1.37(p = 0.39), BPTT −29.64/−29.63(p = 0.93)	Sudoku만, 200개 퍼즐. 처음부터 학습한 모델이라 Figure 4와 절대 크기 비교 불가	author-stated

결과끼리의 연결. Finding 1은 “어느 상태가 인과적으로 중요한가”를 상태 단위로 보인다. Finding 2는 그 상태 안에서 “읽히는 방향”이 인과적 단위가 아님을 보인다. Finding 3은 더 풍부한 SAE 기저로도 작은 인과 핵심을 찾지 못한다는 것을 보인다. 저자들은 이를 “계층 전체에 유연하게 할당되고 그 안에 분산된 퍼즐별 해 상태를 제약을 의식하며 반복 정제한다”고 요약한다(author-stated, Section 7).

주의할 점 (analyst-inference):

512차원 상태에서 방향 하나를 지우는 개입은 원래 효과가 작을 수 있다. 저자들은 무작위 방향과 비교해 “특별하지 않다”는 주장으로 한정하지만, 토론에서 “인과 효과 없음”으로 확대 해석하면 안 된다. Section 7의 “no measurable causal effect”라는 표현은 Figure 5b의 ±0.6%p 수준 변화를 가리킨다.
ARC-AGI-2에서 SAE 제거가 색 정확도를 높인 것(+1.27)은 저자가 따로 해석하지 않는다.

Take-home

한 줄 요약: HRM은 계층별 역할을 과제에 따라 바꾸며 해 상태를 반복 정제하지만, 그 계산은 probe 방향이나 상위 SAE 특징 같은 작은 단위로 모이지 않고 상태 전체에 퍼져 있다.
성립 범위: 27M HRM 공개 체크포인트(Sudoku-Extreme, Maze-Hard)와 저자가 미세조정한 ARC-AGI-2 모델에서 확인되었다. ARC-AGI-2는 표현 수준 분석만 했다.
저자가 밝힌 한계 (author-stated, Section 7):
- ARC-AGI-2는 표현 수준 복제일 뿐이다.
- BPTT 대조는 Sudoku만, 처음부터 학습한 모델이라 공개 체크포인트와 절대 효과 크기를 비교할 수 없다.
- ~27M HRM 하나만 봤다. 다른 크기·다른 잠재 추론 모델(TRM 등)은 열린 문제다.
- 남은 가설은 두 가지다. (i) 512차원 상태 하나가 정적 입력, 제약, 진행 중인 해를 모두 담아 중첩된 dense 표현을 쓸 수 있다. (ii) 크기 순 SAE 특징이 재귀 상태에 맞지 않는 단위일 수 있다.
작성자가 보는 우려 (analyst-inference):
- 반복 vs 계층 결론은 Sudoku 한 과제에서 나왔고, HRM 자체의 퍼즐 정확도가 표로 제시되지 않았다.
- SAE 상위 특징의 순위 기준이 활성 크기 하나뿐이다. attribution 기반 순위는 저자도 향후 과제로 남겼다.
- 본문·캡션·부록 표 사이에 freezing 수치(step 0 대 step 1의 −9.1)가 어긋난다.
반복·공개: 개입 실험은 1,000개 퍼즐(일부 200개), patching은 250쌍, ARC probe는 seed 5개, SAE 비교는 paired t-test로 보고한다. 코드는 https://github.com/LeoRodrigues05/HRM 에 있다(1쪽 각주).
읽지 못한 범위: 부록 도표(Figures 6–15, Tables 3–19)는 텍스트로만 훑었다.
수업 토론 메모 (analyst-inference): ARC-AGI 토론에서 “HRM의 계층이 뇌의 빠른/느린 사고를 구현한다”는 주장에 대한 반론 근거가 된다. 계층 없는 반복 Transformer도 비슷하게 풀고, 계층의 역할은 과제마다 바뀐다. Less is More - Recursive Reasoning with Tiny Networks의 “계층은 불필요” 주장과 같은 방향의 해석가능성 측 증거다.

본문 도표

Figure 1 — 다섯 구조의 단계별 Hamming 거리와 셀 정확도

무엇을 보여주는가: HRM, Recurrent Transformer, Universal Transformer, Plain Transformer, GRU가 Sudoku 추론 단계(0–15)에 따라 정답과의 Hamming 거리(a)와 셀 정확도(b)를 어떻게 바꾸는지.
읽는 법: x축 Reasoning step, y축 (a) Hamming distance, (b) Cell accuracy(0–1). 실선 = 반복 모델, 점선 = 반복 없는 모델(수평선).
핵심 관찰: 반복 모델 세 개는 Hamming 약 26에서 약 16으로, 셀 정확도는 약 0.68에서 약 0.8로 거의 겹쳐서 움직인다. Plain Trans는 약 31, GRU는 약 41에서 평평하다(그래프 판독, analyst-inference).
의미와 주의: 저자들은 반복이 필요하다는 근거로 쓴다(author-stated). HRM과 계층 없는 반복 모델이 거의 같은 곡선이라는 점이 “계층은 성능의 원천이 아니다”를 시각적으로 뒷받침한다(analyst-inference).
확인 상태: viewed

Figure 2 — Sudoku에서 z_H가 동적 계획이라는 인과 증거

무엇을 보여주는가: (a) 단계별 z_H zero-ablation의 셀 정확도 변화, (b) k단계 이후 z_H 동결 시 손실, (c) 시점 이식(Future→Past, Past→Future)의 효과.
읽는 법: (a) x축 ablation 단계(0–15), y축 Δ acc.(pp). (b) x축 동결 시작 k(0, 1, 2, 4, 8, 12), y축 Loss(pp). (c) 막대 라벨이 donor→recipient 단계, 초록 = 미래→과거, 보라 = 과거→미래.
핵심 관찰: (a) 캡션 기준 step 0 −6.8에서 step 15 −26.0으로 단조 악화한다. (b) k = 0에서 약 9.1, 이후 줄어 k = 8에서 거의 0이다. (c) 미래→과거 이식은 대체로 양수(최대 약 +2), 과거→미래는 음수(최대 약 −1.4)다(그래프 판독).
의미와 주의: 저자들은 z_H가 단계마다 완성도가 올라가는 계획이며 step 8쯤 거의 완성된다고 해석한다(author-stated). 본문은 “step 1부터 동결 시 −9.1%“라고 쓰지만 캡션은 step 0, 부록 Table 6은 step 1을 −6.2로 적는다(analyst-inference). (c)의 초록 막대 중 일부는 0 근처이거나 약간 음수다.
확인 상태: viewed

Figure 3 — Maze의 재편된 역할 분담

무엇을 보여주는가: (a) 모든 단계 ablation의 지표별 변화(token acc, path-cell acc, valid path, connectivity), (b) 단계별 ablation의 유효 경로 변화, (c) 다른 퍼즐 상태로 교체(donor patching)한 단계별 유효 경로 변화. 파랑 = z_H, 주황 = z_L.
읽는 법: y축 Δ metric 또는 Δ path(pp). (b)(c)의 x축은 단계(0, 4, 8, 12, 14, 15).
핵심 관찰: (a) token 정확도는 거의 안 변하지만 유효 경로는 z_H −32.5, z_L −8.5다. (b) z_H는 마지막 단계에서만 크게 떨어지고(부록 Table 5: −38.5), z_L 단일 단계는 −4.5를 넘지 않는다. (c) z_L 교체는 step 4부터 −43~−56, z_H 교체는 step 15에서만 −26이다.
의미와 주의: 저자들은 z_L이 중간 경로 상태의 가장 강한 “패칭 가능한 운반자”이고 z_H는 출력에서 결정적이라고 해석한다. token 정확도는 약한 진단 지표라고 지적한다(author-stated). “Maze의 해는 z_L에”라는 요약은 patching 기준이며, ablation 기준으로는 z_H가 더 파괴적이다(analyst-inference).
확인 상태: viewed

Figure 4 — 대표 SAE 설정의 인과 효과

무엇을 보여주는가: Sudoku(Δ셀 정확도), Maze(Δ유효 경로), ARC-AGI-2(Δ색 셀 정확도)에서 Top-50 SAE, Random-50 SAE, probe 방향, 무작위 방향을 지웠을 때의 평균 변화.
읽는 법: y축 Δ task metric(pp), 음수 = 성능 저하. 과제별 네 막대.
핵심 관찰: Sudoku −3.63/−3.40/+0.23/+0.57, Maze −2.99/−3.35/−0.19/+0.22, ARC-AGI-2 +1.27/+1.28/−0.16/+0.12(Top-50/Random-50/probe/random dir. 순).
의미와 주의: 저자들은 SAE 사전이 인과적으로 의미 있는 구조를 담지만 순위 기준이 특별한 부분집합을 찾지 못한다고 해석한다(author-stated). ARC-AGI-2에서 SAE 제거가 성능을 올린 이유는 설명되지 않는다(analyst-inference).
확인 상태: viewed

Table 1 — 과제별 선형 probe 검증 정확도 (발췌)

무엇을 보여주는가: Sudoku·Maze는 최종 단계(step 15)의 z_H/z_L, ARC-AGI-2는 z_H step 15에서 선택 타깃의 probe 정확도.
읽는 법: 열 = 과제, 상태/단계, 타깃, probe 정확도, 기준/비고(per-cell binary, global path features, representation-level, 10-way multiclass).
핵심 관찰: Sudoku 행/열/박스 위반 88.3/87.8/87.5(z_H), 88.2/87.6/87.1(z_L), 셀 정답 82.5(z_H)/83.3(z_L). Maze 정확히 풂/유효 경로 77.5/95.7(z_H), 75.8/92.1(z_L), 연결성/최적 경로 94.5/86.6(z_H). ARC-2 셀 정답/색 변경 91.6/97.2, 입력과 같음/물체 경계 97.6/82.0, 입력 색/출력 색 81.4/88.6.
의미와 주의: per-cell binary 타깃은 우연 수준이 50%가 아니라 클래스 비율에 좌우되는데, 표에는 다수 클래스 기준선이 없다(analyst-inference). z_H와 z_L이 비슷하게 읽혀 Section 4의 비대칭을 반영하지 않는다는 것이 저자 논지다(author-stated).
확인 상태: viewed

Figure 5 — probe로 읽힌다고 인과적이지는 않다

무엇을 보여주는가: (a) 세 과제의 대표 probe 정확도, (b) probe 방향과 rank-matched 무작위 방향을 지웠을 때의 행동 변화, (c) Maze에서 probe readout(유효 경로)과 donor patching 효과를 z_H/z_L별로 비교.
읽는 법: (a) y축 probe 정확도(%), 점선 50%. (b) y축 Δ task metric(pp), 범위 ±1. (c) 왼쪽 막대 = probe 정확도(%), 오른쪽 막대 = Δ유효 경로(pp).
핵심 관찰: (a) Sudoku 위반 평균 87.9, 셀 정답 82.5. Maze 유효 경로 95.7, 연결성 94.5. ARC 색 변경 97.2, 셀 정답 91.6. (b) Figure 4의 probe/무작위 값과 같다(±0.6 이내). (c) probe readout은 z_H 95.7, z_L 92.1로 비슷하지만 donor patching은 z_H −4.4, z_L −47.2로 크게 갈린다.
의미와 주의: 저자들은 probe 정확도가 정보 접근성만 재고 인과 메커니즘을 찾지 못한다는 근거로 쓴다(author-stated). (c)의 z_H −4.4는 Figure 3c의 step 15 값(−26)과 달라, 어느 단계 또는 평균인지 그림에 명시되지 않았다(analyst-inference).
확인 상태: viewed

Table 2 — BPTT 학습 체제 점검

무엇을 보여주는가: one-step 근사로 학습한 Stock HRM과 BPTT HRM에서 SAE 특징 제거 시 셀 정확도 평균 변화(200개 공유 퍼즐).
읽는 법: 행 = 모델, 열 = Top-50 SAE / Random-50 SAE 제거.
핵심 관찰: Stock −1.59/−1.37(paired t-test p = 0.39, d = −0.06), BPTT −29.64/−29.63(p = 0.93, d = −0.01).
의미와 주의: BPTT는 SAE 제거의 영향 크기를 키우지만 상위 특징 집중은 만들지 않는다. 그래서 저자들은 one-step 근사가 분산 계산의 근본 원인이 아니라고 결론 낸다(author-stated). 두 모델은 따로 학습되어 Figure 4와 절대 크기를 비교할 수 없다고 저자가 명시한다. 여기서 Stock HRM은 BPTT 모델과 같은 설정·데이터·seed로 처음부터 학습한 모델이며 공개 체크포인트가 아니다(Section 6, author-stated).
확인 상태: viewed

Wiki 연결

Less is More - Recursive Reasoning with Tiny Networks — TRM이 HRM의 계층·고정점 근사를 불필요하다고 본 성능 측 주장이다. 이 논문은 같은 결론을 해석가능성 측에서 뒷받침한다(계층 없는 반복 모델이 비슷하게 풂, one-step 근사는 분산 계산의 원인 아님).
Training Large Language Models to Reason in a Continuous Latent Space — Section 2에서 대비되는 latent CoT(Coconut) 계열이다.
Fixed-Point Reasoners - Stable and Adaptive Deep Looped Transformers — 반복 동역학과 고정점 가정이라는 같은 쟁점을 다룬다.
Reasoning with Latent Thoughts - On the Power of Looped Transformers — 반복이 잠재 사고 단계를 구현한다는 이론적 관점이다. 이 논문은 그 단계들이 해석 가능한 작은 특징으로 나뉘지 않음을 보인다.

BibTeX

@article{rodrigues2026dissecting,
  title   = {Dissecting Hierarchical Reasoning Models: A Mechanistic Study},
  author  = {Rodrigues, Leo Raphael and Kang, Jian},
  journal = {arXiv preprint arXiv:2609.22197},
  year    = {2026}
}