루프 추론 언어모델의 기계론적 분석

개요

같은 층 묶음을 여러 번 되돌려 쓰는 **루프 언어모델(looped language model)**은 “더 많이 돌리면 더 깊이 생각한다”는 기대로 주목받지만, 그 안에서 실제로 무슨 계산이 일어나는지는 거의 들여다본 적이 없었다. 일반(feedforward) 트랜스포머에 대해서는 층마다 하는 일이 깊이에 따라 뚜렷이 바뀐다는 추론 단계(stages of inference) 관점이 있다. 앞쪽 층은 정보를 섞고, 가운데 층은 특정 토큰에 attention을 몰아주며 압축하고, 뒤쪽 층은 다시 예측을 다듬는 식이다. 그런데 루프 모델은 같은 가중치를 반복하므로 “층마다 다른 일”을 할 여지가 구조적으로 막혀 있다. 그렇다면 단계가 사라질까, 아니면 다른 모양으로 나타날까? 저자들의 통찰은 **순환 고정점(cyclic fixed point)**에 있다. 반복 블록 전체가 고정점에 도달하면, 블록 안 각 층의 출력도 반복마다 같은 자리로 돌아온다. 다만 그 자리는 층마다 다를 수 있어서, 층 하나하나는 서로 다른 점에 머물고 블록 전체는 잠재 공간에서 같은 원을 계속 그린다. 시계 바늘이 매 시간 같은 숫자들을 순서대로 지나가는 것과 비슷하다. 이렇게 되면 각 층의 attention 패턴도 반복마다 거의 같아진다(Proposition 4.2). 실제로 Ouro 1.4B, Huginn-0125, 반복을 덧붙인(retrofitted) Llama에서 GSM8K 256문항으로 재 보니, 같은 층의 attention 행렬끼리 가장 닮았고, 반복 블록 하나 안에서 ColSum concentration(attention이 몇몇 토큰에 얼마나 몰리는지 재는 지표)이 일반 Llama의 단계 곡선을 그대로 축소해 되풀이했다. 처음부터 루프로 학습한 Ouro도, 학습 편향을 일부러 없앤 소형 루프 모델도 같은 경향을 보였다. 그러나 반례가 핵심이다. Ouro는 반복을 128번까지 늘려도 고정점에 도달하지 않아 학습 범위 밖 반복에서 층 동작이 계속 흔들렸고, Huginn-0125는 잔차 흐름을 매번 정규화하는 구조 때문에 단계 자체가 뚜렷하게 생기지 않았다. 무작위 초기화 모델 실험에서는 input injection(매 반복마다 원래 입력을 다시 넣어 주는 장치)이 있어야 대부분의 정규화 방식에서 안정된 고정점이 생겼다.

Implication: 루프 모델의 “반복 = 더 깊은 생각”은 적어도 이 모델들에서는 새로운 계산을 계속 쌓는 것이 아니라, 일반 트랜스포머의 단계 묶음을 같은 궤도로 되풀이하는 모습으로 측정됐다. 그리고 그 궤도가 안정적인지는 input injection과 정규화 위치 같은 설계 선택이 좌우한다.

📎 https://arxiv.org/abs/2604.11791

배경과 문제

무엇이 풀리지 않았나. 추론 성능은 CoT 프롬프팅이나 강화학습 미세조정으로 끌어올리는 경우가 많았고, 최근에는 층을 잠재 차원에서 반복(recurrent looping)해 test-time 계산을 늘리는 방식이 나왔다(Geiping et al., 2025; Wang et al., 2025; Jolicoeur-Martineau, 2025). 경험적 성공은 커지지만 이 모델들의 내부 메커니즘, 그리고 feedforward 계산과 비교한 장단점은 잘 이해되지 않았다(author-stated, Section 1).

학술적 계보 (원문이 직접 인용한 것).

루프·재귀 트랜스포머: Universal Transformers(Dehghani et al., 2018)에서 시작해 희소·조건부 계산 확장(Tan et al., 2023; Csordás et al., 2024), 추론 지향 구조 HRM(Wang et al., 2025)과 TRM(Jolicoeur-Martineau, 2025). 언어모델로는 처음부터 학습한 Huginn-0125, Ouro, Mixture-of-Recursions와, 사전학습된 LLM에 반복을 덧붙인 retrofit 연구(McLeish et al., 2025; Koishekenov et al., 2025)(author-stated, Section 3). vault 노트: [Less is More - Recursive Reasoning with Tiny Networks].
표현력 이론: Xu & Sato(2024), Saunshi et al.(2025)(author-stated, Section 3). vault 노트: Reasoning with Latent Thoughts - On the Power of Looped Transformers.
고정점·안정성: Bai et al.(2019, DEQ), Anil et al.(2022), Ke et al.(2024), Yudin et al.(2025). 가중치를 공유한 트랜스포머가 반복될수록 일관된 동작(대개 고정점)으로 간다는 관찰(author-stated, Section 3, 4).
추론 단계와 attention 동역학: Lad et al.(2024)이 “stages of inference”를 처음 제안, Queipo-de Llano et al.(2025)이 attention head의 혼합(mixing)과 massive activation(일부 차원의 매우 큰 활성값)으로 단계 형성을 설명. attention sink(첫 토큰 등에 attention이 몰리는 현상, Xiao et al., 2023; Barbero et al., 2025)와 GNN의 정보 전파 문제에서 온 mixing 관점(author-stated, Section 2.2, 3).
가장 가까운 선행 분석: Pappone et al.(2025)은 1~2층짜리 반복 블록 여러 개로 된 모델의 “two-scale” 동역학을 분석했다. 저자들은 자신들이 4층 이상 깊은 사이클 하나를 층별로 본다는 점에서 다르다고 말한다. 순환 블록 내부 상태를 분석한 유일한 연구로 Lu et al.(2025)을 들며, 그 연구가 반복 블록 전체에서 logit lens 예측이 주기적으로 바뀌는 것을 보였다고 쓴다(author-stated, Section 3). vault 노트: Latent Chain-of-Thought Decoding the Depth-Recurrent Transformer.

이 논문의 기여 (Section 1). (1) 많은 루프 모델이 순환 고정점으로 가며, 이것이 고정된 attention 패턴으로의 수렴을 뜻한다는 이론적·경험적 근거(Sec. 4), 구조 선택의 영향(Sec. 4.2). (2) 이 안정된 attention 패턴이 feedforward 모델의 “mixing” 추론 단계를 그대로 따르고(Sec. 5), 학습 중 자연스럽게 생기며(Sec. 5.1), 고정점이 안정된 모델만 학습 범위 밖 반복에서도 단계를 유지한다(Sec. 5.2)(author-stated).

지표

지표	무엇을 세나	단위·범위	방향	분모·정규화	측정 조건	위치
ColSum concentration $C$	attention 행렬 열 합 $c_{j} = \sum_{i} A_{ij}$ 를 $T$ 로 나눠 확률분포 $\overset{c}{^}_{j}$ 를 만들고, 정규화 엔트로피로 $C = 1 - H_{co l} = 1 + \frac{1}{l o g T} \sum_{j} \overset{c}{^}_{j} lo g \overset{c}{^}_{j}$	0~1	높을수록 소수 토큰에 attention이 몰림(첫 토큰 sink뿐 아니라 어느 위치든)	시퀀스 길이 $T$ 로 정규화. 배치·head 평균	GSM8K test 256문항 무작위 부분집합	Section 2.2
잔차 흐름 차이 노름	같은 층 출력의 연속 반복 간 차이 노름	0 이상	0에 가까울수록 반복 간 변화 작음	원문에 정규화 방식 명시 없음(`unknown`)	반복 최대 128	Section 4.1, Figure 3
근사 고정점까지의 노름 / 코사인 유사도	각 층 출력과 128번째 반복의 같은 층 출력(“approximate fixed point”) 사이 차이 노름(Figure 4) 또는 코사인 유사도(Figure 6)	노름 0 이상 / 코사인 −1~1	노름 0·코사인 1이면 고정점 도달	—	Figure 4: 사전학습 모델 3개. Figure 6: 무작위 초기화 12층 모델, 초기화 3회 평균	Section 4.1–4.2
attention 패턴 간 Frobenius 노름	서로 다른 깊이의 attention 행렬 간 Frobenius 노름	0 이상	낮을수록 두 층의 attention 패턴이 닮음	배치·head 평균	8회 반복	Section 4.1, Figure 2
잔차 흐름 노름	반복 위치별 잔차 벡터 크기	로그 축	단계 형성에 필요한 크기 증가가 있는지 확인용	—	Huginn·Ouro·retrofitted Llama	Section 5, Figure 9

부록 E는 sink rate, mixing score, residual entropy, prediction/suppression neuron 비율을 추가 지표로 쓴다(author-stated, Appendix E). 이 노트는 본문 지표만 정리한다. 이 논문은 정확도 같은 과제 성능 지표를 직접 측정하지 않는다. 성능 관련 언급(Ouro 외삽 시 성능 저하, Huginn 성능 유지)은 원 논문들(Zhu et al., 2025 Tab. 10; Geiping et al., 2025 Fig. 1)을 인용한 것이다(author-stated, Section 5.2).

방법과 벤치마크 구성

기호와 구조 (Section 2.1). $k$ -stacked block $S_{k}$ 는 트랜스포머 블록 $k$ 개를 이어 붙인 것이고, 이를 $l$ 번 반복한 것이 $(k \otimes l)$ -Recurrent block이다(식 (6)). input injection이 있으면 매 반복 시작에 원래 입력 $X$ 와 현재 상태 $Z$ 를 이어 붙여 학습된 행렬 $W_{I} \in R^{2 D \times D}$ 로 투영한다(식 (5), (7)). 반복 블록 앞뒤의 가중치 비공유 층을 prelude와 coda라 부르고, 전체를 $(p, k \otimes l, c)$ , input injection이 있으면 아래첨자 $I$ 로 표기한다(author-stated).

이론 (Section 4).

Proposition 4.1 (순환 고정점): 반복 블록 $S_{k}$ 가 $S_{k} (X^{'}) = X^{'}$ 인 고정점에 도달하면, 블록 1..k의 어떤 순환 순열도 고정점에 도달한다. 이 고정점들이 서로 같을 필요는 없으므로 층 순서가 잠재 공간에서 임의의 사이클을 그릴 수 있다. 모든 층이 같은 고정점에 가려면 각 블록의 작용이 0으로 가야 한다(author-stated; 증명 Appendix A).
Proposition 4.2 (attention 패턴의 느린 변화): 반복 간 attention 가중치가 공유되고 입력 노름이 $∥ X_{ℓ, t} ∥ \leq B$ 로 유계라는 가정에서, 연속 반복 사이 attention 패턴 변화는 $L_{s m} \frac{2 B κ _{ℓ}}{d} ∥ X_{ℓ, t} - X_{ℓ, t - 1} ∥$ 이하다( $κ_{ℓ} = ∥ W_{Q} W_{K}^{⊤} ∥$ ). 잔차 흐름이 반복 간 거의 안 바뀌면 attention 패턴도 거의 안 바뀐다는 뜻이다(author-stated; 증명 Appendix A, $L_{s m} = 1/2$ 은 Nair (2025) 인용). 유계 가정은 모든 모델이 attention 앞에 norm을 둔다는 점으로 정당화한다(각주 2).

대상 모델 (Section 4.1, Appendix B Table 1·2). 사전학습된 루프 모델 Ouro 1.4B(Zhu et al., 2025), Huginn-0125(Geiping et al., 2025, 3.5B), retrofitted Llama(McLeish et al., 2025, Llama-3.2-1B 기반). 부록에서 Ouro 2.6B, retrofitted OLMo-2, retrofitted TinyLlama 추가. 구조는 Ouro (0, 24, 0), Huginn (2, 4, 2)_I, retrofitted (4, 6, 4)_I 또는 (4, 8, 4)_I이고, 정규화 위치가 서로 다르다(Appendix B Table 1)(author-stated).

데이터. 별도 언급이 없으면 GSM8K test에서 무작위로 뽑은 같은 256문항에 대한 평균. 일부 궤적 그림은 Barbero et al.(2025)의 짧은 테스트 문장 하나를 쓴다. 비추론 데이터 HellaSwag 결과는 Appendix E.4에 있고 결론이 달라지지 않았다고 말한다(author-stated, Section 4.1, Appendix B).

실험 구성.

고정점 수렴 확인 (Sec. 4.1): 연속 반복 간 잔차 차이(Fig. 3), 128번째 반복을 근사 고정점으로 둔 거리(Fig. 4), 층 간 attention Frobenius 노름(Fig. 2), PCA 궤적(Fig. 1, 5).
구조 요인 분리 (Sec. 4.2): 무작위 초기화한 12층(prelude·coda 없음) 모델에서 pre-norm, Huginn식 norm, Ouro식 norm 각각을 input injection 유무로 비교. 초기화 3회 평균(Fig. 6). 학습된 모델이 아니라 무작위 초기화 모델로 본 이유는 무작위 모델도 학습된 모델과 비슷한 순환 동작을 보이기 때문이라고 말한다(author-stated).
추론 단계 비교 (Sec. 5): 반복 블록 내 상대 깊이(%)에 따라 ColSum concentration을 그려 대응하는 feedforward 모델(Llama 3.2 1B, OLMo2)과 겹쳐 봄(Fig. 7, 8, 9).
학습 편향 제거 (Sec. 5.1): retrofit의 기반 모델 상속, 반복 1회를 허용하는 스케줄러, 반복별 손실 합 같은 “feedforward 쪽으로 미는 편향”을 없애려고, 고정 반복 4·최종 상태만 쓰는 표준 손실로 소형 루프 모델을 처음부터 학습. 구성 (2, 4⊗4, 2), (2, 8⊗4, 2), (2, 12⊗4, 2), input injection 없음. 비교군은 깊이 12의 feedforward 모델. 모델 차원 512(head 4개 × 128), 3.7B 토큰, pre-norm만 사용, Nanochat 포크 기반(Fig. 10; Appendix B)(author-stated).
학습 범위 밖 반복 (Sec. 5.2): retrofitted Llama와 Ouro 1.4B를 128회 반복(Fig. 11, 12).

seed 수는 Section 4.2의 무작위 초기화 3회 외에는 보고되지 않았다. 코드 공개 여부는 원문에서 확인되지 않았다(소형 학습에 쓴 공개 Nanochat 포크 주소만 Appendix B에 있다).

주요 결과

주장	근거 위치	관찰/수치	조건·주의	출처 라벨
연속 반복 간 잔차 변화가 빠르게 작아진다	Section 4.1, Figure 3	세 모델 모두 같은 층의 연속 반복 간 차이 노름이 반복 초반에 0 근처로 떨어짐	Proposition 4.2의 출발 가정을 경험적으로 확인	author-stated
attention 행렬은 다른 반복의 같은 층과 가장 닮는다	Section 4.1, Figure 2	층 간 Frobenius 노름 지도에 대각선 줄무늬(같은 층끼리 낮은 노름). Ouro는 첫 반복 직후, Huginn·retrofitted Llama는 prelude 직후부터	8회 반복	author-stated
그러나 모든 루프 모델이 고정점에 도달하지는 않는다	Section 4.1, Figure 4	Huginn-0125·retrofitted Llama는 128번째 반복과의 거리가 빠르게 0으로 감. Ouro는 연속 차이는 작아도 128번째와의 거리가 반복 내내 큼	”근사 고정점”은 128번째 반복을 대리로 쓴 것	author-stated
input injection이 고정점 수렴을 돕는다	Section 4.1–4.2, Figure 6	무작위 초기화 12층 모델: input injection이 있으면 Ouro norm을 제외한 모든 norm에서 안정된 고정점. 없으면 pre-norm만 수렴	학습되지 않은 모델. 초기화 3회 평균	author-stated
input injection 없는 pre-norm의 고정점은 “퇴화”	Section 4.2, Figure 6 오른쪽	첫 층과 가장 덜 닮은 층의 고정점과의 코사인도 1로 수렴 → 모든 층이 같은 고정점	층마다 다른 순환 궤도가 아니라 한 점	author-stated
반복 블록 안에서 feedforward 추론 단계가 축소 반복된다	Section 5, Figure 7, 8	retrofitted Llama 8회 반복에서 반복마다 같은 ColSum 사이클. Ouro 1.4B는 처음부터 루프로 학습했는데도 Llama 3.2 1B 단계를 닮음. retrofitted 모델은 기반 모델의 초반·후반 단계를 prelude·coda가 한 번씩, 중간 단계를 반복 블록이 되풀이	GSM8K 256문항	author-stated
Huginn-0125에는 뚜렷한 단계가 없다 (부정 결과)	Section 5, Figure 9, Appendix Figure 36	잔차 흐름을 매번 정규화하는 sandwich norm 때문에 잔차 노름이 성장하지 못함(Huginn은 ~10^2 근처에서 평평). 이 성장이 압축·sink·단계 형성의 원인이라는 Queipo-de Llano et al.(2025)의 설명을 따름	원인은 저자 제안(“likely due to”), 직접 인과 실험은 없음	author-stated
학습 편향 없이도 단계가 스스로 생긴다	Section 5.1, Figure 10	고정 반복 4·표준 손실 소형 루프 모델 세 구성 모두 반복 블록 안에서 feedforward 대조군과 비슷한 ColSum 단계 곡선	저자 스스로 “small scale, treated with caution”	author-stated
고정점이 안정된 모델만 학습 범위 밖 반복에서도 단계를 유지	Section 5.2, Figure 11, 12	retrofitted Llama: 각 층 ColSum이 빠르게 상수로 고정, 128회까지 단계 유지. Ouro 1.4B: 층별 ColSum이 반복 내내 계속 변하고, 단계 곡선이 반복마다 흩어짐	다른 input injection 모델에서도 성립한다고 말하지만 본문 그림은 retrofitted Llama만	author-stated
안정성과 외삽 성능의 연결	Section 5.2	Ouro는 학습 범위 밖 반복에서 성능 저하(Zhu et al., 2025, Tab. 10 인용), Huginn은 유지(Geiping et al., 2025, Fig. 1 인용)	이 논문이 직접 성능을 잰 것이 아니라 원 논문 결과를 인용한 상관	author-stated (인용)
고정점이 아닌 극한 동작(orbit, slider)은 드물다	각주 1, Appendix C Table 3·4	시스템 프롬프트 없이 Huginn 토큰의 약 0.02%만 비고정점 동작, 긴 persona 프롬프트에서 0.14%	휴리스틱 분류기(Algorithm 1)의 하이퍼파라미터를 눈으로 정함. 저자도 절대값은 조심하라고 함	author-stated

결과의 연결. 이론(Prop. 4.1, 4.2)은 “고정점에 도달하면 → 층마다 다른 점을 도는 순환 궤도 → attention 패턴 고정”이라는 조건부 사슬이다. 4.1절은 이 사슬의 앞부분(반복 간 변화 감소)은 세 모델 모두에서 성립하지만, 진짜 고정점 도달은 모델마다 다르다는 것을 보인다. 5절은 사슬의 끝(고정된 attention 패턴)이 feedforward 단계와 같은 모양이라는 것을 보이고, 5.2절은 고정점에 도달하지 못한 Ouro에서 이 모양이 학습 범위 밖에서 무너진다는 것을 보여 사슬 전체를 반대 방향에서도 확인한다(analyst-inference).

Take-home

한 줄: 측정된 루프 모델들은 반복을 거듭하며 새로운 계산 단계를 쌓기보다, 일반 트랜스포머의 추론 단계를 반복 블록 하나에 축소해 같은 궤도로 되풀이한다. 그 궤도가 안정적인지는 input injection과 정규화 위치가 좌우한다.

성립 범위: 순환 반복(cyclic recurrence) 구조 하나만 다룸. 사전학습 모델은 Ouro 1.4B, Huginn-0125, retrofitted Llama(본문), 부록에 Ouro 2.6B·retrofitted OLMo-2·TinyLlama. 입력은 주로 GSM8K test 256문항(부록에서 HellaSwag). 구조 요인 실험은 무작위 초기화 모델, 자기조직화 실험은 소형 모델(차원 512, 3.7B 토큰)(author-stated).

저자가 인정한 한계 (author-stated, Section 6, 5.1, Appendix C):

순환 반복만 다뤘고 여러 개의 별도 반복 블록을 순차로 두는 구조는 분석 범위 밖(Pappone et al., 2025 참조).
어떤 구조 선택이 안정된 극한 동작을 만드는지 경험적으로만 봤고, 왜 그런지 해석적으로 밝히지 못했다.
이 안정된 극한 동작이 추론 과제에 바람직한지 제약인지 밝히지 못했다.
Section 5.1의 소형 실험은 규모가 작아 조심해서 다뤄야 한다.
Appendix C의 비고정점 비율은 분류기 하이퍼파라미터에 따라 크게 변한다.

작성자가 보는 우려 (analyst-inference):

이 논문은 내부 동역학만 재고 과제 정확도는 재지 않는다. “안정된 단계 = 외삽 성능 유지”는 다른 논문 수치와의 상관으로만 연결됐다. 발표에서 “고정점 → 성능”의 인과로 인용하면 과장이다.
“근사 고정점”을 128번째 반복으로 정의하므로 128회 안에 수렴하지 않는 느린 수렴과 비수렴을 구분하기 어렵다.
Huginn에서 단계가 없는 이유(정규화)는 다른 모델과의 비교로 제안된 설명이고, Huginn의 norm만 바꾼 통제 실험은 본문에 없다. 무작위 초기화 실험(Fig. 6)은 고정점 수렴에 대한 것이지 단계 형성에 대한 것이 아니다.
“추론 단계를 그대로 따른다”는 판단은 주로 ColSum concentration 곡선 모양의 시각적 유사성에 근거한다. 두 곡선의 유사도를 수치로 요약한 값은 본문에 없다.

재현 정보: 사전학습 모델의 Huggingface ID는 Appendix B Table 2에 있다. 소형 학습은 공개 Nanochat 포크(Appendix B 링크)를 썼다. 이 논문 자체의 분석 코드 공개 여부는 원문에서 확인되지 않았다. seed는 Section 4.2의 초기화 3회만 보고됐다.

본문 도표

Figure 1 — 반복 블록 출력의 순환 궤적

무엇을 보여주는가: 반복 모델에서 각 블록 뒤 잠재 상태가 층마다 서로 다른(separate) 고정점으로 가서, 반복 블록이 잠재 공간에서 일관된 궤적을 그린다는 것을 보여 주는 대표 그림.
읽는 법: PCA로 2차원에 줄인 은닉 상태(PC 1, PC 2). 왼쪽 반복 0–16, 오른쪽 반복 16–32. 색은 반복 순서(초록 = 이른 반복, 노랑 = 늦은 반복).
핵심 관찰: 왼쪽은 안쪽에서 바깥으로 소용돌이처럼 퍼지며 궤도를 찾아가고, 오른쪽은 거의 한 개의 닫힌 고리 위에 겹친다(analyst-inference, 그래프 판독). 캡션은 어떤 모델·입력인지 밝히지 않는다(author-stated 범위에서 확인 불가).
의미와 주의: Proposition 4.1의 “층마다 다른 고정점 + 블록 전체는 같은 사이클”을 직관적으로 보여 주는 그림이다(author-stated). 단일 입력의 마지막 위치 PCA라서 일반성은 Figure 2–4로 확인해야 한다(analyst-inference).
확인 상태: viewed

Figure 2 — 깊이 간 attention 패턴 Frobenius 노름

무엇을 보여주는가: 모든 깊이 쌍 사이 attention 패턴의 거리. 왼쪽 Ouro 1.4B, 가운데 retrofitted Llama, 오른쪽 Huginn-0125. 모두 8회 반복.
읽는 법: 두 축 모두 펼친 층 인덱스(Ouro 0–168, Llama 0–54, Huginn 0–32), 칸 색은 배치·head 평균 Frobenius 노름(어두울수록 비슷함).
핵심 관찰: 세 모델 모두 주대각선과 평행한 줄무늬가 반복 주기마다 나타난다. 즉 다른 반복의 같은 층끼리 attention이 가장 비슷하다(author-stated). Ouro는 첫 반복 직후부터, Huginn과 retrofitted Llama는 prelude 직후부터 이 패턴이 보인다(author-stated, Section 4.1).
의미와 주의: Proposition 4.2의 예측(같은 층의 attention은 반복 간 고정)과 맞는다. 32회 반복 버전은 Appendix Figure 21에 있다(author-stated, Appendix D.1).
확인 상태: viewed

Figure 3 — 연속 반복 간 잔차 차이

무엇을 보여주는가: 같은 층의 출력이 연속한 두 반복 사이에서 얼마나 바뀌는지.
읽는 법: x축 반복(0–128), y축 차이 노름, 선은 층(파랑 = 앞 층, 초록 = 뒤 층). 패널은 Ouro 1.4B, R.Llama, Huginn-0125.
핵심 관찰: 세 모델 모두 초반 반복에서 차이가 급히 0 근처로 떨어진다. 그래프 판독상 초기 최대값은 Ouro 약 15, R.Llama 약 15, Huginn 약 60이다(analyst-inference, 그래프 판독).
의미와 주의: Proposition 4.2의 출발 가정(잔차가 반복 간 크게 안 바뀜)을 지지한다(author-stated). 다만 연속 차이가 작다는 것이 고정점에 도달했다는 뜻은 아니며, 이 점을 Figure 4가 보여 준다(author-stated).
확인 상태: viewed

Figure 4 — 128번째 반복(“근사 고정점”)까지의 거리

무엇을 보여주는가: 각 층 출력과 128번째 반복의 같은 층 출력 사이 차이 노름.
읽는 법: x축 반복, y축 Fixed Point Norm, 선은 층. 패널 순서는 Figure 3과 같다.
핵심 관찰: Huginn-0125와 retrofitted Llama는 빠르게 0으로 간다. Ouro는 반복 내내 큰 값(그래프 판독상 10–30 사이)을 유지하다 128 근처에서만 0으로 떨어진다(author-stated + 수치는 analyst-inference, 그래프 판독).
의미와 주의: Ouro는 연속 차이(Figure 3)가 작은데도 고정점에 도달하지 않는다. 즉 천천히 계속 움직인다(author-stated). 128번째 값으로 고정점을 대리한 정의이므로 끝점이 0이 되는 것은 정의상 당연하다(analyst-inference).
확인 상태: viewed

Figure 5 — retrofitted Llama의 잠재 궤적

무엇을 보여주는가: 테스트 문장 하나의 마지막 위치 은닉 상태를 PCA로 2차원에 그린 궤적.
읽는 법: 왼쪽 반복 0–16, 오른쪽 반복 16–32. 색은 반복 순서.
핵심 관찰: 오른쪽에서 반복별 궤적이 완전히 겹친다(author-stated).
의미와 주의: 순환 고정점에 도달했다는 직접 시각 증거로 제시된다(author-stated). 단일 문장 결과다(analyst-inference).
확인 상태: viewed

Figure 6 — 정규화 방식 × input injection과 고정점 수렴

무엇을 보여주는가: 무작위 초기화한 12층 모델(prelude·coda 없음)에서 첫 층 잔차와 근사 고정점 사이 코사인 유사도.
읽는 법: x축 반복(0–60), y축 Fixed Point Cosine Sim. 선 색은 norm 종류(Pre = 파랑, Huginn-0125 = 회색, Ouro = 주황), 점선은 input injection 있음. 왼쪽은 첫 층 자신의 근사 고정점, 오른쪽은 첫 층과 가장 덜 닮은 층의 근사 고정점과 비교. 음영은 초기화 3회 범위.
핵심 관찰: 왼쪽에서 input injection이 있으면 Ouro norm을 제외하고 1.0으로 수렴, 없으면 pre-norm만 수렴(author-stated). 오른쪽에서 input injection 없는 pre-norm(실선 파랑)은 1로 가서 모든 층이 같은 점으로 모이는 퇴화 고정점이다(author-stated). 그래프 판독상 input injection이 있는 pre-norm·Huginn norm은 오른쪽에서 0.6–0.7 근처에 머문다(analyst-inference, 그래프 판독).
의미와 주의: input injection이 “층마다 다른” 순환 고정점을 만드는 데 중요하다는 근거다(author-stated). 학습되지 않은 모델 결과를 학습된 모델에 일반화하는 것은 저자 가정이다. 다른 구성은 Appendix Figure 31(author-stated).
확인 상태: viewed

Figure 7 — retrofitted Llama의 층별 ColSum (8회 반복)

무엇을 보여주는가: 반복 블록의 층(L4–L9)별 ColSum concentration을 펼친 위치(Recurrent Position)에 따라 그림.
읽는 법: 색 실선은 각 층, 검은 점선은 실제 층 순서(True Layer Order)를 따라 이은 값. y축 0.3–0.7.
핵심 관찰: 검은 점선은 반복마다 같은 톱니 모양을 되풀이하고, 각 층 실선은 처음 짧은 과도기 뒤 거의 평평하다(author-stated). 그래프 판독상 L9가 약 0.55로 가장 높고 L5–L7은 0.3대다(analyst-inference, 그래프 판독).
의미와 주의: “각 층은 항상 같은 일을 하고, 그 층들의 순환이 단계 사이클을 만든다”는 이 논문 핵심 그림이다(author-stated).
확인 상태: viewed

Figure 8 — 반복 블록 안 추론 단계 vs feedforward 기반 모델

무엇을 보여주는가: 블록 내 상대 깊이(% Block Depth)에 따른 ColSum concentration. 왼쪽 Ouro 1.4B(4회), 가운데 retrofitted Llama(8회), 오른쪽 retrofitted OLMo(8회). 빨간 점선은 feedforward 기반 모델(Llama 3.2 1B, OLMo2).
읽는 법: 선 색은 반복 순서(초록 = 이른 반복, 노랑 = 늦은 반복). retrofitted 모델에서 주황은 prelude, 검정은 coda.
핵심 관찰: Ouro의 반복별 곡선이 Llama 3.2 1B 곡선 모양을 닮는다. retrofitted 모델은 prelude가 기반 모델의 초반 단계를, coda가 후반 단계를 한 번씩 맡고 반복 블록은 중간 단계를 되풀이한다(author-stated).
의미와 주의: Ouro는 처음부터 루프로 학습했는데도 Llama식 단계가 생긴 점을 저자는 “특히 놀랍다”고 쓴다(author-stated). Ouro와 Llama는 다른 모델이라 “닮음”은 곡선 모양 비교다(analyst-inference).
확인 상태: viewed

Figure 9 — 잔차 흐름 노름

무엇을 보여주는가: 반복 위치(%)에 따른 잔차 노름. Huginn-0125, Ouro 1.4B, retrofitted Llama.
읽는 법: y축 로그(10^1–10^3).
핵심 관찰: retrofitted Llama는 초반에 10^3 근처까지 커져 유지되고, Ouro는 반복마다 커졌다 줄었다 하며, Huginn은 약 10^2 아래에서 평평하다(analyst-inference, 그래프 판독). 저자는 Huginn이 잔차를 반복적으로 정규화해 단계 형성에 필요한 크기 변화를 만들지 못한다고 해석한다(author-stated).
의미와 주의: Huginn에서 단계가 없는 이유에 대한 저자의 설명 근거다. 상관적 증거이며 Huginn의 norm만 바꾼 통제 실험은 본문에 없다(analyst-inference).
확인 상태: viewed

Figure 10 — 학습 편향을 뺀 소형 루프 모델의 ColSum

무엇을 보여주는가: 고정 반복 4, 최종 상태 손실만 쓰고, prelude 2·coda 2·input injection 없이 처음부터 학습한 소형 모델. 왼쪽 반복층 4개, 가운데 8개, 오른쪽 12개. 빨간 점선은 깊이 12 feedforward 대조군.
읽는 법: x축 반복 블록 내 상대 깊이(0–1), y축 ColSum concentration(약 0.1–0.5), 선 색은 반복 순서, 음영 있음.
핵심 관찰: 세 구성 모두 반복 곡선들이 대조군과 비슷하게 깊이에 따라 오르내리는 단계 모양을 보인다(author-stated). 그래프 판독상 반복층 12개 구성에서는 반복별 곡선이 더 흩어진다(analyst-inference, 그래프 판독).
의미와 주의: 단계가 retrofit 상속이나 손실 설계 때문만은 아니고 루프 구조에서 스스로 생길 수 있다는 “초기 증거”다. 저자도 소규모라 조심하라고 쓴다(author-stated).
확인 상태: viewed

Figure 11 — 128회 반복에서 층별 ColSum

무엇을 보여주는가: 반복을 128회까지 늘렸을 때 각 층 ColSum이 어떻게 변하는지. 왼쪽 retrofitted Llama, 오른쪽 Ouro 1.4B.
읽는 법: x축 반복, y축 ColSum concentration, 선 색은 층.
핵심 관찰: retrofitted Llama는 각 층이 빠르게 상수에 고정된다. Ouro는 층 값이 반복 내내 계속 바뀐다(author-stated).
의미와 주의: Figure 7을 학습 범위 밖까지 늘린 것이다. 고정점에 도달하는 모델만 단계가 안정적이라는 Sec. 5.2 주장의 근거다(author-stated).
확인 상태: viewed

Figure 12 — 128회 반복에서 블록 내 단계 곡선

무엇을 보여주는가: 128회 반복 각각의 블록 내 상대 깊이별 ColSum. 왼쪽 retrofitted Llama, 오른쪽 Ouro 1.4B. 빨간 점선은 feedforward Llama.
읽는 법: 선 색은 반복 순서(초록 → 노랑).
핵심 관찰: retrofitted Llama의 반복별 곡선은 한 줄로 겹친다. Ouro는 반복별 곡선이 넓은 띠로 흩어진다(analyst-inference, 그래프 판독. 저자는 이것을 “단계에 미치는 영향”으로 제시, Section 5.2).
의미와 주의: 고정점에 도달하지 못한 Ouro는 학습 범위 밖 반복에서 “unstable stages of inference”를 보인다는 주장의 시각 근거(author-stated). 이 불안정성과 Ouro의 외삽 성능 저하의 연결은 다른 논문 인용이다(author-stated, Section 5.2).
확인 상태: viewed

Wiki 연결

Latent Chain-of-Thought Decoding the Depth-Recurrent Transformer — 원문이 직접 인용한 Lu et al.(2025). Huginn의 블록 간 주기적 logit lens 변화를 이 논문은 “층마다 다른 고정점 + 순환 궤도”로 설명할 수 있는 틀을 준다(analyst-inference).
Fixed-Point Reasoners - Stable and Adaptive Deep Looped Transformers — 루프 모델의 고정점 안정성을 설계 목표로 다루는 관련 연구(analyst-inference).
Reasoning with Latent Thoughts - On the Power of Looped Transformers — 원문이 인용한 루프 모델 표현력 연구(Saunshi et al., 2025).
Less is More - Recursive Reasoning with Tiny Networks — 원문이 인용한 TRM(Jolicoeur-Martineau, 2025).
Looped Transformers as Programmable Computers — 루프 구조의 이론적 표현력 계열. “할 수 있다”와 “학습된 모델이 실제로 하는 것”을 대조하는 데 쓸 수 있다(analyst-inference).

BibTeX

@misc{blayney2026mechanistic,
  title         = {A Mechanistic Analysis of Looped Reasoning Language Models},
  author        = {Blayney, Hugh and Arroyo, {\'A}lvaro and Obando-Ceron, Johan and Castro, Pablo Samuel and Courville, Aaron and Bronstein, Michael and Dong, Xiaowen},
  year          = {2026},
  eprint        = {2604.11791},
  archivePrefix = {arXiv},
  primaryClass  = {cs.LG}
}