공유된 가중치, 선택된 계산: 루프 트랜스포머는 각 루프가 할 일을 어떻게 고르는가

개요

**루프 트랜스포머(looped Transformer)**는 같은 층 묶음을 여러 번 반복해 쓰기 때문에 흔히 “루프 한 번 = 알고리즘 한 단계”로 상상된다. 그래프에서 길을 따라가는 문제라면 루프마다 한 칸씩 전진하는 식이다. 이 논문의 출발점은 그 상상이 근거가 약하다는 것이다. 가중치는 공유되지만 그 가중치에 들어가는 은닉 상태는 루프마다 달라지므로, 같은 함수라도 입력 상태에 따라 다른 연산을 할 수 있다. 실제로 그래프 걷기(graph walk) 과제에서 중간 루프마다 답을 읽어 보니, 같은 과제를 푸는 모델이 어떤 것은 루프당 한 칸, 어떤 것은 두 칸씩 갔고, 목표에 닿으면 그 자리에 머물렀다. 그렇다면 “이번 루프에 무엇을 할지”를 고르는 것은 들어가는 상태다. 저자들은 이를 직접 시험한다. 백본을 얼린 채 루프 입구에 작은 선형층 J(토큰마다 따로 작용하는 대각+rank-48 변환, 그래프 정보를 스스로 모을 수 없음)만 학습시켜 상태를 바꿨더니, 같은 얼린 루프가 1-hop 목표 정답률을 48.2%에서 99.6%로 올리거나 2-hop 목표를 98.2%로 맞히는 식으로 다른 전이를 수행했다. 다음은 그 선택이 블록 안에서 어떻게 일어나는가다. 답을 만드는 내용물(value)은 그대로 두고 attention 패턴(어느 토큰을 볼지 정하는 가중치)만 다른 실행에서 옮겨 심는 activation patching(내부 활성값을 바꿔 끼워 인과를 시험하는 기법)을 했다. 그러자 2-hop 실행의 패턴을 1-hop 실행에 넣었을 때 2-hop 답이 0.1%에서 65.9%로, 반대 방향은 1-hop 답이 0.5%에서 78.5%로 바뀌었다. 즉 “어디를 볼지”를 바꾸는 것이 “무엇을 할지”를 바꾼다. 마지막으로 J가 새 알고리즘을 만드는지 보려고 같은 조건에서 최종 답만 감독한 백본과 매 루프를 한 칸씩 감독한 백본을 비교했다. 같은 J로 1-hop은 각각 66.5%와 100%, 2-hop은 50.5%와 13.2%로 순서가 뒤집혔다. J가 할 수 있는 일은 백본이 학습 중에 이미 익힌 연산에 묶여 있다는 뜻이다.

Implication: 루프 모델에서 “반복 = 같은 알고리즘의 반복”은 가정일 뿐이다. 공유 블록은 재사용 가능한 실행기이고, 매 루프에 무엇을 실행할지는 들어가는 상태가 attention routing을 통해 고른다. 다만 이 제어는 한두 루프까지만 잘 되고 길게 이어 붙이면 정확도가 무너진다.

📎 https://arxiv.org/abs/2609.39892

배경과 문제

무엇이 풀리지 않았나. 루프 트랜스포머가 반복 추론과 길이 일반화에서 잘하는 이유로 “반복 구조가 학습된 알고리즘을 루프마다 재사용하게 하는 귀납 편향”이라는 설명이 매력적이다. 그러나 가중치 공유만으로 매 루프가 같은 연산을 한다는 보장은 없고, 최종 답만 감독하면 중간 궤적은 손실 함수가 정하지 않는다(author-stated, Abstract, Section 1). 그래서 “각 루프가 정말 같은 계산을 반복하는가, 아니라면 무엇이 공유 파라미터를 다른 연산으로 보내는가”를 묻는다(author-stated, Section 1).

학술적 계보 (원문이 직접 인용한 것).

반복 구조의 표현력·학습 가능성: Universal Transformers(Dehghani et al., 2019), 고정 가중치 루프 트랜스포머가 프로그램을 실행할 수 있다는 구성적 결과(Giannou et al., 2023), 반복 최적화 알고리즘 학습(Yang et al., 2024; Gatmiry et al., 2024), 길이 일반화(Fan et al., 2025), 언어모델 규모의 잠재 test-time 계산(Saunshi et al., 2025; Geiping et al., 2025; Zhu et al., 2025). 저자들은 이 결과들이 반복 계산의 가치를 보였지만 학습된 모델에서 각 루프가 무엇을 하는지는 정하지 않는다고 본다(author-stated, Section 1–2). vault 노트: Looped Transformers as Programmable Computers, Reasoning with Latent Thoughts - On the Power of Looped Transformers.
루프에 걸친 학습된 계산: Blayney et al.(2026)의 층별 고정점·순환 잠재 궤적·반복되는 추론 단계, Lu et al.(2025)의 “중간 상태가 직접 읽을 수 있는 잠재 CoT를 이루지 않을 수 있고 해석이 층·해독 방법에 좌우된다”, Zhang et al.(2026)의 “학습 예산이 서로 다른 속도의 진행을 고를 수 있다”(author-stated, Section 1–2). vault 노트: A Mechanistic Analysis of Looped Reasoning Language Models, Latent Chain-of-Thought Decoding the Depth-Recurrent Transformer.
반복 상태의 감독: 학습 목표가 궤적과 중간 readout에 담기는 정보를 바꾼다(Fan et al., 2026; Popescu et al., 2026), 루프별 감독도 은닉 상태 크기 같은 변수를 통제하지 못할 수 있다(Sharma & Vu, 2026)(author-stated, Section 2).
상태 조종과 인과 개입: 은닉 상태를 바꿔 얼린 모델을 조종하는 steering(Turner et al., 2023), 학습된 affine 변환을 통한 steering(Singh et al., 2024), activation patching(Wang et al., 2023)(author-stated, Section 2).

이 논문이 채우려는 빈칸. 앞선 연구들은 루프 계산이 어떻게 조직되는지를 관찰했지만, “루프에 들어가는 상태가 같은 얼린 층이 다음에 무엇을 계산할지를 인과적으로 고를 수 있는가, 그리고 그 선택이 모델 안에서 어떻게 구현되는가”는 열려 있었다(author-stated, Section 1). 이 논문은 관찰(Phenomenon) → 제어(Control) → 메커니즘(Mechanism) → 백본 의존성 순서로 이를 시험한다(Figure 1).

지표

지표	무엇을 세나	단위·범위	방향	분모·정규화	측정 조건	위치
답 분포 / 목표 정확도	루프 뒤 readout 예측이 기준 노드 대비 stay·one hop·two hops·others 중 어디에 해당하는지의 비율. 목표에 해당하는 칸이 정확도	%	목표 칸이 높을수록 좋음	held-out 그래프 예시 수. 맵 2회 학습 평균	D8L6 seed 6, 백본·맵 학습 모두에서 안 쓴 OOD 그래프	Section 4.1, Figure 3, 7
Exact match (누적 목표)	반복 호출마다 예측 노드가 누적 hop 수에 해당하는 목표와 같은 비율	%	높을수록 좋음	3,175 예시, 맵 2회 평균, mixed는 고정 순서 32개 평균. 95% graph-bootstrap 구간	512개 새 held-out 그래프	Section 4.2, Figure 4
Answer rate (패칭 후)	패칭 후 예측이 기대 노드(E 또는 D, 또는 one-hop/two-hop 답)인 비율	%	예측대로 바뀌면 인과 증거	D8L6: 백본 평균의 평균. Ouro: 256쌍, 95% Wilson 구간	D8L6 seed 6·10·13, Ouro-2.6B	Section 5.1–5.3, Figure 5, 6
Readout 정확도 (루프별)	중간 루프 t마다 최종 readout head로 읽은 예측의 빈도·정확도	%	해석용	예시 수	그래프: 루프 0–16. Ouro: 루프 1–4 × 삭제 깊이	Section 3, 6, Figure 2, 8

방법과 벤치마크 구성

과제 1: 그래프 걷기 (Section 3–6, Appendix C). 입력은 그래프 G 위의 순열 $f_{G}$ (각 노드의 다음 노드), 시작 노드 s, 요청 깊이 d. 목표는 $f_{G}^{d} (s)$ . 그래프는 입력 안에 간선 기록(EDGE source destination)으로 주어진다(Appendix C.1). 두 층짜리 트랜스포머 블록을 8번 반복하는 D8L8, 6번 반복하는 D8L6을 학습하고 최종 답만 감독한다(author-stated, Section 3). D8L6 백본은 은닉 차원 256, head 4개, MLP 1,024, pre-LN, 20,000 업데이트(Appendix C.2). 시각화에는 반복 길이를 노드 번호로 바로 볼 수 있게 열 노드 순환 그래프를 쓴다(author-stated).

제어: 상태 steering (Section 4.1, 식 (1)). 원래 $h_{t + 1} = F (h_{t})$ 인 루프 앞에 선형층 J를 넣어 $h_{t + 1} = F (J (h_{t}))$ 로 만든다. 백본 F는 얼리고 J만 학습한다. 그래프 실험에서 J는 학습된 대각항 + rank-48 항 + bias이고(맵당 25,088 파라미터, Appendix C.2), 토큰마다 독립적으로 작용하므로 토큰 사이 그래프 정보를 모으는 일은 얼린 F가 해야 한다(author-stated). D8L6 seed 6이 8-hop 질의를 6루프 돌려 만든 $h_{6}$ 에서, $J_{o n e}$ 은 한 루프 뒤 $f_{G} (u)$ 를, $J_{tw o}$ 는 $f_{G}^{2} (u)$ 를 내도록 학습한다( $u = f_{G}^{8} (s)$ ). 평가는 백본·맵 학습 어디에도 쓰지 않은 그래프에서 한다(author-stated).

합성 (Section 4.2). 한 루프용으로 학습한 맵을 이어 붙여 두 번 쓰기(네 가지 순서), 그리고 512개 새 그래프(3,175 예시)에서 최대 8번 연속 호출(author-stated).

메커니즘: attention 개입 (Section 5). 1-hop과 2-hop 진행을 둘 다 보이는 D8L6 백본 세 개(seed 6, 10, 13)를 readout으로 골라 쓰고, 백본마다 맵 2회 평균을 낸 뒤 세 백본을 같은 가중으로 평균한다. 언어모델 확장으로 Ouro-2.6B를 편지 전달 다단계 과제(누가 몇 번 전달 뒤 편지를 들고 있나)에 1–4 단계·4 루프로 가볍게 미세조정한 뒤 얼리고, 1–8 단계에 대해 dense 선형층을 루프 2–4 앞에 학습한다(author-stated).

패턴 대 출력 패칭 (5.1, 식 (2)): 실행 1의 attention 패턴 α₁을 실행 2의 value V₂와 합친 $z_{p a tt er n} = α_{1} V_{2}$ 와, 실행 1의 출력 자체를 넣는 $z_{o u tp u t} = α_{1} V_{1}$ 을 비교. 패턴 패치라면 “실행 1이 고른 위치의 기록을 실행 2의 내용으로 읽어” E가 나와야 하고, 출력 패치라면 D가 나와야 한다. D8L6은 둘째 층의 선택된 head 하나, 답 위치만 패칭. Ouro는 고정된 16개 head, 4번째 루프(author-stated).
steering 효과 전이 (5.2, 식 (3)): 같은 입력에서 steered(J) 실행과 unsteered(0) 실행 사이에 패턴만 교환( $z_{J \to 0} = α_{J} V_{0}$ , $z_{0 \to J} = α_{0} V_{J}$ ). D8L6은 둘째 층 head 4개 전부, 답 위치(author-stated).
목표 전환 (5.3, 식 (4)): $F (J_{o n e} (h_{6}))$ 과 $F (J_{tw o} (h_{6}))$ 사이에서 둘째 층 패턴을 모든 head·모든 토큰 위치에 걸쳐 교환(author-stated).
head 선택과 평가는 서로 다른 데이터로 한다(author-stated, Section 5).

백본 감독 비교 (Section 6, 식 (5)). 열 노드 D8L8 모델 다섯 쌍을 초기화·입력·구조·업데이트 예산을 같게 두고, 한쪽은 최종 루프 8만 감독( $L_{f ina l} = ℓ_{8}$ ), 다른 쪽은 루프 1–7에서 $f_{G}^{t} (s)$ 를 추가 감독( $L_{s t e pw i se} = ℓ_{8} + \frac{1}{7} \sum_{t = 1}^{7} ℓ_{t}$ )한다. 각 백본을 얼리고 같은 맵 구조·같은 학습 절차로 stay·1-hop·2-hop 맵을 따로 학습해 $h_{8}$ 뒤 한 루프에서 평가한다. Ouro antonym cancellation(왼쪽부터 인접한 반의어 쌍을 하나씩 지우고 요청 단계에서 지운 쌍을 답하는 과제)에서도 두 감독 방식을 비교하고, rank-128 잔차 affine 맵 하나를 각 루프 RMSNorm 뒤에 적용해 삭제 깊이 1–8로 학습한다(author-stated).

재현 정보. 코드와 재현 자료는 https://github.com/wjjpku/howloop 에 공개되어 있다(Abstract, Reproducibility Statement). 맵은 목표마다 seed 1·2로 두 번 학습(Appendix C.2). 실험 예산은 Appendix Table 15에 정리되어 있다.

주요 결과

주장	근거 위치	관찰/수치	조건·주의	출처 라벨
같은 과제라도 루프당 진행 속도가 모델마다·루프마다 다르다	Section 3, Figure 2	D8L8 한 궤적은 주로 루프당 한 노드, 다른 궤적은 주로 두 노드. D8L6은 여섯 루프에 맞추느라 속도가 불규칙. 모두 결국 답에서 멈춰 루프를 더 돌려도 유지	대표 궤적만 본문에. 12개 D8L8·5개 D8L6 전체는 Appendix B	author-stated
루프 입구 상태만 바꿔 얼린 루프의 다음 목표를 고를 수 있다	Section 4.1, Figure 3a	No J: stay 50.1, one-hop 48.2. $J_{o n e}$ : one-hop 99.6. $J_{tw o}$ : two-hop 98.2	D8L6 seed 6, OOD 그래프, 맵 2회 평균	author-stated
맵은 두 루프까지 이어 쓸 수 있으나 순서가 정확도를 바꾼다	Section 4.2, Figure 3b·c	$J_{o n e}$ 두 번 → 2-hop 목표 93.6% (두 번째 맵을 빼면 48.3%). $J_{o n e}$ → $J_{tw o}$ → 3-hop 65.3%, 순서를 바꾸면 74.5%	각 맵은 한 루프용으로만 학습	author-stated
길게 이어 쓰면 제어가 무너진다	Section 4.2, Figure 4	셋째 호출에서 반복 one-hop 56.3%, 반복 two-hop 23.6%. 여덟째 호출에서 mixed 10.1%	512개 새 그래프, 3,175 예시	author-stated
attention 패턴은 “어떤 내용을 고를지”를, value는 “그 내용”을 나른다	Section 5.1, Figure 5b	패턴 패치 → E: D8L6 77.8%, Ouro 71.1%. 출력 패치 → D: D8L6 80.9%, Ouro 93.8%	D8L6은 head 1개·답 위치만	author-stated
steered 패턴만으로 steering 효과 일부가 재현된다	Section 5.2, Figure 5c	D8L6: unsteered 39.2→61.6% (J→0), steered 99.7→68.1% (0→J). seed 10: head 0 하나만 패칭해도 68.3→89.4% (head 4개 전부 93.8%)	백본마다 효과 크기 차이. 저자는 “부분적 재현”이며 상태의 다른 성분도 영향을 준다고 씀	author-stated
Ouro에서는 패턴이 steering 효과를 거의 전부 옮긴다	Section 5.2	steered 패턴 → 248/256 정답 (full steering 251/256). unsteered와 0→J 패치는 0. value만·무관한 그래프 패턴·잘못된 루프 패턴·비교 head 패치도 0	Ouro-2.6B, 8-hop 요청, head 16개 고정	author-stated
패턴 교환이 다음 목표를 양방향으로 뒤집는다	Section 5.3, Figure 6	2-hop 패턴 → 1-hop 실행: two-hop 답 0.1→65.9%. 1-hop 패턴 → 2-hop 실행: one-hop 답 0.5→78.5%. 세 백본 모두에서 나타남	둘째 층, 모든 head·위치	author-stated
head 출력 복원이 오류를 고친다	Section 5.3	query를 바꿔 생긴 오류를 선택 head 출력 복원으로 D8L6 74.0%, Ouro 249건 전부 수리. 비교 head는 0.5%와 0건	—	author-stated
J가 닿는 전이는 백본 감독에 달려 있다	Section 6, Figure 7	No J: final-only는 답에 머무름(stay 100.0), stepwise는 한 칸 전진(one-hop 100.0). $J_{o n e}$ : stepwise 100%, final-only 66.5%. $J_{tw o}$ : final-only 50.5%, stepwise 13.2%. 다섯 쌍 모두에서 final-only의 2-hop이 더 높음	같은 맵 구조·같은 학습 절차	author-stated
Ouro에서도 감독 방식이 steering 가능 범위를 바꾼다	Section 6, Figure 8	stepwise는 루프당 삭제 하나, final-only는 루프 3까지 255/256 정답. 깊이 5–8 held-out: final-only + J 98.0%, stepwise + J 7.8%, J 없으면 둘 다 0	깊이 5–8은 맵 학습에 포함됨(held-out 시퀀스로 평가)	author-stated
부록: 맵의 깊이 외삽은 유지되지 않는다	Appendix A, Figure 9	parity seed 2: 길이 101–500에서 45.05→73.73%로 개선되지만 505–1000에서는 J 없이 47.55%, J로 36.40%. 그래프 연속: 루프 9–16 97.42% → 17–32 35.11%	본문 범위 밖, 부록 결과	author-stated

결과의 연결. Section 3은 “루프 한 번 = 한 단계”가 아니라는 관찰이고, 이 관찰이 “그렇다면 들어가는 상태가 연산을 고른다”는 가설로 이어진다. Section 4는 그 가설을 제어 실험으로 확인하고, Section 5는 제어의 통로가 attention 패턴이라는 인과 증거를 준다. Section 6은 J가 무엇을 할 수 있는지가 백본이 배운 것에 묶인다는 것을 보여, J를 “새 계산을 만드는 장치”가 아니라 “이미 있는 계산을 고르는 장치”로 해석하게 한다(author-stated, Section 1, 7). 작성자가 보기에 흥미로운 점은 Section 6의 역전이다. 매 루프 한 칸씩 가도록 감독한 모델은 2-hop으로 거의 못 바뀌고, 최종 답만 감독한 모델이 더 다양한 전이를 숨기고 있었다. 중간 감독이 해석 가능성을 높이는 대신 연산 레퍼토리를 좁힐 수 있다는 신호로 읽힌다(analyst-inference).

Take-home

한 줄: 가중치 공유 루프는 같은 연산을 반복하는 기계가 아니라 재사용 가능한 실행기이고, 루프마다 무엇을 실행할지는 들어가는 은닉 상태가 attention routing을 통해 고른다. 다만 고를 수 있는 연산은 백본이 학습 중에 익힌 것으로 제한된다.

성립 범위: 합성 그래프 걷기(두 층 블록, D8L8·D8L6, 은닉 차원 256), Ouro-2.6B의 규칙 기반 언어 과제 두 개(편지 전달, 반의어 삭제, 둘 다 가벼운 미세조정 뒤), 부록에서 parity·Qwen·합성 지식 그래프 관계 합성(author-stated). 메커니즘 실험은 readout으로 고른 D8L6 백본 세 개에서 한다(author-stated, Section 5).

저자가 인정한 한계 (author-stated):

한두 루프에서 작동하는 제어기가 긴 합성에서 무너진다. 긴 반복 추론에는 재사용 가능한 계산뿐 아니라 그 계산을 반복해서 routing할 수 있는 상태가 필요하다(Section 4.2, 7).
패턴 패칭은 steering 효과를 부분적으로 재현하며, 상태의 다른 성분도 패치 성공에 영향을 준다(Section 5.2).
맵 학습 범위를 넘는 깊이에서 정확도가 유지되지 않는다. 그래프 넓은 표본(Figure 9b)은 그래프가 학습에서 제외됐는지 검증하지 않았다(Appendix A).
Ethics Statement: 실험은 합성 그래프·parity·규칙 기반 언어 과제이며, steering된 모델을 실제 응용에 배치할 때의 안전성은 평가하지 않았다.

작성자가 보는 우려 (analyst-inference):

메커니즘 실험용 백본을 “1-hop과 2-hop을 둘 다 쓰는 궤적”으로 골랐다. 깔끔한 결과를 얻기 위한 선택이지만, 그렇지 않은 백본에서도 attention routing이 같은 역할을 하는지는 본문에서 보이지 않는다.
“attention routing이 인과 경로(a causal pathway)“라는 표현은 정확하다. 유일한 경로라는 주장은 아니며, 5.2의 부분 재현이 다른 경로의 존재를 시사한다. 발표에서 “attention이 루프 연산을 결정한다”로 줄이면 과장이다.
Ouro 실험은 2.6B 모델이지만 과제가 규칙 기반 합성 언어 과제이고 미세조정을 거쳤다. 자연어 추론 일반의 메커니즘이라는 근거는 아니다.
Section 6의 “J가 새 알고리즘을 만들지 않는다”는 J의 표현력을 토큰별 저랭크 변환으로 제한한 설계에 기대고 있다. 더 강한 제어기라면 결론이 달라질 수 있다.

재현 정보: 코드·재현 자료 공개(https://github.com/wjjpku/howloop). 맵은 목표마다 2회 학습, 메커니즘 실험은 백본 3개, 감독 비교는 백본 5쌍. 부록에 학습 예산(Table 15)과 평가 표본 크기(Table 3)가 있다. AI Use Statement에서 코드 구현·디버깅·문헌 검색·원고 다듬기에 ChatGPT와 Codex를 썼다고 밝힌다.

본문 도표

Figure 1 — 현상·제어·메커니즘 개요

무엇을 보여주는가: 논문의 세 단계를 한 그림에. 위(Phenomenon)는 같은 가중치의 루프가 t=1에서 one hop, t=2에서 two hops, t=n 이후 stay처럼 루프마다 다른 진행을 보이는 모습. 왼쪽 아래(Control)는 t=n 상태에 선형층 $J_{1}$ 또는 $J_{2}$ 를 붙이면 같은 얼린 블록이 one hop(B) 또는 two hops(C)로 가는 모습. 오른쪽 아래(Mechanism)는 steered 실행의 attention 패턴을 J가 없는 실행에 패칭해 C를 얻는 모습.
읽는 법: 불꽃 표시는 학습되는 부품(J), 눈송이 표시는 얼린 부품(백본 층). 원 안 글자는 그래프 노드, 점선 원은 건너뛴 노드.
핵심 관찰: 수치 없음. 실험 설계의 지도다.
의미와 주의: “패턴은 옮기고 value는 받는 쪽 것을 유지한다”는 패칭 설계가 그림에 명시돼 있다(author-stated, 캡션).
확인 상태: viewed

Figure 2 — 루프별 readout 궤적

무엇을 보여주는가: 학습된 루프 블록을 0–16번 반복하며 매 루프 뒤 readout으로 읽은 예측 분포. (a) D8L8 seed 10, (b) D8L8 seed 5, (c) D8L6 seed 6, (d) D8L6 seed 4.
읽는 법: y축 루프(0–16), x축 경로 위 노드( $f^{0}$ – $f^{8}$ 등). 색은 예측 빈도(0–100%), 흰 점은 각 루프의 유일한 최빈 예측, 빨간 점선은 학습 루프 수(L=8 또는 L=6).
핵심 관찰: (a)는 루프마다 한 칸씩 대각선으로 내려가 루프 8에 $f^{8}$ 에 도착. (b)는 두 칸씩 빨리 가서 루프 4 무렵 $f^{8}$ 에 도착해 머문다. (c)(d) D8L6은 속도가 불규칙하다. 모두 목표에 닿은 뒤에는 루프 16까지 그 자리에 머문다(author-stated + 도착 루프는 analyst-inference, 그래프 판독).
의미와 주의: “가중치 공유가 같은 알고리즘을 보장하지 않는다”의 직접 근거(author-stated). 저자는 메커니즘 분석 전에 이런 readout을 먼저 확인해야 모델이 주로 쓰는 메커니즘을 알 수 있다고 말한다(author-stated). 대표 궤적이므로 전체는 Appendix B를 봐야 한다.
확인 상태: viewed

Figure 3 — 한 루프 뒤 답 분포 (D8L6)

무엇을 보여주는가: 시작 상태에 맵(없음, $J_{o n e}$ , $J_{tw o}$ )을 적용하고 F를 한 번 돌린 뒤 답이 stay·one hop·two hops·others 중 어디로 가는지. (a) $h_{6}$ 에서, (b) $F (J_{o n e} (h_{6}))$ 에서, (c) $F (J_{tw o} (h_{6}))$ 에서 출발.
읽는 법: 색 기준이 패널마다 다르다. (a)는 u, (b)는 $f_{G} (u)$ , (c)는 $f_{G}^{2} (u)$ 기준. 막대는 맵 2회 평균.
핵심 관찰: (a) No J 50.1/48.2(stay/one hop), $J_{o n e}$ one hop 99.6, $J_{tw o}$ two hops 98.2. (b) No J 50.3/48.3, $J_{o n e}$ one hop 93.6, $J_{tw o}$ one hop 28.1·two hops 65.3. (c) No J stay 15.2·one hop 63.8·two hops 16.3, $J_{o n e}$ one hop 74.5·two hops 14.6, $J_{tw o}$ one hop 68.1·others 22.1.
의미와 주의: (a)는 같은 상태에서 서로 다른 목표를 고를 수 있다는 것, (b)(c)는 한 루프용 맵을 두 번째 루프에 다시 써도 대체로 통하지만 순서에 따라 정확도가 다르다는 것(65.3 대 74.5)(author-stated). (c)의 막대 레이블은 기준이 $f_{G}^{2} (u)$ 라서 “ $J_{o n e}$ 의 one hop 74.5”가 누적 3-hop 목표 정답이라는 점에 주의(analyst-inference, 캡션의 색 기준과 Section 4.2 본문 대조).
확인 상태: viewed

Figure 4 — 제어기 반복 사용

무엇을 보여주는가: $h_{6}$ 이후 맵을 최대 8번 연속 적용할 때 누적 목표 exact match.
읽는 법: x축 추가 제어 루프 수(1–8), y축 exact match(%). 선은 One-hop(반복 $J_{o n e}$ ), Two-hop(반복 $J_{tw o}$ ), Mixed(고정 순서 32개 평균). 음영은 95% graph-bootstrap 구간.
핵심 관찰: 셋째 호출에서 one-hop 56.3%, two-hop 23.6%, 여덟째 호출에서 mixed 10.1%(author-stated). 그래프 판독상 넷째 호출부터 세 선 모두 10~20% 근처로 내려가 평평하다(analyst-inference, 그래프 판독).
의미와 주의: 제어가 학습한 한 루프를 넘어 지속되지만 길게 쓰면 빠르게 약해진다(author-stated). “test-time 루프를 늘리면 계속 좋아진다”는 직관과 대조되는 결과다(analyst-inference).
확인 상태: viewed

Figure 5 — attention routing과 상태 steering

무엇을 보여주는가: (a) attention 계산 도식. query·key로 attention 패턴 α를 만들고 value V와 곱해 head 출력 z=αV. 패턴 패칭과 출력 패칭 지점 표시. (b) 그래프 사이 패턴 패치와 출력 패치 결과. (c) steered(J)와 unsteered(0) 실행 사이 패턴 패치 결과.
읽는 법: (b) 막대는 “같은 위치의 답(answer at matched position)“과 “다른 그래프의 답(answer from other graph)” 비율, 파랑 D8L6, 주황 Ouro. (c) x축 No J, Full J, J→0, 0→J, y축 정확도. D8L6 막대는 백본 평균이고 표식은 seed 6(원)·10(마름모)·13(삼각형), Ouro 오차막대는 95% Wilson 구간.
핵심 관찰: (b) 패턴 패치는 받는 쪽 내용으로 E를 내고(D8L6 77.8%, Ouro 71.1%), 출력 패치는 보내는 쪽 답 D를 낸다(D8L6 80.9%, Ouro 93.8%). (c) D8L6 unsteered 39.2→61.6%, steered 99.7→68.1%. Ouro는 J→0이 248/256, 0→J는 0(author-stated, Section 5.1–5.2). 그래프 판독상 D8L6의 J→0 개별 seed 값은 넓게 흩어져 있다(analyst-inference, 그래프 판독. 저자도 “백본마다 다르다”고 씀).
의미와 주의: 패턴이 “어느 기록을 볼지”를 정하고 value가 “그 기록의 내용”을 준다는 분리가 두 모델에서 예측대로 나온다(author-stated). D8L6의 J→0 효과는 평균으로는 뚜렷하지만 백본 간 편차가 크다.
확인 상태: viewed

Figure 6 — one-hop과 two-hop 실행 사이 패턴 교환

무엇을 보여주는가: (a) $J_{tw o}$ 의 패턴을 $J_{o n e}$ 실행에 넣었을 때, (b) $J_{o n e}$ 의 패턴을 $J_{tw o}$ 실행에 넣었을 때 one-hop 답과 two-hop 답 비율.
읽는 법: “Raw pattern”은 자기 패턴, “Patched pattern”은 둘째 층 패턴을 상대 실행에서 가져온 것. 점은 백본 평균, 가로 막대는 백본 범위. 파란 원 one-hop 답, 갈색 마름모 two-hop 답.
핵심 관찰: (a) two-hop 답 0.1→65.9%, one-hop 답 99.8→30.3%. (b) one-hop 답 0.5→78.5%, two-hop 답 99.0→20.8%. 세 백본 모두에서 효과가 나타난다(author-stated).
의미와 주의: value는 그대로인데 패턴만 바꿔 목표가 뒤집히므로, “다음 전이의 선택”이 attention routing에 실려 있다는 가장 직접적인 증거다(author-stated). 둘째 층·모든 위치를 바꾼 강한 개입이라는 점은 기억해 둔다(analyst-inference).
확인 상태: viewed

Figure 7 — 감독 방식을 맞춘 그래프 백본 비교

무엇을 보여주는가: (a) 최종 답만 감독한 백본, (b) 루프마다 한 칸씩 감독한 백본에서, 맵 없음· $J_{o n e}$ · $J_{tw o}$ 를 적용한 뒤 한 루프의 답 분포.
읽는 법: 색은 $u = f_{G}^{8} (s)$ 기준 stay·one hop·two hops·other. 막대는 백본당 맵 2회 × 다섯 쌍 평균.
핵심 관찰: (a) No J stay 100.0, $J_{o n e}$ one hop 66.5·two hops 9.8·other 20.2, $J_{tw o}$ stay 18.6·two hops 50.5·other 27.5. (b) No J one hop 100.0, $J_{o n e}$ one hop 100.0, $J_{tw o}$ stay 32.3·one hop 18.1·two hops 13.2·other 36.4.
의미와 주의: 같은 맵 구조인데 감독에 따라 닿을 수 있는 전이가 반대가 된다. 저자 해석은 “J는 백본이 배운 연산을 고른다”(author-stated). 작성자가 보기에 stepwise 감독은 해석 가능한 한 칸 진행을 얻는 대신 2-hop 같은 대안 연산을 잃게 만든 것으로 보인다(analyst-inference).
확인 상태: viewed

Figure 8 — Ouro 반의어 삭제

무엇을 보여주는가: (a) stepwise 감독, (b) final-only 감독 Ouro의 루프 × 삭제 깊이별 readout 정확도. (c) 네 루프와 학습된 맵으로 요청 깊이 5–8을 풀 때 정확도.
읽는 법: (a)(b) x축 루프 1–4, y축 삭제 깊이 1–4, 칸 값은 %. (c) x축 요청 깊이 5–8, 파랑 Final-only + J, 주황 Stepwise + J.
핵심 관찰: (a) 대각선만 100(루프 t에 깊이 t를 정확히 답함). (b) 깊이 1은 루프 1에서 이미 89, 깊이 2–4도 루프 3부터 98–100. (c) final-only + J: 100.0, 96.9, 96.9, 98.4. stepwise + J: 9.4, 9.4, 9.4, 3.1. 본문은 평균 98.0% 대 7.8%, J 없으면 둘 다 0이라고 쓴다.
의미와 주의: final-only 백본은 네 루프보다 빨리 답을 내는 연산을 배워 두었고, J가 그것을 더 깊은 요청에 쓸 수 있었다. stepwise 백본은 루프당 한 단계에 묶여 네 루프로 5단계 이상을 못 한다(analyst-inference, (a)(b) 패턴과 (c) 결과의 연결). 깊이 5–8은 맵 학습에 포함된 깊이이고 평가만 held-out 시퀀스다(author-stated).
확인 상태: viewed

Wiki 연결

A Mechanistic Analysis of Looped Reasoning Language Models — 원문이 직접 인용한 Blayney et al.(2026). 그 논문이 “층별 고정점과 반복되는 추론 단계”를 관찰했다면, 이 논문은 “들어가는 상태가 무엇을 계산할지 고른다”를 개입으로 시험한다.
Latent Chain-of-Thought Decoding the Depth-Recurrent Transformer — 원문이 인용한 Lu et al.(2025). 중간 readout 해석이 층·렌즈에 좌우된다는 결과가 이 논문이 관찰에서 개입으로 넘어간 동기다.
Looped Transformers as Programmable Computers — 원문이 인용한 Giannou et al.(2023). “할 수 있다(구성적 표현력)“와 “학습된 모델이 루프마다 실제로 하는 것”의 차이.
Reasoning with Latent Thoughts - On the Power of Looped Transformers — 원문이 인용한 Saunshi et al.(2025).
Fixed-Point Reasoners - Stable and Adaptive Deep Looped Transformers — 루프 안정성 관점의 관련 연구. 이 논문의 “긴 합성에서 제어 붕괴”와 대조해 볼 수 있다(analyst-inference).

BibTeX

@misc{wu2026sharedweights,
  title         = {Shared Weights, Selected Computations: How Looped Transformers Route What Each Loop Does},
  author        = {Wu, Jiaju and Hu, Yi and Zhang, Muhan},
  year          = {2026},
  eprint        = {2609.39892},
  archivePrefix = {arXiv},
  primaryClass  = {cs.LG}
}