루프 트랜스포머를 (거의) 공짜로 더 잘 디코딩하기 — LoopCD

개요

**루프 트랜스포머(looped Transformer)**는 같은 블록을 여러 번 돌려 파라미터 수를 늘리지 않고 계산 깊이를 늘린다. 그런데 매 반복이 끝날 때의 은닉 상태는 모두 같은 출력 헤드로 “다음 토큰 예측”으로 읽을 수 있는데도, 보통의 디코딩은 마지막 반복만 쓰고 나머지는 버린다. 이 논문의 통찰은 이 버려지는 상태가 **대조 디코딩(contrastive decoding)**에 딱 필요한 재료라는 것이다. 대조 디코딩은 “강한 모델의 예측을, 같은 실수를 하는 약한 모델의 예측에서 멀어지는 쪽으로 밀어 주는” 기법인데, 일반 LLM에서는 작은 보조 모델이나 일부러 망가뜨린 프롬프트처럼 짝이 맞는 약한 모델을 따로 구해야 해서 번거롭다. 루프 모델에서는 첫 반복 예측이 이미 “계산을 덜 한 같은 모델”이므로, 같은 표현 공간·같은 어휘를 공유하는 약-강 짝이 공짜로 생긴다. 그래서 해법도 단순하다: 최종 예측 $z_{R}$ 에 $ω (z_{R} - z_{1})$ 을 더해, 반복이 예측을 바꿔 온 방향으로 조금 더 밀어 준다—출력층을 한 번 더 도는 LoopCD-Logits와, 출력층 전에 은닉 상태끼리 섞어 추가 비용이 사실상 0인 LoopCD-Hidden 두 형태다. 학습은 전혀 하지 않는다. 결과적으로 Ouro-2.6B-Thinking의 AIME 2024 pass@1이 61.88%에서 73.33%로, Huginn의 HumanEval pass@1이 22.56%에서 31.71%로 올랐고, Ouro·Huginn·Parcae·Looped-Qwen3 네 계열 모두 7개 객관식 벤치 평균이 올랐다. 더 중요한 것은 반복을 절반만 돌려도 LoopCD를 쓰면 6개 설정 모두에서 전체 깊이 기준선과 같거나 높아져 forward FLOPs를 22.5–48.2% 아낀다는 점이다. 왜 되는지에 대한 분석도 명확하다: 이득은 대부분 대조 벡터 중 순위를 바꾸는(re-ranking) 직교 성분에서 오고, 모델이 1·2위 후보 사이에서 망설이는 질문(신뢰도 하위 1/5에서 +6.4~+13.3점)에 몰린다. 다만 생성 과제는 $ω$ 를 0.2–0.3으로 좁게 잡아야 하고 0.6을 넘으면 급락하며, Looped-Qwen3의 수학 pass@1은 오히려 떨어졌다(부록 Table A6).

Implication: 루프 모델의 중간 반복은 버릴 부산물이 아니라 “개선 방향”을 알려 주는 내장 신호다—반복 횟수를 늘리는 대신 이미 계산한 궤적을 외삽하는 것만으로 같은 정확도를 더 적은 계산으로 얻을 수 있다.

📎 https://arxiv.org/abs/2610.02185

배경과 문제

루프 트랜스포머의 맥락 (author-stated, §1–2, Appendix H)

층 재사용은 원래 파라미터를 비례해 늘리지 않고 유효 깊이를 늘리려는 아이디어(Universal Transformer, Dehghani et al., 2019)에서 시작했고, 최근에는 연속 잠재 추론과 테스트 시 계산량 확장 쪽으로 초점이 옮겨졌다(Appendix H).
사전학습된 루프 LM으로 Ouro(Zhu et al., 2025a), Huginn(Geiping et al., 2025), Parcae(Prairie et al., 2026)가 있고, Looped-Qwen3(Chen et al., 2026)은 학습하지 않은 dense 모델(Qwen3-4B)의 중간 층 창을 반복시키는 “training-free” 구성이다(§2, Appendix A.2).
기존 개선 방법은 학습 단계 개입(잠재 단계에 추론 흔적 감독, 루프를 따라 RL 보상 분배)이나 추론 시 루프 수 최적화였다. LoopCD는 구조나 학습을 바꾸지 않는다는 점에서 다르다(Appendix H).

대조 디코딩과 가이던스의 계보 (author-stated, §1, §3, Appendix H)

Contrastive decoding(Li et al., 2023): 강한 모델 예측을 약한 기준에서 멀어지게 외삽.
약한 기준을 얻는 기존 방법: 보조 소형 모델, 입력 교란(context-aware decoding, Shi et al., 2023), 같은 모델의 중간 층(DoLa, Chuang et al., 2024).
확산 모델의 classifier-free guidance(Ho & Salimans, 2022)와 autoguidance(Karras et al., 2024): 약화된/무조건 기준에서 멀어지도록 출력을 조정. LoopCD는 “깊은(강한) 통과와 얕은(약한) 통과의 차이”를 쓴다는 점에서 autoguidance에 가깝다고 저자들이 설명한다.

풀려는 문제 (author-stated)

일반 LLM에서 짝이 맞는 약한 예측기를 구하는 것이 대조 디코딩의 병목이다(Appendix H).
루프 모델에서는 DoLa처럼 반복 도중의 공간적 중간 층을 쓰면 실패한다고 저자들이 주장한다: 완료되지 않은 반복 안의 내부 층은 크게 표류해 유효한 예측 상태가 아니라는 것(Appendix H, E.3 언급).
반면 반복이 완료된 상태는 같은 블록을 거쳐 같은 표현 공간에 있으므로 공유 출력 헤드로 디코딩할 수 있다(§1).

지표

지표	무엇을 세는가	단위·방향	분모·정규화	측정 조건	원문 위치
pass@1 (수학)	문제당 한 번 샘플링했을 때 맞힐 확률	%, 높을수록 좋음	문제당 16개 샘플로 표준 비편향 추정량(Chen et al., 2021) 사용	AIME 2024·AIME 2025(각 30문항, 정수 일치), OlympiadBench 영어 수학 674문항(기호 동치), zero-shot 샘플링	Appendix B.2–B.3, Table 1(a)
pass@10 (수학)	10번 중 한 번이라도 맞힐 확률	%, 높을수록 좋음	같은 16개 샘플에서 추정	위와 같음	Appendix B.2, Table 1(a)
pass@1 (코드)	탐욕 생성 코드가 테스트를 통과한 비율	%, 높을수록 좋음	문제 수	HumanEval, MBPP를 EvalPlus의 base·extended 테스트로, zero-shot, greedy	§4.1, Appendix B.2–B.3, Table 1(b), Table 3(b)
객관식 정확도	보기마다 우도(likelihood)로 점수를 매겨 최고 보기를 고른 정답률	%, 높을수록 좋음	문항 수	ARC-C, ARC-E, SciQ, MMLU, HellaSwag, WinoGrande, PIQA; lm-evaluation-harness; 모델별 few-shot 수는 Table A2	§4.2, Appendix B.2, Table 2, Table 3(a)
생성형 정확도	최종 생성 답의 정답률	%, 높을수록 좋음	문항 수	GSM8K(3-shot, Huginn은 8-shot CoT, strict-match), MMLU-Pro(5-shot CoT), greedy	Appendix C.1, Table A5
Mean Δ	기준선 대비 점수 변화의 평균	%p, 양수가 개선	해당 스위트의 열들을 같은 가중치로 평균	각 표의 열 범위	Appendix B.2
Forward FLOPs	한 번의 forward pass 이론 연산량	TFLOPs 또는 전체 깊이 대비 비율, 낮을수록 좋음	행렬곱의 곱-누산 1회 = 2 FLOPs, 512토큰 prefill 기준	LoopCD-Logits는 추가 출력층 비용 포함, LoopCD-Hidden은 ≈1.000×	§4.3, Appendix D.1, Table A7
분석용: JS divergence / KL divergence	반복 $k$ 의 예측 분포와 최종 예측 분포의 차이	bits(JS), nats(KL), 작을수록 최종과 가까움	—	Ouro는 ARC-Challenge, Huginn은 [위치 미확인: 데이터셋 명시 없음]	Figure 6(a,b)
분석용: 불일치율	기준 반복 단독 예측이 최종 예측과 다른 보기를 고른 질문의 비율	%	질문 수	ARC-Challenge, HellaSwag, 4개 모델	Figure 6(c), §5.1

방법과 벤치마크 구성

기본 구조 (§2, Eq. 1)

입력 접두사에 대해 반복 블록의 초기 상태 $h_{0}$ , $k$ 번 반복 후 상태 $h_{k}$ . 블록 갱신 $f$ 를 $R$ 번 적용한 뒤 coda 층(루프 뒤의 고정 층)과 lm_head(최종 정규화+어휘 투영)를 거쳐 $z_{R} = lm_head (coda (h_{R}))$ . 표준 디코딩은 $p_{R} = softmax (z_{R})$ 에서 다음 토큰을 고른다.

LoopCD의 두 설계 선택 (§3)

가이던스 공간 (§3.1, Figure 3)
- LoopCD-Hidden (Eq. 2): $h^{'} = h_{R} + ω (h_{R} - h_{1})$ , $ω \geq 0$ . 섞은 상태를 coda와 lm_head에 한 번만 통과시킨다. $ω = 0$ 이면 기준선과 같다.
- LoopCD-Logits (Eq. 3): $z_{1} = lm_head (coda (h_{1}))$ , $z^{'} = z_{R} + ω (z_{R} - z_{1})$ . 기준 상태용 출력층 통과가 한 번 더 필요하다. 확률로 쓰면 $p^{'} (v) \propto p_{s} (v) (p_{s} (v) / p_{w} (v))^{ω}$ (Appendix A.3). coda가 비선형이라 Hidden 형태에는 이 등식이 그대로 성립하지 않는다.
가이던스 세기 (§3.2)
- 고정: 평가 설정마다 상수 $ω$ . 객관식은 0.5, 생성은 Ouro·Looped-Qwen3 0.3, Huginn 0.2(Appendix B.4, Table A4).
- 적응형 (Eq. 4): $ω = ω_{ma x} [1 - (p_{R, (1)} - p_{R, (2)})]$ . 1·2위 확률 차이가 작을수록(망설일수록) 세게, 한 후보가 확실하면 약하게. 엔트로피를 전체 어휘에 대해 계산하지 않아도 된다. Hidden 형태에 쓰려면 $h_{R}$ 에 대한 출력 통과가 추가로 필요해, 적응형은 Logits 형태에만 쓴다.

기준 상태는 기본적으로 첫 반복 $h_{1}$ . 단 Huginn은 가우시안 노이즈에서 시작하므로 Hidden 형태에서는 burn-in 이후 상태( $h_{6}$ 또는 $h_{7}$ )를 쓴다(Appendix B.4).

평가 모델 (§2, Figure 2, Appendix A, Table A1)

모델	파라미터	prelude / 반복 블록 / coda 층	반복 $R$	층 적용 수 $L_{e ff}$	특징
Ouro-1.4B	1.4B	0 / 24 / 0	4	96	전체 스택 반복, 중간 깊이 예측도 학습
Ouro-2.6B	2.6B	0 / 48 / 0	4	192	같음
Huginn-0125	3.5B	2 / 4 / 2	32 또는 16	132 / 68	상태를 노이즈로 초기화, 매 반복 prelude 출력 주입
Parcae-370M	0.37B	4 / 4 / 4	8	40	학습된 선형 항 포함, coda 전 투영
Parcae-1.3B	1.3B	8 / 8 / 8	8	80	같음
Looped-Qwen3	4.0B	15 / 4 / 17	8	64	동결된 Qwen3-4B의 4층 창을 감쇠 갱신 $u_{j + 1} = (1 - 1/ K) u_{j} + (1/ K) g (u_{j})$ 로 반복

수학 추론은 Ouro-Thinking 체크포인트, 나머지 과제는 Ouro base 체크포인트(Appendix B.1).

비교 방식 (Appendix B.1–B.4)

짝 비교: LoopCD와 기준선은 체크포인트·프롬프트·shot 수·생성 길이 제한·정지 규칙·답 추출기·평가기를 모두 공유하고, 반복 깊이도 맞춘다(축소 깊이 실험 제외).
축소 깊이 실험: 반복 절반 + LoopCD를, 전체 깊이 무가이던스 기준선과 비교. Hidden 형태 실행은 자기 전용 기준선과 짝짓는다(Appendix B.1).
하이퍼파라미터( $ω$ , $ω_{ma x}$ , 기준 상태)는 전체 평가 전 “screening sweep”으로 정했다(Appendix B.4). 이 스윕이 평가 벤치마크와 분리된 검증 데이터에서 이뤄졌는지는 본문·부록 B.4에 명시되어 있지 않다(analyst-inference).
외부 기준선(DoLa, 일반 contrastive decoding 등)과의 정량 비교는 보고되지 않았다. 비교 대상은 같은 모델의 무가이던스 디코딩뿐이다.

주요 결과

주장	근거 위치	관찰/수치	조건·주의	출처 라벨
수학 추론 pass@1·pass@10이 같은 깊이에서 오른다 (Ouro-Thinking)	Table 1(a), §4.1	Ouro-2.6B-Thinking 적응형: AIME 2024 61.88→73.33, AIME 2025 49.58→56.88, OlympiadBench 64.05→67.29. Mean Δ pass@1 +5.27~+7.33, pass@10 +2.53~+4.12	Ouro-Thinking 2개 모델 기준. AIME는 각 30문항, 문제당 16샘플	author-stated
Looped-Qwen3에서는 수학 pass@1이 떨어지고 pass@10만 오른다	Appendix Table A6, C.2	고정: pass@1 Mean Δ −1.11, pass@10 +1.90; 적응형: −1.67 / +3.18. AIME 2024 pass@1 64.79→61.04(적응형)	저자 해석: 가이던스가 샘플 궤적 사이의 다양성을 넓히는 것과 일치하나 pass@k는 다양성을 직접 재지 않는다	author-stated (부정 결과)
코드 생성이 모델 계열·크기 전반에서 오른다	Table 1(b), §4.1	Huginn R=32 적응형 HumanEval base 23.17→28.66, R=16 20.12→28.05. Mean Δ: Ouro-1.4B +0.37/+1.27, Ouro-2.6B +1.09/+2.54, Huginn R=32 +3.97/+2.57, R=16 +3.04/+3.90, Looped-Qwen3 +1.42/+1.41	개별 열에서 기준선보다 낮은 칸이 있다(빨간 칸): Ouro-1.4B 고정 MBPP base 72.75·ext 60.05, Huginn R=32 적응형 MBPP base 41.27, R=16 적응형 MBPP base 39.68, Looped-Qwen3 고정 HumanEval base 79.27	author-stated
LoopCD-Hidden이 추가 출력 통과 없이 코드 생성에서 더 크게 오른다	Table 3(b), §4.2	Huginn R=32 HumanEval base 22.56→31.71(+9.15), ext 19.51→29.27(+9.76); Mean Δ +5.13(R=32), +3.76(R=16), 모든 코드 열 개선	Hidden 실행은 별도 기준선과 짝(R=32 HumanEval base 기준선 22.56으로 Table 1(b)의 23.17과 다름). 초록의 22.56→31.71은 이 Hidden 기준선 수치	author-stated / analyst-inference (기준선 차이)
7개 객관식 벤치 평균이 모든 구성에서 오른다 (Logits)	Table 2, §4.2	Mean Δ 고정 +0.32~+1.38, 적응형 +0.29~+1.59. 최대: Parcae-1.3B 적응형 +1.59	개별 벤치에서는 하락이 흔하다: WinoGrande는 Ouro 두 모델·Parcae-370M의 4개 설정 모두 하락(최대 −2.45), PIQA는 Huginn·Parcae-1.3B에서 하락. 적응형이 고정보다 평균이 낮은 경우도 있다(Ouro-1.4B +0.29 vs +0.58)	author-stated
LoopCD-Hidden이 객관식에서도 평균을 올린다	Table 3(a)	Huginn R=32 +0.83, R=16 +0.75, Parcae-1.3B +0.85	같은 Huginn 설정에서 고정 Logits(+0.74, +0.62)보다 큼. PIQA는 Parcae-1.3B −1.52	author-stated
생성형 GSM8K는 엇갈리고 MMLU-Pro는 대체로 유지·상승	Appendix Table A5, C.1	MMLU-Pro 10행 중 9행 상승(최대 +1.42), GSM8K 10행 중 6행 상승(최대 +2.04), 최대 하락 −1.29(Huginn R=32 고정)	Looped-Qwen3 GSM8K는 고정 −1.14, 적응형 −1.06	author-stated
반복 절반 + LoopCD가 전체 깊이 기준선과 같거나 높다	Figure 4(a), §4.3	절반 깊이 무가이던스 −0.17~~−1.29점; LoopCD 적용 시 +0.75~~+1.29점 회복. Huginn 절반 깊이: Logits +1.02, Hidden +0.51(전체 깊이 기준 대비). Looped-Qwen3 Hidden +0.00	7개 객관식 평균 기준, 6개 설정. 축소 깊이에서는 고정 세기만 사용	author-stated
그때 forward FLOPs가 22.5–48.2% 줄어든다	Figure 4(b), §4.3, Appendix D	전체 깊이 대비 0.52~0.78배	512토큰 prefill 이론 FLOPs, LoopCD-Logits의 추가 출력층 비용 포함. 실제 지연시간(wall-clock) 측정은 확보한 범위에서 확인하지 못했다	author-stated
첫 반복 예측은 최종 예측보다 훨씬 약하다	Figure 5(a), §5.1	7개 벤치 평균에서 4.0~23.7점 뒤짐(Huginn −23.7, Ouro-1.4B −21.5, Parcae-370M −4.0)	반복이 늘수록 정확도가 꾸준히 오른다(Figure 5(b,c))	author-stated
이득은 기준 예측이 최종 예측과 얼마나 다른지를 따라간다	Figure 6, §5.1	Huginn 첫 반복은 ARC-C 51%에서 다른 답, ω=0.5에서 +3.07점; 16번째는 7% 불일치, +0.17점	상관 관찰. 반복이 진행될수록 예측 차이가 급감(Ouro-1.4B JS 0.71→0.013 bits, Huginn KL 3.0→0.04 nats)	author-stated
첫 반복이 가장 좋은 Logits 기준이다	Figure 7(a), §5.1	ARC-C에서 Huginn 3.07→0.17, Parcae-1.3B 3.50→1.02(기준 반복이 깊어질수록)	Huginn Hidden 형태는 예외: 초기 노이즈 때문에 첫 상태 −0.58점, 6번째 상태에서 +0.83점 최고(Figure 7(b))	author-stated
이득의 주된 원천은 순위를 바꾸는 직교 성분이다	Figure 8(a,b), §5.2	HellaSwag, ω=0.5: 직교 성분만 Ouro-1.4B +1.72 vs 전체 +0.76, Ouro-2.6B +2.27 vs +1.56. ω=1.5까지 직교 성분이 전체 업데이트와 같거나 높음	두 Ouro 모델·HellaSwag 한 벤치 분석	author-stated
이득은 모델이 망설이는 질문에 몰린다	Figure 8(c), §5.2, Appendix F.1	신뢰도 하위 1/5: +6.4~+13.3점, 상위 1/5: 최대 +0.4점. 답이 바뀌는 비율 5.8~~14.9%, 순이득 2.1~~3.5점	ARC-Challenge, 4개 모델, ω=0.5	author-stated
생성 과제는 좁은 세기 범위에서만 이득	Figure 9, §5.3, Appendix G.1	객관식은 ω≈0.5 근처에서 6개 모델 모두 최고; 생성은 ω∈[0.2, 0.3], ω≈0.6을 넘으면 급락(Ouro-1.4B GSM8K ω=0.8에서 −8, ω=1.0에서 −20; HumanEval −10, −22)	음수 ω(약한 쪽으로 이동)는 모든 경우 정확도 하락	author-stated
적응형 규칙은 더 넓은 세기 범위에서 이득을 유지	Figure 10, §5.3	$ω_{ma x} \in [0.5, 1.0]$ 에서 양의 이득 유지, 고정 세기는 그 범위에서 넘침(overshoot)	6개 모델 평균 곡선	author-stated

결과들이 이어지는 방식. 논리는 “약-강 짝이 존재한다(Figure 5) → 그 차이가 클수록 이득이 크다(Figure 6–7) → 이득은 순위 재배치에서 오고(Figure 8a,b) 망설이는 결정에만 작용한다(Figure 8c) → 그래서 확실한 결정에는 덜 밀어 주는 적응형 규칙이 넓은 범위에서 안정적이다(Figure 10)“로 이어진다. 생성 과제에서 범위가 좁은 이유는 초반 토큰의 변화가 이후 접두사 전체에 누적되기 때문이라고 저자들이 설명한다(§5.3, author-stated). 같은 깊이에서 얻는 이득이 있으니 반복을 줄여도 정확도를 메울 수 있다는 것이 Figure 4의 계산 절감 결과로 연결된다.

주장과 표 사이의 긴장 (analyst-inference)

결론(§6)은 “every multiple-choice and generation suite mean across four families”를 개선한다고 쓰지만, 부록 Table A6에서 Looped-Qwen3의 수학 pass@1 평균은 고정·적응형 모두 하락했고, Table A5의 Looped-Qwen3 GSM8K도 하락했다. 본문 수학 표(Table 1(a))에는 Ouro-Thinking만 실려 있다.
초록의 “Huginn HumanEval 22.56%→31.71%“는 Hidden 실행 전용 기준선 기준이다. Logits 실행의 같은 설정 기준선은 23.17%다(Table 1(b) vs Table 3(b)).
“LoopCD-Hidden: zero output overhead”는 출력층 통과가 늘지 않는다는 뜻이고, 은닉 상태 $h_{1}$ (또는 $h_{6}$ )을 저장해 두는 메모리 비용은 따로 논의되지 않는다.

Take-home

한 줄 요약. 루프 트랜스포머의 첫 반복 예측과 최종 예측의 차이는 “반복이 예측을 어느 쪽으로 고쳐 왔는지”를 담고 있으며, 그 방향으로 조금 더 외삽하는 것만으로 학습 없이 정확도를 올리거나 같은 정확도에서 반복 수를 절반으로 줄일 수 있다.

결론이 성립하는 범위.

4개 사전학습 루프 계열(Ouro 1.4B/2.6B, Huginn-0125 3.5B, Parcae 370M/1.3B, Looped-Qwen3 4B), 최대 4B 규모(Table A1).
수학 추론 결과는 본문에서 Ouro-Thinking 두 모델만, Looped-Qwen3는 부록에서 pass@1 하락(Table A6).
계산 절감 결과는 7개 객관식 평균 기준 6개 설정(Figure 4). 생성 과제에서의 절반 깊이 결과는 확보한 범위에서 확인하지 못했다.
비교는 같은 모델의 무가이던스 디코딩 대비. DoLa 등 다른 디코딩 기법과의 비교는 보고되지 않았다.

저자가 인정한 한계·조건 (author-stated)

생성 과제는 세기 창이 좁고(ω∈[0.2, 0.3]), ω≈0.6 이상에서 급락한다(§5.3, Appendix G.1).
Huginn처럼 노이즈로 초기화하는 모델은 Hidden 형태에서 burn-in 이후 상태를 기준으로 써야 한다(§5.1, Appendix B.4).
pass@k는 궤적 다양성을 직접 재지 않는다(Appendix C.2).
Ouro처럼 중간 예측을 염두에 두고 학습한 모델이 이 짝을 더 유용하게 만들 수 있다는 것은 가능성으로만 언급된다(§6).

작성자가 보는 우려 (analyst-inference)

하이퍼파라미터를 “screening sweep”으로 골랐는데, 그 스윕이 평가 벤치마크와 분리된 데이터에서 이뤄졌다는 명시가 없다. Figure 9–10의 스윕 곡선이 평가 벤치 평균으로 그려져 있어, 보고된 이득에 선택 편향이 일부 섞였을 수 있다.
AIME는 각 30문항이라 pass@1의 수 점 차이가 문항 1–2개 수준이다. 문제당 16샘플로 추정 분산은 줄였지만, seed별 반복이나 신뢰구간은 보고되지 않았다.
객관식 평균 이득(+0.3~+1.6점)은 개별 벤치 하락을 상쇄한 결과다. 특히 WinoGrande는 Ouro·Parcae-370M에서 일관되게 떨어진다.
FLOPs 절감은 이론 연산량이며 실제 지연시간이나 배치 처리량은 확보한 범위에서 확인하지 못했다.

재현성. 반복 실행 수(seed): 수학은 문제당 16샘플 추정, 그 외는 greedy 또는 우도 점수로 단일 실행이며 seed 반복은 보고되지 않았다. 코드 공개 여부는 원문에서 확인하지 못했다(본문·부록에 저장소 언급 없음).

읽지 못한 범위. 본문(1–11쪽)과 부록 A–C, D.1, G.1, H는 읽었다. 부록 D.2–D.3, E, F, G.2의 세부 분석은 캡션 수준으로만 확인했다.

본문 도표

Figure 1 — LoopCD 개요와 대표 결과

무엇을 보여주는가: (a) 방법 개념도, (b) 같은 깊이에서의 이득, (c) 반복 절반에서의 정확도-계산량.
읽는 법: (a) $h_{0} \to h_{1} \to \dots \to h_{R}$ 로 같은 블록을 $R$ 번 돌고, $h_{R}$ 은 출력층을 거쳐 최종 예측, $h_{1}$ 은 같은 출력층을 거쳐 “earlier prediction”이 된다. 둘을 “final + ω(final − earlier)“로 섞어 guided prediction. (b) 가로축 점수(%), 빗금 막대는 기준선, 진한 막대는 LoopCD로 얻은 이득, 8개 모델-벤치 쌍. (c) 가로축은 forward TFLOPs(로그, 모델마다 끊긴 구간), 세로축은 7개 벤치 평균(%), 빈 원은 전체 깊이 무가이던스, 채운 원은 반복 절반 LoopCD.
핵심 관찰: (b) AIME 2024 Ouro-2.6B Thinking +11.45, Ouro-1.4B Thinking +8.34, HumanEval Huginn R=32 +9.15(Hidden), R=16 +7.93, HumanEval Ouro-2.6B +4.27, ARC-C Parcae-370M +4.36, HellaSwag Parcae-1.3B +4.51, MBPP Looped-Qwen3 +3.97. (c) 계산 절감 Looped-Qwen3 −24%, Huginn-0125 −46%, Parcae-1.3B −27%, Parcae-370M −22%, 채운 원이 빈 원보다 약간 위.
의미와 주의: (b)는 각 모델의 가장 좋은 벤치 하나씩을 고른 쇼케이스이므로 평균 효과로 읽으면 안 된다(평균은 Table 1–3, analyst-inference). 캡션에 따르면 Huginn R=32 행은 hidden-state guidance다.
확인 상태: viewed

Figure 2 — 평가한 4개 루프 구조

무엇을 보여주는가: 네 계열에서 네트워크의 어느 부분이 반복되는지.
읽는 법: 아래에서 위로 embeddings → prelude(회색) → 반복 블록(파랑, 오른쪽 ×숫자는 반복 횟수) → coda(회색) → lm_head.
핵심 관찰: Ouro-1.4B는 24층 전체가 ×4. Huginn-0125는 prelude 2층, 공유 블록 4층 ×32, coda 2층, 상태를 노이즈에서 시작하고 prelude 출력이 매 반복 들어감. Parcae-1.3B는 8/8×8/8층, coda 전 projection. Looped-Qwen3는 prelude 15층, 동결 창 4층 ×8(감쇠 갱신), coda 17층.
의미와 주의: coda가 깊을수록 Logits 형태의 추가 비용이 크고, Hidden 형태에서는 대조가 깊은 비선형 층을 통과한다는 차이가 생긴다(Appendix D.3 언급, author-stated). 그림의 층·반복 수는 Ouro-1.4B, Huginn-0125, Parcae-1.3B, Looped-Qwen3 기준이다(캡션).
확인 상태: viewed

Figure 3 — 두 가이던스 공간

무엇을 보여주는가: LoopCD-Logits와 LoopCD-Hidden이 대조를 어디서 적용하는지.
읽는 법: (a) Logits: $h_{R}$ 과 $h_{1}$ 이 각각 Output layers를 거쳐 $z_{R}$ , $z_{1}$ 이 되고 ω로 섞임(출력 통과 2번, Eq. 3). (b) Hidden: $h_{R}$ 과 $h_{1}$ 을 먼저 ω로 섞고(Eq. 2) Output layers를 한 번 통과. 색: 주황(rust)=기준, 초록(sage)=최종, 파랑(steel)=가이드 결과.
핵심 관찰: 두 형태의 차이는 섞는 위치와 출력층 통과 횟수뿐이다.
의미와 주의: Ouro는 coda가 없어 두 형태의 차이가 정규화+헤드뿐이며, 보고된 Ouro 실험은 Logits 형태만 쓴다(Appendix A.2, author-stated).
확인 상태: viewed

Table 1 — 수학 추론과 코드 생성 (전체 깊이)

무엇을 보여주는가: (a) Ouro-Thinking 두 모델의 AIME 2024, AIME 2025, OlympiadBench pass@1·pass@10, (b) 5개 구성의 HumanEval·MBPP base/extended pass@1.
읽는 법: 회색 행이 기준선, 그 아래 “LoopCD, fixed”와 “LoopCD, adaptive”. 아래첨자는 기준선 대비 변화, 빨간 숫자는 기준선보다 낮은 칸. Mean Δ는 해당 열 변화의 평균.
핵심 관찰: (a) Ouro-1.4B-Thinking AIME 2024 50.83→59.17(적응형, +8.34); Ouro-2.6B-Thinking 61.88→73.33(+11.45). Mean Δ pass@1은 +5.27/+6.22(1.4B), +6.70/+7.33(2.6B). pass@10은 Ouro-2.6B에서 고정(+4.08)이 적응형(+3.71)보다 높다. (b) Huginn R=16 적응형 HumanEval base 20.12→28.05. 하락 칸: Ouro-1.4B 고정 MBPP(72.75, 60.05), Huginn 적응형 MBPP base(41.27, 39.68), Looped-Qwen3 고정 HumanEval base(79.27).
의미와 주의: 수학 이득이 객관식 이득보다 한 자릿수 크다(저자 언급, Appendix C.2). 수학 결과에 Looped-Qwen3가 없고, 부록 Table A6에서는 pass@1이 하락했다(analyst-inference, 범위 한계).
확인 상태: viewed

Table 2 — 7개 객관식 벤치 (LoopCD-Logits)

무엇을 보여주는가: 7개 모델 구성 × 7개 객관식 벤치에서 고정·적응형 LoopCD-Logits의 정확도와 평균 변화.
읽는 법: 열은 ARC-C, ARC-E, SciQ, MMLU, HellaSwag, WinoGrande, PIQA와 Mean Δ. 각 보기를 우도로 점수화. 굵은 Mean Δ는 두 규칙 중 더 나은 쪽.
핵심 관찰: 모든 구성에서 Mean Δ 양수(+0.29~+1.59). 큰 이득은 ARC-C와 HellaSwag에 몰림(Parcae-1.3B 적응형 ARC-C +4.10, HellaSwag +4.51). WinoGrande는 Ouro-1.4B −0.95/−2.45, Ouro-2.6B −0.79/−1.73, Parcae-370M −1.50/−1.26. Ouro-1.4B에서는 고정(+0.58)이 적응형(+0.29)보다 높다.
의미와 주의: 저자는 “adaptive leading across nearly all configurations”라고 쓴다(§4.2). 평균 이득이 작고 벤치별로 부호가 갈리므로, 어느 과제에 유리한지 함께 봐야 한다(analyst-inference).
확인 상태: viewed

Table 3 — LoopCD-Hidden (출력 통과 추가 없음)

무엇을 보여주는가: (a) Huginn R=32·R=16, Parcae-1.3B R=8의 7개 객관식, (b) Huginn 두 깊이의 HumanEval·MBPP. 모두 고정 세기.
읽는 법: 각 모델마다 Baseline과 LoopCD 두 열, 아래첨자는 변화.
핵심 관찰: (a) Mean Δ +0.83, +0.75, +0.85. 하락은 Huginn R=16 PIQA −0.11, Parcae-1.3B PIQA −1.52. (b) HumanEval base +9.15(R=32), +6.10(R=16), ext +9.76, +5.49; MBPP 4칸 모두 상승(+0.53~+2.12). Mean Δ +5.13, +3.76.
의미와 주의: 같은 Huginn 설정에서 Hidden이 고정 Logits보다 평균 이득이 크다(§4.2). 다만 Hidden 실행은 자체 기준선(R=32 HumanEval base 22.56)과 짝지어 Table 1(b)의 Logits 기준선(23.17)과 다르므로, 두 표의 절대 점수를 바로 비교하지 말고 변화량을 비교해야 한다(Appendix B.1·Table A2 주석, author-stated).
확인 상태: viewed

Figure 4 — 반복 절반에서의 정확도와 계산량

무엇을 보여주는가: (a) 반복을 절반으로 줄였을 때 7개 벤치 평균의 변화, (b) 그때의 forward FLOPs.
읽는 법: (a) 가로축은 전체 깊이 무가이던스 기준 대비 Δ점. 빈 원은 절반 깊이 무가이던스, 채운 원은 절반 깊이 LoopCD. (b) 가로축은 전체 깊이 forward pass 대비 비율, 연한 구간은 Logits 형태의 추가 출력층 비용, 오른쪽 숫자는 절감률.
핵심 관찰: Huginn Logits −0.17→+1.02(−46%), Huginn Hidden −0.24→+0.51(−48%), Parcae-370M Logits −0.37→+0.77(−22%), Parcae-1.3B Logits −0.70→+0.57(−27%), Parcae-1.3B Hidden −0.72→+0.11(−39%), Looped-Qwen3 Hidden −1.29→+0.00(−24%).
의미와 주의: 6개 설정 모두 0 이상으로 돌아온다(author-stated). 절감률 차이는 모델에서 루프가 차지하는 비중에 달려 있다: Looped-Qwen3는 prelude·coda가 32층이라 반복을 줄여도 절감이 작다(analyst-inference, Figure 2·Table A1과 대조). Ouro는 이 비교에 없다.
확인 상태: viewed

Figure 5 — 첫 반복은 최종 반복보다 훨씬 약하다

무엇을 보여주는가: (a) 6개 모델에서 첫 반복 단독 예측과 최종 예측의 7개 벤치 평균, (b) Ouro의 반복별 ARC-C 정확도(25-shot), (c) Huginn의 32개 반복별 ARC-C 정확도(zero-shot).
읽는 법: (a) 빈 원=첫 반복, 채운 원=최종, 옆 숫자는 차이. (b),(c) 가로축 반복 번호, 세로축 ARC-C 정확도(%).
핵심 관찰: (a) Ouro-1.4B −21.5, Ouro-2.6B −15.8, Huginn −23.7, Parcae-370M −4.0, Parcae-1.3B −7.6, Looped-Qwen3 −4.8. (b) Ouro-2.6B 48.0→66.2, Ouro-1.4B 38.6→60.4(1→4반복). (c) Huginn 23.7(1반복) → 34.0(약 8반복) → 37.5(32반복), 대략 16반복 이후 평평해짐(그래프 판독, analyst-inference).
의미와 주의: 약-강 짝이 실제로 존재한다는 전제 검증(author-stated). 첫 반복이 상대적으로 강한 Parcae·Looped-Qwen3에서는 LoopCD의 평균 이득도 대체로 작다는 점과 함께 볼 만하다(analyst-inference, Table 2 대조 — 단 Parcae-1.3B는 이득이 가장 큰 편이라 단순 비례는 아님).
확인 상태: viewed

Figure 6 — 이득은 기준-최종 불일치를 따라간다

무엇을 보여주는가: (a) Ouro 반복별 예측과 최종 예측의 Jensen–Shannon divergence(bits, ARC-C), (b) Huginn 반복별 KL divergence(nats), (c) 기준 반복이 최종과 다른 답을 고른 질문 비율 vs ω=0.5 LoopCD-Logits 이득.
읽는 법: (a),(b) 세로축 로그. (c) 가로축 불일치율(%), 세로축 Δ점, 채운 점 ARC-C, 빈 점 HellaSwag, 4개 모델.
핵심 관찰: (a) Ouro-1.4B 0.71(1반복) → 0.013(3반복) bits(§5.1 본문 수치). 그림의 점 라벨로는 한 곡선이 0.71→0.13→0.013, 다른 곡선이 0.56→0.06→0.008이다(어느 곡선이 어느 모델인지는 그래프 판독, analyst-inference). (b) Huginn 3.0 nats(1반복) → 0.04(16반복)(§5.1 본문), 중간 라벨 0.41은 약 8반복 부근(그래프 판독). 0.005 nats 미만은 생략. (c) 불일치율이 클수록 이득이 큼. Huginn 1반복(약 51% 불일치)이 오른쪽 위, 16반복(7%)이 원점 근처.
의미와 주의: 저자 해석: 기준이 주는 것은 “방향”이며, 이미 최종에 수렴한 늦은 반복은 이어갈 방향이 거의 없어 더 큰 세기가 필요하다(§5.1, author-stated). (c)는 상관 관계다(analyst-inference).
확인 상태: viewed

Figure 7 — 어느 반복을 기준으로 쓸까

무엇을 보여주는가: (a) ARC-C에서 기준 반복 $k$ 에 따른 LoopCD-Logits 이득(ω=0.5), (b) Huginn R=32 LoopCD-Hidden(ω=0.5)의 기준 상태별 7개 벤치 평균 변화.
읽는 법: (a) 모델별 막대 묶음, 첫 막대(진한 색)가 첫 반복. (b) 가로축 기준 상태 $k$ (1–32), 회색 음영은 burn-in 구간.
핵심 관찰: (a) 첫 반복 기준 이득: Huginn +3.1, Parcae-1.3B +3.5, Ouro-1.4B +2.1, Ouro-2.6B +2.6, 깊은 기준일수록 감소. (b) 첫 상태 −0.58, $k = 6$ 에서 +0.83 최고, 이후 0 근처로 수렴.
의미와 주의: Logits 형태에서는 출력층(coda)이 Huginn의 초기 노이즈를 투영해 없애지만, Hidden 형태에서는 노이즈가 그대로 대조에 섞이기 때문이라고 저자들이 설명한다(§5.1, author-stated).
확인 상태: viewed

Figure 8 — 순위 재배치가 이득을 만들고, 불확실한 곳에 작용한다

무엇을 보여주는가: (a) 대조 벡터 $z_{R} - z_{1}$ 의 분해 도식, (b) HellaSwag에서 세기 ω에 따른 정확도 변화(두 Ouro 모델), (c) ARC-C 질문을 기준선 신뢰도로 5등분했을 때 그룹별 이득.
읽는 법: (a) $z_{R}$ 에 평행한 성분은 로짓 전체를 같은 비율로 키우는 온도 조절(순위 불변), 직교 성분은 토큰 순위를 바꿈. (b) 굵은 선은 직교 성분만, 얇은 선은 전체 업데이트. (c) 왼쪽이 가장 덜 확신한 그룹, 4개 모델, ω=0.5.
핵심 관찰: (b) ω=0.5에서 직교 성분만 Ouro-1.4B +1.72(전체 +0.76), Ouro-2.6B +2.27(전체 +1.56). Ouro-1.4B의 전체 업데이트는 ω≈1.5 이후 급락. (c) 하위 1/5에서 +6.4~+13.3점, 상위 1/5에서 최대 +0.4점.
의미와 주의: 업데이트는 최종 예측의 1·2위 차이보다 큰 밀기를 줄 때만 답을 바꾸므로, 확신한 결정은 그대로 두고 망설이는 결정만 움직인다(§5.2, author-stated). 이것이 적응형 규칙(Eq. 4)의 근거다. 평행 성분(온도)은 이득에 기여가 적거나 오히려 해가 될 수 있다는 해석이 (b)에서 나온다(analyst-inference).
확인 상태: viewed

Figure 9 — 객관식과 생성의 적정 세기 차이

무엇을 보여주는가: (a) 고정 세기 ω에 따른 7개 객관식 평균 변화(6개 모델), (b) 생성 평균 변화(5개 모델).
읽는 법: (a) 회색 띠는 모델들이 최고점을 찍는 범위, 점선은 선택한 ω=0.5. (b) 회색 띠는 선택한 0.2–0.3, 빨간 표시는 ω≈0.6 이후 붕괴.
핵심 관찰: (a) 6개 모델 모두 0.5 근처에서 최고, Huginn은 ω>1에서 −2 이하로 하락(그래프 판독). (b) 0.2–0.3에서 소폭 양수, 0.6 이후 일부 모델이 −12 이하로 떨어짐(그래프 판독).
의미와 주의: 생성에서는 초반 토큰 변화가 이후 접두사에 누적되기 때문이라는 저자 설명(§5.3, author-stated). 이 스윕이 곧 하이퍼파라미터 선택 근거이므로, 평가 벤치와 분리된 검증 데이터가 아니라면 낙관 편향이 있을 수 있다(analyst-inference).
확인 상태: viewed

Figure 10 — 적응형 규칙의 넓은 안정 범위

무엇을 보여주는가: (a) 적응형 상한 $ω_{ma x}$ 에 따른 7개 벤치 평균 변화(6개 모델), (b) 6개 모델 평균에서 고정 규칙(점선, 가로축 ω)과 적응형 규칙(실선, 가로축 $ω_{ma x}$ ) 비교.
읽는 법: (b) 오른쪽 회색 띠는 적응형 평균은 아직 기준선 위인데 고정 평균은 아닌 구간.
핵심 관찰: (b) 두 규칙 모두 0.5에서 최고. 고정 규칙은 약 1.25 이후 음수로, 적응형은 2 근처까지 0 이상 유지(그래프 판독, analyst-inference). 본문은 $ω_{ma x} \in [0.5, 1.0]$ 에서 양의 이득 유지라고 쓴다.
의미와 주의: 적응형 규칙은 최고 성능을 크게 높이기보다 세기 선택의 위험을 줄이는 역할에 가깝다(analyst-inference). Huginn은 (a)에서도 큰 상한에서 하락한다.
확인 상태: viewed

Wiki 연결

A Survey on Latent Reasoning — 수직 재귀(루프/Recurrent-Depth) 계열 전체 지도. LoopCD는 이 계열의 디코딩 단계 개선.
Scaling up Test-Time Compute with Latent Reasoning - A Recurrent Depth Approach — 평가 대상 Huginn-0125의 원 논문(Geiping et al., 2025). 노이즈 초기화·prelude 재주입 구조가 Hidden 형태의 burn-in 문제(Figure 7(b))의 원인.
Latent Chain-of-Thought Decoding the Depth-Recurrent Transformer — Huginn의 중간 반복 상태를 디코딩해 보는 분석 연구로, LoopCD가 쓰는 “중간 반복 = 읽을 수 있는 예측” 전제와 맞닿는다.
Reasoning with Latent Thoughts - On the Power of Looped Transformers — 루프 모델의 추론 능력 이론(Appendix H 인용 Saunshi et al., 2025).
Looped Transformers as Programmable Computers — Appendix H에서 루프 구조의 계산 능력 근거로 인용(Giannou et al., 2023).
Fixed-Point Reasoners - Stable and Adaptive Deep Looped Transformers — 반복이 수렴하는 동역학(Figure 6의 급감하는 divergence)과 연결되는 루프 안정성 연구.

BibTeX

@article{liu2026loopcd,
  title   = {Decoding Looped Transformers Better for (Almost) Free},
  author  = {Liu, Weihao and Zheng, Huangjie and Chen, Tianrong and Dilip, Rohit and Bai, Richard He and Jiao, Yizhu and Wang, Yuyang and Zhang, Ruixiang},
  journal = {arXiv preprint arXiv:2610.02185},
  year    = {2026}
}