LoopViT: 루프 트랜스포머로 시각 ARC를 확장하기

개요

ARC-AGI는 색칠된 격자 그림 2–4쌍을 보고 숨은 규칙을 알아낸 뒤 새 격자에 적용하는 퍼즐이다. 직전 연구 VARC는 이 퍼즐을 글자로 바꾸지 않고 그림 그대로 **ViT(Vision Transformer, 이미지를 작은 조각으로 나눠 처리하는 트랜스포머)**에 넣어 풀 수 있음을 보였다. 그런데 ViT는 층을 한 번 통과하면 끝나는 feed-forward 구조라서, “계산을 몇 단계 할 수 있는가”가 “층(=파라미터)이 몇 개인가”에 묶여 있다. 저자들의 통찰은 ARC 풀이가 한 번 보고 답하는 지각이 아니라 같은 규칙을 여러 번 적용해 답을 다듬어 가는 과정이라는 점이다. 줄을 한 칸씩 이어 그리거나 영역을 채우는 일이 대표적이다. 그렇다면 층을 더 쌓을 게 아니라 같은 층을 여러 번 돌리면 된다. 그래서 Loop-ViT는 같은 가중치를 공유하는 **weight-tied 루프(한 묶음의 층을 반복 실행해 깊이와 파라미터 수를 떼어 놓는 구조)**를 핵심으로 삼는다. 루프 안 블록은 주변 칸만 보는 depthwise convolution과 격자 전체를 보는 attention을 섞은 Hybrid Block이다. 추론할 때는 출력의 평균 픽셀 엔트로피가 0.05 아래로 떨어지면 반복을 멈춘다. 저자들은 이를 답이 “굳는다(crystallize)“고 부르며, 이 Dynamic Exit(추가 파라미터 없이 예측 엔트로피로 반복을 멈추는 장치) 덕분에 쉬운 문제는 빨리 끝난다. 결과를 보면, 파라미터를 키워 온 VARC는 18M에서 54.5%, 73M 앙상블에서 60.4%였다. 루프를 쓴 Loop-ViT는 3.8M(Small)만으로 60.1%, 18M(Large)으로 65.8%를 냈다(ARC-AGI-1, Pass@2, Table 1). 같은 2층 코어를 1번에서 6번 돌리면 정확도가 약 30%에서 약 56%로 오른다(Figure 6, 그래프 판독).

Implication: 시각 추론에서도 “더 큰 모델” 대신 “같은 블록을 더 오래 돌리기”가 효율적인 확장 축이 될 수 있다. 다만 결과는 RE-ARC 합성 데이터와 테스트 시점 학습(TTT)을 함께 쓴 ARC 설정에 한정되고, seed 반복이나 신뢰구간은 보고되지 않았다. 일부 ablation 격차(Hybrid vs Vanilla 0.9–1.3%p)도 작다.

📎 https://arxiv.org/abs/2602.02156

배경과 문제

문제. ARC-AGI는 적은 시연(2–4쌍)에서 재귀적 채우기, 물체 이동, 중력 같은 조합적 변환 규칙을 찾아 적용해야 하는 벤치마크다(Section 1, Figure 2). 저자들은 사람이 반복적인 가설 검증으로 이 문제를 푼다고 보고, 다단계 숙고 장치가 없는 딥러닝에는 여전히 어렵다고 말한다(author-stated, Section 1).

계보. 저자들이 직접 연결한 흐름은 셋이다(Section 2, Figure 3).

ARC 입력 표현: (A) LLM은 격자를 JSON/ASCII 텍스트로 바꿔 넣는다. (B) HRM·TRM 같은 재귀 토큰 모델은 격자를 고정 캔버스의 1D 토큰열로 바꾼다. 두 방식 모두 2D 공간 구조(topology)를 잃는다고 저자들은 본다. (C) VARC(Hu et al., “ARC is a vision problem!“)는 이미지-대-이미지 번역으로 바꿔 ViT를 쓴다. Loop-ViT는 (C)의 시각 입력을 유지하면서 계산 그래프를 한 번 통과에서 반복 루프로 바꾼 (D)다(author-stated).
Looped Transformer와 알고리즘 일반화: Universal Transformer, ALBERT의 가중치 공유, latent chain-of-thought로서의 재귀(“thinking models”), 잠재 공간에서 사고 시간을 늘리는 대규모 연구, 비전의 RAFT(optical flow 반복 정제), 미로를 푸는 recurrent ResNet(Section 2).
적응형 계산: ACT·PonderNet 같은 “soft halting”은 보조 손실이 필요하고, 라우팅 정책을 학습하는 “hard halting”도 있다. Loop-ViT는 파라미터 없는 엔트로피 종료를 택한다(Section 2).

기존 방법의 한계. feed-forward ViT는 깊이나 너비를 키워도 이득이 줄어든다고 저자들은 주장하며 그 근거로 Figure 1을 든다(author-stated, Section 1). Figure 1의 VARC 점은 18M 54.5%, 66M 약 53%, 73M 앙상블 60.4%다. 단일 모델을 키웠을 때 오히려 낮아진 점이 이 주장의 근거로 보인다(analyst-inference). 저자들은 이를 퍼즐이 요구하는 재귀와 구조가 맞지 않기 때문으로 해석한다.

이 논문의 차이. “첫 looped Vision Transformer”라고 주장한다(author-stated, Section 1 contributions). 이 “첫”이라는 주장을 검증할 근거는 원문에 없다(unknown).

지표

지표	뜻	단위·방향	분모·조건	위치
Pass@2 accuracy	문제마다 답 2개를 내서 하나라도 정답 격자와 같으면 맞음	%, 높을수록 좋음	ARC-AGI-1(주 평가), ARC-AGI-2(분포 밖 일반화 확인). 평가 split의 이름은 Figure 1 제목 “ARC-AGI-1 (Public)” 외에 본문에 따로 적혀 있지 않다	Section 4.1
Pass@1 accuracy	답 1개로 맞춘 비율	%, 높을수록 좋음	Figure 10에서만 Pass@2와 함께 표시	Figure 10
Params	모델 파라미터 수	M, 낮을수록 효율적	루프 반복은 파라미터를 늘리지 않음	Table 1
GFLOPs (inference compute)	추론 연산량	GFLOPs, 낮을수록 좋음	루프 펼침을 포함하고, entropy 종료 시 평균 실행 단계 수로 계산	Figure 8 캡션
평균 픽셀 엔트로피 H_t	단계 t의 픽셀별 색 분포 Shannon 엔트로피를 픽셀 수 N으로 평균	낮을수록 확신	종료 임계값 τ = 0.05	Eq. 11, Section 3.3
L2 차이 δ_t (Prob Diff)	연속 단계 사이 예측 확률의 L2 정규화 차이	낮을수록 안정	검증 세트 평균·분산	Figure 9

방법과 벤치마크 구성

전체 흐름 (Section 3.1, Figure 4 A–B). 격자 x와 과제 맥락 c를 emb(·)로 M개 토큰(차원 d)으로 바꾼다. 그다음 같은 코어 M_θ를 반복해 z_{t+1} = M_θ(z_t + e_t)로 상태를 갱신한다(Eq. 2). e_t는 “지금 몇 번째 단계인지” 알려 주는 학습된 step embedding이다. 출력은 head(z_t)다. 학습 때보다 더 많이 돌릴 때는 마지막 embedding을 그대로 쓴다(e_t = e_{T_train}, t > T_train). 비교 대상인 표준 ViT는 서로 다른 L개 층을 한 번씩 통과한다(Eq. 1).

Hybrid Encoder Block (Section 3.2, Figure 4 C–D). 코어 M_θ는 L개의 hybrid layer로 이뤄진다.

층 하나 = RoPE(Rotary Positional Embedding, 상대 위치를 회전으로 넣는 위치 인코딩)를 쓴 MHSA(다중 헤드 셀프 어텐션) + Heterogeneous ConvGLU(FFN). Pre-norm RMSNorm을 쓴다(Eq. 6–7).
ConvGLU: 게이트 표현을 task 토큰과 image 토큰으로 나눈다. image 토큰만 2D로 되돌려 3×3 depthwise convolution을 거친다. task 토큰은 그대로 지나간다(Eq. 8–10). 저자들은 이 convolution을 이웃 칸만 보고 상태를 바꾸는 cellular automaton(세포 자동자) 규칙에 빗대고, attention은 규칙 정보를 격자 전체에 퍼뜨리는 역할이라고 설명한다(author-stated).

Dynamic Exit (Section 3.3). 단계 t의 확률 P_t = softmax(head(z_t))에서 평균 픽셀 엔트로피 H_t를 계산한다(Eq. 11). H_t < τ(=0.05)이면 멈추고, 아니면 T_max까지 돈다. 멈춘 뒤 상태는 고정된다. 추가 파라미터는 없다.

학습 (Section 3.4).

Fixed-Depth Training: ARC와 RE-ARC(절차적으로 생성한 ARC 합성 예제)로 학습한다. 학습 중에는 동적 종료를 쓰지 않고 고정 T 단계(예: T = 12)를 펼친 뒤 마지막 출력에만 픽셀 단위 cross-entropy를 건다(Eq. 12).
TTT(Test-Time Training, 테스트 문제의 시연 쌍으로 가중치를 잠깐 더 학습하는 것): 평가 때 과제별 시연에 회전·뒤집기·색 치환 증강을 해서 공유 가중치 θ를 미세조정한다.

모델 설정 (Section 4.1). Small 3.8M, Medium 11.2M, Large 18M. T_max는 Small이 [20, 28], Medium/Large가 [4, 8] 범위이며 “모델 크기와 과제 복잡도에 따라” 정한다고만 적혀 있다. 각 변형의 코어 층 수 B, hidden 차원, 학습량, 하드웨어는 원문에 보고되지 않았다. Table 1의 Loop-ViT 수치에 Dynamic Exit를 썼는지도 명시되지 않았다(unknown).

Baseline (Table 1). LLM(Deepseek R1, Claude 3.7 8k, o3-mini-high, GPT-5, Grok-4-thinking, Bespoke(Grok-4)), 재귀 모델(HRM 27M, TRM 7M), 비전 모델(VARC 18M, VARC 앙상블 73M), 사람(avg/best). 이 수치는 인용된 출처에서 가져온 값이다(analyst-inference, 표의 인용 번호 기준).

주요 결과

주장	근거 위치	관찰/수치	조건·주의	출처 라벨
루프 모델이 더 큰 feed-forward ViT를 이긴다	Table 1	Loop-ViT Large 18M: ARC-1 65.8 / ARC-2 14.2. VARC 18M: 54.5 / 8.3. VARC 앙상블 73M: 60.4 / 11.1	Pass@2, TTT 포함	author-stated
파라미터 1/5로도 VARC를 넘는다	Table 1, Section 1	Small 3.8M: 60.1 / 10.0 (VARC 18M 54.5). Medium 11.2M: 63.8 / 11.5	Small은 T_max [20, 28]로 더 많이 반복	author-stated
재귀 토큰 모델보다 높다	Table 1	HRM 27M 40.3 / 5.0, TRM 7M 44.6 / 7.8	입력 표현·학습 데이터·TTT가 서로 다름	author-stated (비교 조건 차이는 analyst-inference)
대형 LLM과의 위치	Table 1	ARC-1: GPT-5 44.0, Grok-4-thinking 66.7, Bespoke(Grok-4) 79.6. ARC-2: Grok-4-thinking 16.0, Bespoke 29.4	최고 LLM 시스템은 여전히 Loop-ViT보다 높다(반례)	author-stated (수치), analyst-inference (해석)
사람 평균과 비교	Table 1	avg.human ARC-1 60.2, best.human 98.0 / ARC-2 100.0	사람 ARC-2 평균은 ”–“로 비어 있음	author-stated
반복은 얕은 코어에서 가장 큰 이득	Figure 6, Section 4.3	B=2: T 1→6에서 약 30%→약 56%	그래프 판독. Figure 6의 T는 1–6만 표시	author-stated (경향), analyst-inference (수치 판독)
깊은 코어도 T와 함께 계속 오른다	Figure 6, Section 4.3	B=10은 최고 63.9%	이 값은 Table 1 Large(65.8)와 설정이 다를 수 있음. 대응 관계는 보고되지 않음	author-stated
Hybrid Block이 Vanilla보다 낫다	Figure 7	Vanilla→Hybrid: B=2 55.0→56.2, B=4 58.8→60.1, B=6 61.2→62.1, B=8 62.1→63.2	차이는 0.9–1.3%p. 저자는 “significant”라 쓰지만 seed 반복·분산이 없음	author-stated (수치), analyst-inference (크기 해석)
Dynamic Exit가 고정 6단계보다 정확도·연산 모두 낫다	Figure 8, Section 4.3	B=2, 4, 6 모두에서 entropy 종료 점이 fixed-6 점보다 왼쪽 위	동적 모델은 T ∈ [4, 8]로 제한. 개별 GFLOPs 값은 본문에 없음(그래프 판독만 가능)	author-stated
일찍 멈춘 문제일수록 정답률이 높다	Figure 10, Section 4.3	B=2(약 5M): Step 5 Pass@2 83.3% / Pass@1 75.0% → Step 8 45.8% / 42.8%	종료 단계는 쉬움의 대리 지표라는 해석. 인과는 아님	author-stated (수치), analyst-inference (인과 주의)
예측이 단계마다 “굳어 간다”	Figure 5, 9	L2 차이와 평균 엔트로피가 함께 감소(Figure 9: L2 약 0.73→약 0.08, 엔트로피 약 0.78→약 0.1, 1→6 단계)	그래프 판독. Figure 5는 사례 1개	author-stated (경향), analyst-inference (수치 판독)
attention이 넓게 훑기에서 좁게 실행하기로 바뀐다	Figure 11, Section 4.4	초기 단계는 dense, 후기 단계는 sparse·local	정성적 시각화 1사례. 정량 지표 없음	author-stated

결과끼리의 연결. Table 1은 “반복이 파라미터보다 싸다”는 주장의 최종 근거다. Figure 6–7은 그 이득이 반복 횟수(T)와 블록 설계 중 어디서 오는지 나눠 본다. Figure 8과 10은 Dynamic Exit가 연산을 줄이면서 정확도를 지키고 종료 단계가 난이도와 맞물린다는 것을 보인다. Figure 5, 9, 11은 “단계마다 답이 굳는다”는 정성적 설명이다(analyst-inference).

주의할 불일치. (1) Figure 1과 Figure 8에는 “VARC (66M)/VARC-66M” 점(약 53%)이 있지만 Table 1에는 66M 행이 없다. (2) Table 1 캡션은 “11.2M이 73M 앙상블을 넘는다”고 강조하고, 초록은 “18M이 65.8%“를 강조한다. 둘 다 표와 모순은 없다(analyst-inference).

Take-home

한 줄 요약: ARC를 그림으로 푸는 ViT에서도 같은 블록을 여러 번 돌리는 것이 층을 더 쌓는 것보다 파라미터 대비 효율이 높았고, 엔트로피로 멈추면 연산도 줄었다.
성립 범위: ARC-AGI-1(주)과 ARC-AGI-2, RE-ARC 증강 학습, 평가 시 TTT, Pass@2 조건에서 확인되었다. 다른 시각 추론 과제는 다루지 않았다.
저자가 밝힌 한계: 원문에 별도의 Limitations 절은 없다. 결론은 “더 복잡한 추론 과제의 강한 baseline이 되기를 바란다”로 끝난다(Section 5).
작성자가 보는 우려 (analyst-inference):
- LLM·HRM·TRM과의 비교는 입력 표현, 학습 데이터, TTT 사용 여부가 다른 시스템끼리의 비교다.
- Hybrid vs Vanilla 차이가 1%p 안팎인데 반복 실험이 없다.
- Small/Medium/Large 사이에서 T_max와 코어 깊이가 함께 바뀌어 “반복 vs 파라미터”의 기여가 Table 1만으로는 분리되지 않는다. 그 분리는 Figure 6이 맡는다.
- Dynamic Exit의 엔트로피 임계값 0.05는 고정값이며 민감도 분석이 없다.
반복 횟수·공개: seed나 run 반복 수는 보고되지 않았다. 코드는 https://github.com/WenjieShu/LoopViT 에 공개되어 있다(초록).
읽지 못한 범위: 없음. 전문과 모든 본문 도표를 확인했다.
수업 토론 메모 (analyst-inference): ARC-AGI 논의에서 이 논문은 “깊이를 시간으로 바꾸는” looped 계열이 지각 입력(픽셀)에서도 작동한다는 사례다. TRM 노트와 나란히 읽으면 “토큰열 재귀(TRM) vs 이미지 재귀(Loop-ViT)” 대비가 된다.

본문 도표

Figure 1 — 정확도 대 파라미터 수

무엇을 보여주는가: ARC-AGI-1 (Public)에서 모델별 정확도와 파라미터 수.
읽는 법: x축 파라미터(M, 메모리 비용), y축 정확도(%). 주황 원 = Loop-ViT, 초록 삼각형 = 비전 모델(VARC), 회색 사각형 = 재귀 모델(HRM, TRM). 점선은 VARC 앙상블 수준선이다.
핵심 관찰: Loop-ViT S/M/L(약 3.8M/11.2M/18M)이 60.1→63.8→65.8로 왼쪽 위에 몰려 있다. VARC 18M 54.5, VARC (66M) 약 53, VARC (ens.) 약 73M 60.4. TRM 약 7M 약 44.6, HRM 약 27M 약 40.3(점 위치는 그래프 판독, 수치는 Table 1과 대응).
의미와 주의: 저자들은 “더 싼 파라미터로 더 높다”고 해석한다(author-stated). VARC 66M 점은 Table 1에 없는 값이다(analyst-inference).
확인 상태: viewed

Figure 2 — ARC-AGI-1과 ARC-AGI-2 예시

무엇을 보여주는가: ARC-1 과제 2개(왼쪽 두 열)와 ARC-2 과제 1개(오른쪽). 위는 시연 쌍(x→y), 아래는 질의 입력 x_infer와 정답 y_infer.
읽는 법: 각 열이 한 과제다. 위 행으로 규칙을 추론하고 아래 행에 적용한다.
핵심 관찰: 저자들은 ARC-1이 “Object Cohesion”, “Pattern Completion” 같은 지각 일반화를, ARC-2가 “Symbolic Interpretation”, “Compositional Reasoning”, “Contextual Rule Application” 같은 상위 알고리즘 능력을 요구한다고 설명한다.
의미와 주의: 예시 그림이다. 수치는 없다(author-stated 분류).
확인 상태: viewed

Figure 3 — ARC 입력 표현과 추론 방식 비교

무엇을 보여주는가: (A) LLM의 JSON/ASCII 텍스트 입력, (B) 재귀 토큰 모델의 1D 격자 토큰(PAD/EOS 경계 토큰 포함), (C) VARC의 2D 이미지 입력과 한 번 통과, (D) Loop-ViT의 2D 입력과 반복 추론.
읽는 법: 위에서 아래로 갈수록 “텍스트 → 토큰 → 이미지 → 이미지+루프”로 바뀐다. 화살표가 자기 자신으로 돌아가는 것이 재귀다.
핵심 관찰: (B)와 (D)만 자기 회귀 화살표를 갖고, (C)와 (D)만 2D 그림을 입력으로 받는다.
의미와 주의: Loop-ViT를 “공간 귀납 편향 + 재귀 계산”의 교집합으로 자리매김하는 개념도다(author-stated).
확인 상태: viewed

Figure 4 — Loop-ViT 전체 구조

무엇을 보여주는가: (A) VARC 파이프라인(patch embedding → 서로 다른 Transformer block들 → predictor), (B) Loop-ViT의 펼친 모습(Block 1…N 묶음을 t = 1, …, K, …, T_max로 반복, Exit Gate에서 H_t < τ면 조기 종료), (C) Hybrid Block(Layer Norm → Attention → 잔차, Layer Norm → FFN → 잔차), (D) ConvGLU FFN(MLP 두 갈래, 한 갈래에 DW Conv3x3 → Activation, 원소곱 ⊙ 후 MLP).
읽는 법: (B)의 흐린 마지막 묶음(t = T_max)은 조기 종료로 건너뛸 수 있는 반복이다. [task] 토큰이 이미지 토큰 앞에 붙어 있다.
핵심 관찰: 반복은 “Block 1…N 묶음 전체”를 단위로 한다. 층 하나만 반복하는 것이 아니다.
의미와 주의: (C)의 그림 라벨은 “Layer Norm”인데 본문은 RMSNorm이라고 쓴다(Section 3.2). 그림 라벨이 일반 명칭으로 적힌 것으로 보인다(analyst-inference).
확인 상태: viewed

Table 1 — ARC-AGI 성능 비교

무엇을 보여주는가: LLM, 재귀 모델, 비전 모델, Loop-ViT, 사람의 Params와 ARC-AGI-1/2 정확도.
읽는 법: 열 = Params, ARC-AGI-1, ARC-AGI-2(%, Pass@2). 굵은 글씨 = 최고, 밑줄 = 2위. 단, 이 표시는 LLM 행을 제외한 비교로 보인다(Grok-4 계열이 더 높은데도 Loop-ViT Large가 굵게 표시됨, analyst-inference).
핵심 관찰: Loop-ViT Large 65.8/14.2가 비전·재귀 모델 중 최고다. Medium 63.8/11.5가 2위. 반례로 Bespoke(Grok-4) 79.6/29.4와 Grok-4-thinking 66.7/16.0은 Loop-ViT보다 높다.
의미와 주의: 저자들은 “반복(Time)이 층 수(Space)보다 효과적”이라는 근거로 쓴다(author-stated). LLM 수치는 외부 출처 인용값이다.
확인 상태: viewed

Figure 5 — 반복에 따른 예측 정제 사례

무엇을 보여주는가: 한 과제에서 Loop1–Loop6 동안의 예측(위), 연속 단계 사이 픽셀 차이 지도(가운데), 픽셀 엔트로피 지도(아래). 왼쪽에 입력과 정답(Ground Truth).
읽는 법: 위 행은 예측 격자, 가운데 행은 빨간색이 진할수록 직전 단계와 많이 다름, 아래 행은 밝을수록 엔트로피가 높음.
핵심 관찰: Loop1에서는 흩어진 점이던 예측이 Loop3 즈음 길 모양을 갖추고 Loop6에서 정답과 비슷해진다. 차이 지도와 엔트로피 지도는 뒤로 갈수록 거의 비어 간다.
의미와 주의: 저자들은 이를 “crystallization effect”라 부른다(author-stated). 단일 사례 시각화다(analyst-inference).
확인 상태: viewed

Figure 6 — 코어 깊이 B와 반복 수 T의 결합 스케일링

무엇을 보여주는가: 코어 층 수 B ∈ {2, 4, 6, 8, 10}별로 반복 수 T = 1…6에 따른 ARC-AGI-1 정확도.
읽는 법: x축 Loop steps T, y축 정확도(%). 선 하나가 고정된 B 하나다.
핵심 관찰: B=2는 T=1 약 30%에서 T=6 약 56%로 가장 크게 오른다. B=10은 T=1에서 약 56%로 시작해 T=6에 약 64%다. 본문은 B=10 최고값을 63.9%로 적는다(그래프 값은 판독, analyst-inference). T가 커질수록 B 사이 격차가 줄어든다.
의미와 주의: 저자들은 “반복이 작은 코어의 표현 깊이를 흉내 낸다”고 해석한다(author-stated). 같은 T에서 B가 큰 모델이 여전히 더 높으므로 반복이 파라미터를 완전히 대체하지는 않는다(analyst-inference).
확인 상태: viewed

Figure 7 — Hybrid 대 Vanilla 코어

무엇을 보여주는가: B ∈ {2, 4, 6, 8}에서 Vanilla Transformer 코어와 Hybrid(FFN에 depthwise conv) 코어의 ARC-AGI-1 정확도.
읽는 법: 빗금 막대 = Vanilla, 점무늬 막대 = Hybrid. 막대 위 숫자가 정확도(%).
핵심 관찰: Vanilla/Hybrid = 55.0/56.2(B=2), 58.8/60.1(B=4), 61.2/62.1(B=6), 62.1/63.2(B=8). 모든 깊이에서 Hybrid가 0.9–1.3%p 높다.
의미와 주의: 저자들은 국소 공간 사전지식이 “근본적 요구”라고 해석한다(author-stated). 차이 크기에 비해 “significant”, “essential”이라는 표현이 강하고 반복 실험이 없다(analyst-inference).
확인 상태: viewed

Figure 8 — 정확도·연산량·파라미터 비교

무엇을 보여주는가: Fixed-6 baseline(회색), Entropy Early Exit(주황), VARC-ViT(초록)의 추론 GFLOPs 대비 ARC-AGI-1 정확도. 원 크기가 파라미터 수다.
읽는 법: x축 Compute(GFLOPs), y축 정확도(%). 주황 점 옆 5M/8M/11M이 B=2/4/6 모델이다. Loop-ViT GFLOPs는 entropy 종료 시 평균 실행 단계로 계산한다.
핵심 관찰: 세 크기 모두 주황 점이 같은 크기의 회색 점보다 연산은 적고 정확도는 높다. 11M은 약 80 GFLOPs·약 63.8% 대 약 98 GFLOPs·약 62.2%다. VARC-18M은 약 28 GFLOPs·약 54.5%, VARC-66M은 약 98 GFLOPs·약 53%다(모두 그래프 판독, analyst-inference).
의미와 주의: 저자들은 더 강한 정확도-연산 Pareto frontier라고 해석한다(author-stated). 동적 모델은 T ∈ [4, 8], 기준선은 고정 6단계라 최대 반복 수가 다르다(analyst-inference).
확인 상태: viewed

Figure 9 — 반복 수렴의 정량 진단

무엇을 보여주는가: Loop Step 1–6에서 검증 세트 평균 L2 예측 차이 δ_t(위)와 평균 픽셀 엔트로피 H_t(아래), 각각 표준편차 포함.
읽는 법: x축 Loop Step, y축 값. 실선 = 평균, 옅은 선 = 표준편차.
핵심 관찰: L2 차이는 1단계 약 0.73에서 2단계 약 0.19로 급락한 뒤 6단계 약 0.08까지 천천히 내려간다. 엔트로피는 약 0.78에서 6단계 약 0.1로 3단계 이후 빠르게 줄어든다(그래프 판독).
의미와 주의: 저자들은 상태가 “결정론적 논리 attractor”로 가는 안정된 궤적이며 이것이 종료 기준을 뒷받침한다고 해석한다(author-stated). attractor라는 표현은 동역학 분석이 아니라 두 평균 곡선의 감소에서 나온 해석이다(analyst-inference).
확인 상태: viewed

Figure 10 — 종료 단계별 난이도와 정확도

무엇을 보여주는가: B=2 Loop-ViT(약 5M)에서 몇 번째 단계에 종료했는지(Step 5–8)로 테스트 세트를 나눈 Pass@1/Pass@2 정확도와 표본 수.
읽는 법: 왼쪽 축 정확도(%), 오른쪽 축 표본 수(회색 막대).
핵심 관찰: Pass@2는 Step 5 83.3%, Step 6 64.7%, Step 7 55.1%, Step 8 45.8%다. Pass@1은 75.0%, 58.8%, 52.8%, 42.8%다. 표본 수는 Step 7이 가장 많아 보인다(약 220, 그래프 판독).
의미와 주의: 저자들은 엔트로피 종료가 “풀이 확신의 좋은 대리 지표”라고 해석한다(author-stated). 캡션은 Step 8을 “full depth”라 부르므로 이 실험의 T_max는 8로 보인다(analyst-inference).
확인 상태: viewed

Figure 11 — 단계별 attention 패턴의 변화

무엇을 보여주는가: 한 과제(시연 D_demo, 질의 x_infer, 정답 y_infer)에 대해 단계별 평균 self-attention 지도(가운데 행)와 단계별 예측(아래 행 Loop1–Loop6).
읽는 법: 색 막대 0.0–1.0이 attention 세기다. 가운데 행 라벨은 Layer0, 2, 4, 6, 8, 10이다.
핵심 관찰: 앞쪽 지도는 넓게 퍼져 있고 뒤쪽 지도는 몇 칸에만 집중된다.
의미와 주의: 저자들은 이를 “global scanning → local execution” 전환으로 해석하고 사람의 추론 전략에 빗댄다(author-stated). 캡션은 “recurrent steps”라 하지만 attention 행 라벨은 “Layer”다. 펼친 층 번호인지 루프 번호인지 원문에서 명확하지 않다(analyst-inference).
확인 상태: viewed

Wiki 연결

Less is More - Recursive Reasoning with Tiny Networks — Table 1의 TRM(7M, ARC-1 44.6%)이다. 1D 토큰 재귀와 2D 이미지 재귀를 비교하는 짝이다.
Looped Transformers as Programmable Computers — weight-tied 루프가 반복 알고리즘을 실행할 수 있다는 이론적 배경이다.
Reasoning with Latent Thoughts - On the Power of Looped Transformers — 반복이 잠재 사고 단계 역할을 한다는 관점(Section 2의 “thinking models” 흐름).
Fixed-Point Reasoners - Stable and Adaptive Deep Looped Transformers — 적응형 종료와 안정적 수렴을 다른 방식으로 다룬다.
Training Large Language Models to Reason in a Continuous Latent Space — 언어 모델의 latent chain-of-thought 대응물이다.

BibTeX

@article{shu2026loopvit,
  title   = {LoopViT: Scaling Visual ARC with Looped Transformers},
  author  = {Shu, Wen-Jie and Qiu, Xuerui and Zhu, Rui-Jie and Chen, Harold Haodong and Liu, Yexin and Yang, Harry},
  journal = {arXiv preprint arXiv:2602.02156},
  year    = {2026}
}