계층적 추론 모델: 관점과 오해
개요
이 노트는 arXiv v2(2025-10-07)를 기준으로 썼다. arXiv 페이지의 comments에는 “Found errors in some results of v1. Removed them and changed conclusions”라고 적혀 있다. v1과의 차이는 확인하지 않았으며, 아래 내용은 모두 v2 본문(9쪽, 부록 없음)에 근거한다.
HRM(Hierarchical Reasoning Model)은 느린 H 모듈과 빠른 L 모듈을 중첩 반복하고, BPTT 대신 “생물학적으로 그럴듯한” 1-step gradient로 학습하며, ACT(adaptive computation time: 문제마다 생각하는 횟수를 스스로 정하는 장치)로 멈출 때를 정한다. 27M 모델로 Sudoku와 ARC-AGI에서 큰 주목을 받았지만, 이 세 가지 설계 중 무엇이 실제로 성능을 만드는지는 원 논문 안에서 분리되지 않았다. MIT의 Ge·Liao·Poggio는 세 부품을 하나씩 다시 본다. 첫째, **H 모듈을 지우고 L 모듈만 8층으로 늘린 모델(사실상 8층 일반 트랜스포머)**은 원래 HRM(H 4층 + L 4층)과 비슷하거나 조금 나았다. 정확 일치율은 학습 끝에서 약 0.49 대 0.44였고, A100 한 장에서 1시간 48분 대 4시간 21분으로 훨씬 빨랐다. 이는 ARC Prize 쪽 분석(ARC-Foundation 2025)과도 맞는다고 저자들은 쓴다. 둘째, 1-step gradient는 새로운 학습법이 아니라 diffusion 모델 학습과 같은 틀이라는 관점을 낸다. 중간 상태(노이즈 낀 xₜ)에서 정답(x₀)으로 바로 가는 사상을 배우는 것이므로, 잠재 공간에서는 **Latent Consistency Model(LCM: 몇 스텝 만에 깨끗한 결과로 점프하도록 학습한 diffusion 변형)**에 해당한다는 것이다. 그렇다면 “BPTT를 피해서 뇌답다”는 장점은 HRM만의 것이 아니다. 셋째, 원 HRM 코드는 학습 때만 ACT를 쓰고 평가 때는 늘 최대 스텝(M_max)까지 돌린다. 저자들이 학습된 정지 신호로 추론을 멈추게 바꾸자, 임계값과 관계없이 정확도가 최대 스텝 실행보다 높아지지 않았다. 모든 예제에 같은 스텝 수를 주면 스텝이 늘수록 정확도가 단조 증가한다(정확 일치율 0에서 약 0.52). 그래서 저자들은 HRM이 정말 “순환”하는지, 아니면 매우 깊은 feedforward 모델처럼 동작하는지를 묻는다.
Implication: HRM의 성능을 “뇌 같은 계층”이나 “새로운 학습 규칙”의 증거로 읽기 전에 조심해야 한다. 이 재검토에서는 계층을 빼도 성능이 유지됐고, 학습 규칙은 diffusion 계열의 익숙한 틀이며, 적응적 정지는 추론 이득을 주지 않았다. 다만 근거는 Sudoku 한 과제와 단일 run 곡선뿐인 짧은 working paper다.
📎 https://arxiv.org/abs/2510.00355
배경과 문제
왜 이런 재검토가 필요했나 (Section 1, 2, author-stated):
- 트랜스포머는 다음 토큰 예측에는 강하지만, GSM8K·BIG-Bench·MATH 같은 추론 벤치마크에서 체계적 다단계 추론의 한계가 드러났다.
- 대안으로 CoT prompting, scratchpad, PAL 같은 외부 실행기, 그리고 attention만으로는 전역 추론에 “locality barrier”가 있다는 이론(Abbe et al. 2024)이 나왔다. 저자들은 이것이 latent-space reasoning과 recurrent refinement를 탐색할 동기라고 본다.
- HRM(Wang et al. 2025a)은 이 두 아이디어를 구현한 최신 모델로 크게 주목받았다. 저자들은 GitHub 스타가 두 달 만에 1만 개였다고 쓴다(Section 3.1). 그러나 L·H 모듈이 일반 트랜스포머보다 얼마나 이득인지는 불분명하다.
저자들이 던지는 세 질문 (Section 1):
- HRM의 계층 구조, 특히 L·H 모듈은 중요한가?
- “생물학적으로 그럴듯한” 1-step gradient 학습은 얼마나 새로운가?
- ACT는 어떤 이득을 주는가? 왜 학습과 테스트 절차가 다른가?
학술적 계보 (author-stated):
- Latent-space reasoning: Coconut(Hao et al. 2024). 반복 정제로 더 짧고 유연한 추론 흔적을 얻는다는 근거로 인용한다(Section 2.1).
- Diffusion·consistency model: DDPM(Ho et al. 2020), latent diffusion(Rombach et al. 2022), consistency model(Song et al. 2023), LCM(Song et al. 2024)(Section 3.1).
- ACT: Graves(2016). feedforward 망에 ACT를 붙이면 사실상 RNN이 되고 Turing completeness에 다가갈 수 있다는 Liao & Poggio(2016)(Section 4).
- 생물학적 credit assignment: feedback alignment, direct feedback alignment 등(Section 3.2).
- 외부 근거: ARC Prize 블로그 “The hidden drivers of HRM’s performance on ARC-AGI”(ARC-Foundation 2025)가 일반 트랜스포머가 HRM과 비슷한 성능을 낸다고 보고했다는 것(Section 2.2).
지표
| 지표 | 무엇을 세는가 | 단위·범위 | 방향 | 분모·정규화 | 측정 조건 | 위치 |
|---|---|---|---|---|---|---|
| Exact accuracy | 퍼즐 전체 격자가 정답과 완전히 일치하면 1, 아니면 0 | 0–1 | 높을수록 좋음 | 평가 예제 평균 | Sudoku. 평가 세트 크기·출처(Sudoku-Extreme 1k 여부)는 보고되지 않았다 | Figure 1–4 캡션 |
| Token accuracy | 출력 토큰(칸) 중 맞힌 비율 | 0–1 | 높을수록 좋음 | 토큰 평균 | 위와 같음 | Figure 2–4 |
| Average halting step | 학습된 정지 규칙으로 멈춘 추론 스텝 수의 평균 | 스텝 | 낮을수록 효율적 | 예제 평균 | 상한 16으로 보인다(그래프 판독) | Figure 3 |
| Output norm | 각 추론 스텝 출력의 크기 | 크기(정의 식은 본문에 없음) | 해석용 | — | 예제별 | Figure 4 |
| Runtime | 학습 실행 시간 | 시:분 | 낮을수록 좋음 | — | A100 GPU 1장 | Figure 1 캡션 |
방법과 벤치마크 구성
이 논문은 새 모델이 아니라 HRM에 대한 재검토(ablation + 관점 제시)다. 실험은 원 HRM 코드(Wang et al. 2025b)를 수정해 수행한다(Section 5.1).
실험 1: H 모듈 제거 (Section 5.1.1, Figure 1)
- 원 HRM: H 모듈 4층 + L 모듈 4층. H는 T스텝마다 한 번, L은 매 스텝 갱신한다.
- 변형: H 모듈과 별도의 z_H 상태를 없애고, 매 timestep 갱신하는 8층 L 모듈 하나만 둔다(L-cycle=1). 캡션은 이를 “8층 일반 트랜스포머와 동치”라고 부른다.
- 비교: 학습 스텝(미니배치 수)에 따른 exact accuracy 곡선과 학습 시간.
- 확인하지 못한 세부(본문에 보고되지 않았다): 데이터셋 이름과 크기, deep supervision·ACT를 변형 모델에서도 유지했는지, seed 수. 어떤 과제인지도 Figure 1 캡션과 Section 5.1.1에 명시되지 않았다. y축 값의 범위로 보아 다른 그림과 같은 Sudoku 과제로 추정된다(
analyst-inference).
관점: HRM = diffusion / Latent Consistency Model (Section 3)
- Diffusion 학습은 쌍 (x_{t1}, x_{t2})으로 노이즈 낀 xₜ에서 원본 x₀를 복원하도록 망을 가르친다. t1 − t2가 작으면 고전 diffusion, 크면 consistency model이다.
- HRM의 1-step 학습도 중간 추론 상태(≈xₜ)에서 최종 답(≈x₀)으로 바로 가는 사상을 배운다. 유일한 실질적 차이는 데이터다. diffusion은 인공 노이즈로 xₜ를 만들고, HRM은 모델이 스스로 만든 중간 상태를 쓴다. 잠재 공간에서 xₜ→x₀를 직접 배우므로 LCM에 “정확히” 대응한다고 저자들은 주장한다(
author-stated, 형식적 증명은 없다). - 생물학적 함의(Section 3.2): diffusion도 여러 스텝을 펼친 역전파 없이 스텝별 feedforward 손실로 학습하므로, BPTT 회피는 HRM 고유의 장점이 아니다. 단, BPTT를 피한다고 생물학적으로 구현 가능해지는 것은 아니다. 깊은 feedforward 망에도 층간 credit assignment 문제가 남는다.
실험 2: ACT를 추론에도 적용 (Section 4, 5.1.2, Figure 2–5)
- 문제 제기: 원 HRM 코드는 학습 때 ACT(Q-learning 기반 halt/continue)를 쓰지만, 평가 때는 거의 항상 M_max 스텝을 끝까지 돈다. 배치 모양을 균일하게 하려는 선택이지만, 이미 풀린 퍼즐에도 불필요한 스텝을 돌게 된다고 저자들은 본다.
- 두 가지 추론 방식을 비교한다.
- Same step(baseline): 모든 예제에 같은 고정 스텝 수(1–16)를 준다(Figure 2).
- Per-sample halting: 학습된 Q 값으로 예제마다 멈춘다. 규칙은 (1) sigmoid(Q̂_halt) > threshold, (2) sigmoid(Q̂_halt − Q̂_continue) > threshold 두 가지이고, threshold를 0–1로 바꾼다(Figure 3). 배치의 모든 시퀀스가 멈추거나 최대 스텝에 닿을 때까지 평가한다.
- 모델 구조는 원 HRM 그대로다(Figure 2, 3 캡션).
주요 결과
| 주장 | 근거 위치 | 관찰/수치 | 조건·주의 | 출처 라벨 |
|---|---|---|---|---|
| H 모듈은 성능에 크게 기여하지 않는다 | Figure 1, Section 5.1.1, 6 | 8층 L-only가 학습 전 구간에서 HRM보다 같거나 높다. 마지막 점 약 0.49 vs 약 0.44 | 수치는 그래프 판독. 단일 run 곡선이고 seed 반복이 없다. 과제·데이터셋이 명시되지 않았다 | author-stated(패턴), analyst-inference(수치·조건) |
| L-only가 훨씬 빠르다 | Figure 1 캡션 | 학습 1h 48m vs 4h 21m (A100) | 같은 학습 스텝 수 기준으로 보인다(x축 약 52,000 step) | author-stated |
| ARC Prize 분석과 일치한다 | Section 2.2, 6 | 일반 트랜스포머가 HRM과 비슷한 성능을 낸다는 외부 보고 | 외부 블로그 인용. 이 논문에서 ARC 실험은 하지 않았다 | author-stated |
| HRM의 1-step gradient는 diffusion 학습과 같다 | Section 3.1, 6 | 중간 상태 → 최종 답 사상 학습 = LCM | 개념적 대응 논증. 수식 수준의 동치 증명이나 실험 검증은 없다 | author-stated |
| BPTT 회피는 HRM 고유가 아니다 | Section 3.2 | diffusion·consistency 모델도 BPTT 없이 학습 | 생물학적 구현 가능성까지 보장하지는 않는다고 저자들 스스로 단서를 단다 | author-stated |
| 원 HRM 코드는 평가 때 ACT를 무시한다 | Section 4, 5.1.2 | 평가가 거의 항상 M_max 스텝 실행 | 공개 코드(sapientinc/HRM, 2025-09-25 접근)에 대한 관찰 | author-stated |
| 같은 스텝 수를 주면 스텝이 늘수록 계속 좋아진다 | Figure 2 | token accuracy 약 0.655(1스텝) → 약 0.83(16스텝). exact accuracy 약 0.00 → 약 0.52 | 단조 증가하며 16에서도 완전히 포화하지 않는다. 수치는 그래프 판독 | analyst-inference(그래프 판독) |
| 학습된 정지 규칙은 최대 스텝 실행보다 낫지 않다 | Figure 3, Section 6 | threshold > 0이면 token 약 0.83, exact 약 0.52로 평평하다. 평균 정지 스텝은 약 10–10.5이고 threshold 1.0 근처에서 16으로 뛴다 | 정확도는 같은 스텝(16) 실행과 같은 수준에 머문다. 계산 절감(약 10 vs 16스텝)은 있으나 정확도 이득은 없다 | author-stated(결론), analyst-inference(수치·절감 해석) |
| HRM은 깊은 feedforward 모델처럼 동작할 수 있다 | Figure 2 캡션, Section 6 | 질문 형태로 제기 | 저자들도 결론이 아니라 열린 질문으로 둔다 | author-stated |
| 일부 퍼즐은 몇 스텝 만에 풀린다 | Figure 5, Figure 4, Section 3.1 | 예시 퍼즐들이 Reasoning Step 4–6 근처에서 정답(✓)에 도달. Top-10 예제 대부분은 1–8스텝 안에 exact 1.00(한 예제는 마지막 15스텝째) | 반례: 같은 스텝 수 평균(Figure 2)에서 2–4스텝의 exact accuracy는 약 0.02–0.27에 불과하다. Random 10 예제 중 다수는 16스텝 안에 풀리지 않는다(Figure 4) | author-stated + analyst-inference(반례) |
결과의 흐름은 이렇다. Figure 1은 “계층”이라는 HRM의 대표 아이디어를 빼도 된다는 첫 근거다. Section 3은 “새로운 학습 규칙”이라는 두 번째 아이디어를 기존 틀(diffusion/LCM)로 다시 해석한다. Figure 2와 3은 세 번째 아이디어인 ACT가 추론에서 정확도 이득을 주지 않는다는 근거다. 같은 스텝 수 실행의 단조 증가와 정지 규칙의 평평한 정확도를 합쳐 “정말 순환적인가”라는 질문으로 이어진다. Figure 4와 5는 예제별 차이를 보여 주지만, 선별된 예시라 전체 경향의 근거로는 약하다(analyst-inference).
Take-home
- 핵심 메시지: HRM의 세 대표 설계 중 H 모듈은 Sudoku에서 빼도 성능이 유지됐고, 1-step gradient는 diffusion/consistency 학습의 한 형태로 볼 수 있으며, ACT는 추론 시 정확도 이득을 주지 않았다.
- 성립 범위: 원 HRM 코드 위의 Sudoku 실험뿐이다. ARC-AGI와 Maze는 실험하지 않았다(ARC 관련 결론은 외부 블로그 인용). 데이터셋 이름과 크기는 본문에 명시되지 않았다.
- 저자가 인정한 한계 (
author-stated):- diffusion과의 연결은 앞으로 형식화해야 할 관점이다(Section 3.2).
- BPTT 회피가 곧 생물학적 구현 가능성은 아니며, 트랜스포머 블록의 생물학적 그럴듯함은 열린 문제다(Section 3.2).
- “진짜 순환인가, 깊은 feedforward인가”는 결론이 아니라 질문으로 남긴다(Section 6).
- v1에 결과 오류가 있어 일부 결과를 지우고 결론을 바꿨다(arXiv comments).
- 작성자가 보는 우려 (
analyst-inference):- Figure 1은 단일 곡선이고 seed 반복과 오차 막대가 없다. 0.05 정도의 차이를 “비슷하거나 약간 낫다”고 읽는 것은 타당하지만, “더 낫다”고 단정할 근거는 아니다.
- L-only 변형이 deep supervision(segment 반복)을 유지했다면 여전히 “segment 단위로 반복하는 8층 트랜스포머”다. 캡션의 “일반 트랜스포머와 동치”가 어디까지 맞는지는 본문만으로 판단할 수 없다. 이것은 TRM이 계층 없이 재귀만 남겨 성능을 올린 결과와 함께 읽을 지점이다.
- Section 3.1은 잘 학습된 HRM이 Sudoku에서 “2–4 스텝까지” 추론을 줄인다고 쓰지만, 본문 그림의 평균 정지 스텝은 약 10이고, 2–4스텝 고정 실행의 정확도는 낮다. 2–4스텝 해결은 일부 선별 예제(Figure 5)에서만 확인된다.
- ACT의 가치는 정확도뿐 아니라 계산 절감에도 있다. Figure 3은 약 10스텝으로 16스텝과 같은 정확도를 보이므로 효율 이득은 있는 셈이다. 결론의 “ACT does not enhance inference performance”는 정확도에 한정해 읽어야 한다.
- 재현성: 원 HRM 공개 코드를 수정했다고 밝히지만, 수정 코드 공개 여부·seed·하이퍼파라미터는 보고되지 않았다.
- 읽지 못한 범위: v2 전문(9쪽)을 읽었다. v1은 읽지 않았으므로, v1에서 지워진 결과가 무엇인지는
unknown이다.
본문 도표
Figure 1 — 원 HRM vs 8층 L 모듈만 쓴 HRM
- 무엇을 보여주는가: 학습 진행에 따른 두 모델의 exact accuracy.
- 읽는 법: x축은 학습 step(미니배치 수, 약 5,000–52,000), y축은 exact accuracy(0–0.5). 파랑이 원 HRM(H 4층 + L 4층), 주황이 8층 L-module only(L-cycle=1)다.
- 핵심 관찰: 모든 측정 시점에서 주황이 파랑보다 같거나 위에 있다. 약 31,000 step에서 0.43 vs 0.35, 마지막 점에서 약 0.49 vs 0.44다(
analyst-inference, 그래프 판독). 학습 시간은 1h 48m vs 4h 21m(A100 1장, 캡션). - 의미와 주의: 저자들은 L-only(일반 트랜스포머 상당)가 원 HRM과 비슷하거나 약간 낫고 훨씬 빠르다고 해석한다(
author-stated). 측정 점이 10개 정도이고 곡선이 들쭉날쭉하다. 약 36,000과 47,000 step에서 주황이 일시적으로 떨어진다. 단일 run이다. 과제명은 캡션에 없다(analyst-inference). - 확인 상태: viewed
Figure 2 — 모든 예제에 같은 추론 스텝을 줄 때 (Sudoku)
- 무엇을 보여주는가: 고정 추론 스텝 수에 따른 token accuracy와 exact accuracy.
- 읽는 법: 두 패널 모두 x축은 모든 예제에 똑같이 적용한 추론 스텝 수(1–16)다. 왼쪽(파랑) y축은 token accuracy(0.65–0.83), 오른쪽(빨강) y축은 exact accuracy(0–0.5)다. 모델은 원 HRM이다.
- 핵심 관찰: token accuracy는 1스텝 약 0.655에서 4스텝 약 0.785, 16스텝 약 0.83으로 빠르게 오른 뒤 완만해진다. exact accuracy는 1–2스텝 약 0.00–0.02, 4스텝 약 0.27, 6스텝 약 0.40, 16스텝 약 0.52다(모두
analyst-inference, 그래프 판독). - 의미와 주의: 저자들은 같은 스텝 수만으로도 성능이 계속 오른다는 점이 HRM이 정말 순환적인지, 아니면 깊은 feedforward 모델처럼 동작하는지 묻게 한다고 해석한다(
author-stated, 캡션). 16스텝에서도 곡선이 아직 조금씩 오르므로, 16이 상한이라는 근거는 없다(analyst-inference). - 확인 상태: viewed
Figure 3 — 예제별 정지 전략
- 무엇을 보여주는가: 학습된 halting logit으로 예제마다 다른 스텝에서 멈출 때, threshold에 따른 정확도와 평균 정지 스텝.
- 읽는 법: 세 패널 모두 x축은 threshold(0–1)다. y축은 token accuracy, exact accuracy, 평균 정지 스텝이다. 초록은 sigmoid(Q̂_halt) > threshold, 주황은 sigmoid(Q̂_halt − Q̂_continue) > threshold 규칙이다.
- 핵심 관찰: threshold 0에서는 token 약 0.655, exact 약 0.0, 평균 정지 약 2스텝이다. threshold가 0보다 조금만 커져도 token 약 0.83, exact 약 0.52로 올라 끝까지 평평하다. 평균 정지 스텝은 약 10–10.5로 평평하다가, 주황은 threshold 약 0.85 이후, 초록은 1.0에서 16으로 뛴다(모두
analyst-inference, 그래프 판독). - 의미와 주의: 저자들은 결론에서 ACT가 추론 성능을 높이지 않으며 최대 스텝 실행이 최선이라고 쓴다(
author-stated, Section 6). 작성자 해석(analyst-inference): 정확도 상한(약 0.52)은 Figure 2의 16스텝 고정 실행과 같은 수준이다. 그러면서 평균 약 10스텝으로 멈추므로, 정확도 이득은 없지만 계산 절감은 있다. 두 규칙의 차이는 threshold가 높은 구간에서만 나타난다. - 확인 상태: viewed
Figure 4 — 예제별 추론 스텝에 따른 성능 heatmap
- 무엇을 보여주는가: 예제 하나하나가 추론 스텝마다 얼마나 맞히는지와 출력 크기.
- 읽는 법: 열은 왼쪽부터 token accuracy, exact accuracy, output norm이다. 행은 첫째 줄이 전체 샘플(약 450개), 둘째 줄이 성능이 가장 좋은 10개, 셋째 줄이 무작위 10개다. 각 heatmap의 x축은 추론 스텝(0–15), y축은 샘플 index이고, 칸 안 숫자가 값이다.
- 핵심 관찰: Top-10 예제는 exact accuracy가 한 번 1이 되면 이후 1을 유지한다. 10개 중 8개는 1–8스텝 사이에 1.00이 되고, 1개는 0스텝부터 1.00, 1개는 마지막 15스텝째에야 1.00이 된다. 정답에 도달한 예제의 output norm은 58.8로 수렴해 고정된다. Random 10 중 6개는 16스텝 안에 exact accuracy가 0에 머물고(나머지 4개는 1, 3, 4, 10스텝째에 1.00), token accuracy도 0.5–0.8 사이에서 흔들린다(
analyst-inference, 칸 값 판독). - 의미와 주의: 저자들은 선택한 예제들의 스텝별 성능을 보여 준다고만 설명한다(
author-stated, 캡션). 작성자 해석(analyst-inference): 풀린 예제는 일정한 출력(norm 58.8)에 고정되는 고정점 같은 행동을 보이고, 못 푼 예제는 끝까지 흔들린다. 이것은 “순환이냐 feedforward냐”라는 질문과 별개로, 예제별 수렴 여부가 크게 갈린다는 관찰이다. 전체 샘플 heatmap은 해상도가 낮아 세부 값을 읽지 않았다. - 확인 상태: viewed
Figure 5 — 매우 적은 스텝의 diffusion 같은 추론 예시
- 무엇을 보여주는가: Sudoku 퍼즐 네 개에서 Input Puzzle, Reasoning Step 1–6, Target Solution을 나란히 놓은 예시.
- 읽는 법: 행은 퍼즐 하나, 열은 추론 스텝이다. 칸의 색 강조는 직전 스텝 대비 바뀐 칸으로 보이며, 스텝 이름 옆 ✓ 표시는 정답 도달로 보인다(
analyst-inference, 범례가 캡션에 없음). - 핵심 관찰: 첫 스텝부터 격자 전체를 채운 답을 낸 뒤, 몇 스텝에 걸쳐 일부 칸만 고친다. 위 두 퍼즐은 Step 3–4부터 ✓가 붙는다(
analyst-inference, 그림 판독). - 의미와 주의: 저자들은 이것을 몇 스텝 만에 끝나는 diffusion 같은 추론으로 보고, 칸을 하나씩 채우는 사람의 제약 전파 방식과 대비한다(
author-stated, Section 5.2). 선별 예시이며, 평균적으로 몇 스텝이 필요한지는 Figure 2·3이 더 직접적인 근거다(analyst-inference). - 확인 상태: viewed
Wiki 연결
- Hierarchical Reasoning Model — 이 논문이 재검토하는 원 논문. H 모듈 제거, 1-step gradient 재해석, ACT 평가 방식의 문제를 원 논문의 해당 절과 함께 읽으면 좋다.
- Less is More - Recursive Reasoning with Tiny Networks — 같은 시기에 HRM의 두 네트워크 구조와 1-step 근사를 걷어낸 TRM. 이 논문이 “계층은 필요 없다”에서 멈춘 지점을 TRM은 “재귀 전체 역전파”로 더 밀고 나간다.
- Adaptive Computation Time for Recurrent Neural Networks — 이 논문이 ACT의 원형으로 인용하는 Graves(2016).
- ARC-AGI - Abstraction and Reasoning Corpus ⭐ — HRM의 대표 벤치마크. 이 논문은 ARC 실험을 하지 않고 ARC Prize 분석을 인용만 한다.
- Training Large Language Models to Reason in a Continuous Latent Space — latent-space reasoning의 근거로 인용된 Coconut(Hao et al. 2024).
BibTeX
@misc{ge2025hrmperspectives,
title = {Hierarchical Reasoning Models: Perspectives and Misconceptions},
author = {Ge, Renee and Liao, Qianli and Poggio, Tomaso},
year = {2025},
eprint = {2510.00355},
archivePrefix = {arXiv},
primaryClass = {cs.AI},
url = {https://arxiv.org/abs/2510.00355}
}