Addressing and Visualizing Misalignments in Human Task-Solving Trajectories

읽기 판단

읽기 · confidence: high

ARC 과제에서 수집한 인간 행동 궤적(ARCTraj / O2ARC)을 다루며, misalignment를 형식화하고 이를 downstream 모방학습 성능 향상으로 연결한 정량적 근거(Figure 7, Table 2, Table 3)가 뚜렷하다. 인간 궤적 기반 모방학습, ARC, 활동이론적 오류 분류에 관심이 있다면 직접 유용하다. Sec. 3(형식화)과 Sec. 5(실험·ablation)가 값어치의 대부분이다.

1분 요약

문제: 인간의 task-solving 궤적을 그대로 모방 학습에 쓰면, 궤적 안의 misalignment(의도-행동 불일치)가 AI 모델의 추론 모방 품질을 떨어뜨린다.

핵심 아이디어: popular state · ideal action · ideal trajectory로 궤적을 형식화하고, 이를 기준으로 세 가지 misalignment(도구 기능 부족, 사용자 도구 미숙, 인지 부조화)를 정의·검출한다 (Sec. 3).

새로움: 활동이론(activity theory) 개념을 ARC 궤적 분석에 적용해 action / intention / trajectory 세 층위의 정량 분석을 수행하고, 이를 보정하는 Intention Prediction Algorithm을 제안한다.

가장 강한 근거: DT+Object+Intention이 4개 평가셋 평균 89.44%로 DT+Object(83.59%) 대비 +5.85%p 향상 (Figure 7).

가장 큰 주의점: 무작위 intention을 넣으면 성능이 1.10%로 붕괴한다 (Table 3). object representation과의 결합이 필수 조건이다.

핵심 아이디어

인간이 남긴 task-solving 궤적을 그대로 모방 학습에 쓰는 접근은, 궤적 안의 비효율적이거나 의도와 어긋난 행동 시퀀스를 구분하지 못한다. 저자들은 이 문제를 “궤적과 의도(intention) 사이의 정렬” 문제로 재정의한다.

핵심 통찰은 자주 방문되는 상태(popular state)를 기준점으로 삼아 궤적을 분절하면, 두 popular state 사이의 행동 시퀀스를 하나의 “의도”로 추상화할 수 있다는 것이다. 이 의도를 가장 효율적인 단일 행동(ideal action)으로 나타낼 수 있느냐 없느냐를 따지면, 실제 사용자 행동이 이상적 전이에서 벗어나는 지점과 그 원인을 구조적으로 식별할 수 있다.

원인은 세 가지로 갈린다. 도구 자체에 ideal action이 없어 사용자가 여러 행동을 조합해야 하는 경우(Functional Inadequacies in Tools, Sec. 3.3.1), 도구에는 있지만 사용자가 그것을 건너뛰고 비효율적 시퀀스를 택한 경우(User Unfamiliarity with Tools, Sec. 3.3.2), 그리고 사용자의 의도 자체가 틀렸거나 올바른 의도를 잘못 실행해 오답 상태에 도달한 경우(Cognitive Dissonance in Users, Sec. 3.3.3)다.

Misalignment Detection Algorithm(Algorithm 1, Sec. 3.5)이 이 세 유형을 검출하고, Intention Prediction Algorithm(Algorithm 2, Sec. 5.1)은 같은 형식화를 역이용해 궤적의 각 구간에 의도 라벨을 부여한다. 즉 misalignment를 “제거할 노이즈”가 아니라 “분류하고 활용할 구조”로 다루고, 구조화된 의도 라벨을 Decision Transformer 학습의 추가 조건으로 넣어 실제 성능 향상을 보인 것이 이 논문의 흐름이다.

무엇을 했나

데이터: O2ARC 플랫폼으로 수집한 ARCTraj corpus(태스크당 약 25명 사용자). 전체 궤적·태스크 규모 수치는 본문에 제시되지 않는다.
형식화: popular state(임계값 θ 기반 빈번 방문 상태), intention(두 popular state 사이 행동 시퀀스), ideal action, ideal trajectory를 정의하고 state space graph로 시각화 (Sec. 3.2, 3.4).
검출: Algorithm 1로 popular node 식별 → popular state 사이 행동 시퀀스를 ideal transition과 비교 → Functional Inadequacy / User Unfamiliarity / Cognitive Dissonance로 분류 (Sec. 3.5).
분석: action-level(average in-degree 지표), intention-level, trajectory-level 세 층위에서 misalignment 비중을 정량화 (Sec. 4.1–4.3).
예측: Algorithm 2로 popular state 사이 구간에 intention 라벨을 자동 부여 (Sec. 5.1).
실험: DT / DT+Object / DT+Intention / DT+Object+Intention 4개 변형을 각 2,000개 augmented ARC task로 구성된 4개 평가 데이터셋에서 비교 (Sec. 5.2–5.4).

핵심 근거

주장	근거 위치	관찰/수치	조건·주의	claim_origin
Intention 정렬이 downstream 모방 성능을 향상시킴	Figure 7 / Sec. 5.3	DT+Object 83.59% → DT+Object+Intention 89.44%, 4개 평가셋 평균 +5.85%p	object representation과 함께 쓴 조건에서만	author-stated
Intention 신호의 품질이 성능을 좌우함	Table 3 / Sec. 5.4	no intention 83.59%, fixed dummy 84.12%, random 1.10%, predicted 89.44%	random intention은 성능을 붕괴시킴	author-stated
대부분의 intention은 정렬돼 있으나 유형별 비중이 존재	Table 2 / Sec. 4.2	Aligned 91.11%. Functional Inadequacy intention 4.15% / action 27.54%; User Unfamiliarity 2.31% / 11.30%; Cognitive Dissonance 2.43% / 11.59%	intention-level과 action-level 비율 격차가 큼(특히 Functional Inadequacy)	author-stated
misalignment가 전혀 없는 궤적은 소수	Figure 5 / Sec. 4.3	ideal trajectory 35.24%. misaligned 궤적 중 40% 초과가 Functional Inadequacy 포함	trajectory-level 집계 기준	author-stated
intention 신호 단독으로는 불충분	Sec. 6	”intention signals alone, without complementary object representations, can degrade performance”	다층 구조 결합의 필요성을 저자가 직접 강조	author-stated

어디까지 믿을까

저자가 인정한 한계 (author-stated): 궤적이 짧다 — 전형적으로 10–30 actions이라 RL 에피소드에 비해 시간적 맥락이 제한적이다 (Sec. 6). 일부 action이 여러 intention에 속할 수 있으나 소수 궤적에서만 발생해 영향이 작다고 본다.
분석자의 해석 (analyst-inference): popular state 판정 임계값 θ의 설정 방식과 민감도 분석이 본문에서 확인되지 않는다. θ가 바뀌면 intention 분절 자체가 달라지므로 Table 2·Figure 5의 모든 비율이 함께 흔들린다. 세 misalignment 유형이 상호 배타적으로 분류되는지도 명시적이지 않다. 또한 Table 3의 random 1.10%는 “intention이 유용하다”보다 “잘못된 조건 신호가 DT를 파괴한다”는 사실을 보여주는 쪽에 가깝고, 진짜 대조군은 fixed dummy 84.12%다 — 그 기준으로 보면 순 이득은 +5.32%p다.
읽지 못한 범위 (unknown): ARCTraj corpus의 전체 규모(궤적 수·태스크 수), DT 계열 모델의 학습 하이퍼파라미터와 seed 수, θ의 실제 수치는 확보한 본문 범위에 없다.

원문 읽기 지도

읽는 목적	먼저 볼 곳	확인할 질문
프레임워크를 그대로 쓰려면	Sec. 3.2–3.3	popular state 임계값 θ는 어떻게 정하는가? 세 misalignment 유형은 상호 배타적인가?
분석 수치를 오독하지 않으려면	Table 2 / Sec. 4.2	action-level 27.54%와 intention-level 4.15%의 격차는 어떤 정의 차이에서 오는가?
성능 향상의 출처를 검증하려면	Table 3 / Sec. 5.4	random이 1.10%로 붕괴하는 메커니즘은? fixed dummy 대비 순 이득은 얼마인가?
알고리즘 동작을 눈으로 보려면	Appendix C (Task 53b68214)	실제 사례에서 세 misalignment가 state space graph 위에서 어떻게 구분되는가?

읽기 전 용어

Popular state: 임계값 θ 이상의 궤적이 방문한 빈번 상태. 선행 연구의 bottleneck state와 같은 개념으로 저자들이 명시한다.
Ideal action: 두 popular state 사이의 intention(행동 시퀀스)을 하나의 효율적 단일 행동으로 추상화한 표현. 이것이 도구에 존재하느냐가 Functional Inadequacy와 User Unfamiliarity를 가른다.
Cognitive Dissonance: 사용자의 의도 자체가 틀렸거나, 올바른 의도를 가졌지만 잘못 실행해 오답 상태에 도달하는 misalignment 유형.

Wiki 연결

ARC-AGI - Abstraction and Reasoning Corpus ⭐ — 이 논문의 궤적이 수집된 과제 자체. 벤치마크 정의와 인간 행동 데이터의 관계를 잇는 자리.
On the Measure of Intelligence — ARC의 출발점. “인간처럼 푸는 과정”을 재려는 이 논문의 동기가 여기서 온다.
Hypothesis Search - Inductive Reasoning with Language Models — 같은 ARC를 LLM 쪽에서 다루는 대조군. 이쪽은 인간 궤적을, 저쪽은 모델 가설 생성을 구조화한다.

BibTeX

@inproceedings{kim2025addressing,
  title     = {Addressing and Visualizing Misalignments in Human Task-Solving Trajectories},
  author    = {Kim, Sejin and Lee, Hosung and Kim, Sundong},
  booktitle = {Proceedings of the 31st ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD '25)},
  year      = {2025},
  doi       = {10.1145/3711896.3736831},
  eprint    = {2409.14191},
  archivePrefix = {arXiv},
  primaryClass  = {cs.AI}
}