Watch-And-Help: 사회적 지각과 인간-AI 협력을 위한 챌린지

Digest: 다른 사람을 가만히 지켜보기만 하고도 그 사람이 뭘 하려는지 알아채서 도와줄 수 있는 AI를 만들 수 있을까? 이 논문은 그것을 시험하는 게임 같은 문제(WAH)를 만들었다(Context). 이 문제는 두 단계로 나뉜다. 먼저 Watch(관찰) 단계에서 AI는 Alice라는 가상 사람이 집안일 하는 모습을 딱 한 번만 보고 “이 사람은 지금 저녁상을 차리려는구나” 같은 목표를 알아맞혀야 한다(이게 남의 의도를 읽는 능력, social perception이다). 그다음 Help(돕기) 단계에서는 아까 본 곳과는 다른 새 집에서 Alice와 함께 그 일을 최대한 빨리 끝내도록 도와야 한다(human-AI collaboration). 이를 위해 가상의 집 시뮬레이터 VirtualHome을, 여러 명이 동시에 움직이며 서로를 지켜볼 수 있는 VirtualHome-Social로 키웠다(Innovation). 어려운 점은, AI에게 “정답 목표 후보 목록”을 미리 알려주지 않고 딱 한 번 본 장면만으로 목표(predicate 집합, 목표당 2~8개·총 30종류)를 맞혀야 하고, 게다가 한 번도 본 적 없는 새 집에서도 그것을 써먹어야 한다는 것이다(So-what). 실험 결과, 목표 알아맞히기는 한 가지 일만 시킬 때는 꽤 정확했지만(정밀도 0.85), 여러 일이 섞이면 0.68로 뚝 떨어졌다 — 연습 때 봤던 조합만 외워버린 탓이다. 목표를 제대로 알아낸 AI(HP)는 사람이 만든 도우미들 중 가장 잘 도왔지만, 목표를 엉뚱하게 찍은 AI는 오히려 방해가 됐다 — 약 40%의 경우(어떤 과제는 65%) Alice가 이미 해놓은 일을 도로 망쳐버렸다(Evidence). 즉 잘못 도우면 안 돕느니만 못하고, AI가 Alice의 길을 막아서는 실수도 한다는 게 한계다(Limitation). 그래서 일을 돕는 도중에도 Alice를 계속 지켜보며 자기 추측을 고쳐 나가는 방법(online goal inference)이 다음 숙제로 남았다(Question).

먼저 이해하기

이 논문은 AI 에이전트가 “다른 에이전트를 관찰만으로 이해하고, 새로운 상황에서 도울 수 있는가”를 측정하는 챌린지(WAH, Watch-And-Help)를 제안한다. 유아가 타인의 행동을 보고 그 목표를 알아챈 뒤 처음 보는 상황에서도 돕는 전략을 세우듯이, AI에게 두 능력을 차례로 요구한다. 첫째는 social perception(사회적 지각, 남의 행동을 보고 의도를 읽는 능력)으로, Bob이라는 에이전트가 인간형 에이전트 Alice의 행동을 단 1회(single demonstration) 관찰해 그 목표를 추론한다. 둘째는 collaborative planning(협력적 계획수립)으로, Bob이 데모와는 다른 새 환경에서 Alice와 함께 최소한의 스텝으로 과제를 완수한다.

목표는 “어떤 물건을 어디에 두어야 하는가” 같은 predicate(술어, 환경의 목표 상태를 나타내는 논리식) 집합으로 표현된다. 예컨대 ON(plate, dinnertable):2; ON(wineglass, dinnertable):1은 접시 2개와 와인잔 1개를 식탁에 올리라는 뜻이다. 저녁상 차리기, 냉장고 정리 등 5개 활동에 걸쳐 총 30개 predicate 타입이 있고, 목표당 2~8개 predicate가 묶인다. 기존 연구와 달리 사전에 정해진 목표공간 없이 단일 데모만으로 목표를 추론하고, 더구나 관찰한 적 없는 환경에 일반화해야 한다는 점이 핵심 난이도다.

이 연구가 중요한 이유는, 인간과 협력하는 AI가 되려면 단순히 명령을 받는 것을 넘어 상대의 의도를 스스로 추론하고 능동적으로 도와야 하는데, WAH가 이 사회지능의 두 핵심 측면(목표 추론 + 협력)을 객관 지표(성공률, speedup)와 주관 인간평가로 대규모·체계적으로 측정할 수 있게 해주기 때문이다.

용어	뜻
social perception	타인의 행동을 관찰해 목표·의도를 추론하는 사회적 지각 능력
predicate(술어)	환경의 목표 상태를 표현하는 논리식 (예: ON(plate, dinnertable))
single demonstration	Bob이 Alice 목표 추론에 쓸 수 있는 단 1회의 데모 관찰
VirtualHome-Social	다중 에이전트가 동시 행동·상호 관찰하도록 확장한 가정환경 시뮬레이터
speedup	Alice 단독 대비 협력 시 효율 향상 = L_Alice/L_Bob − 1

섹션별 요약

Abstract

Watch-And-Help(WAH)는 에이전트의 사회지능을 테스트하는 챌린지로, 두 순차 목표를 갖는다. (1) Watch 단계에서 에이전트(Bob)는 단일 데모를 관찰해 human-like 에이전트 Alice의 목표를 추론하고(social perception), (2) Help 단계에서 새 환경에서 Alice와 협력해 과제를 효율적으로 완수한다(human-AI collaboration). 이를 위해 VirtualHome을 다중 에이전트 가정환경 VirtualHome-Social로 확장했다. 논문은 planning·learning 기반 베이스라인과 함께 객관 지표(성공률, speedup) 및 주관 인간평가를 제공한다.

저자 contribution

단일 데모 기반 목표 추론(Watch)과 미관찰 환경에서의 협력(Help)을 결합한 사회지능 벤치마크 WAH 제안.
다중 에이전트가 동시 행동·상호 관찰하고 planning 기반 인간형 에이전트(Alice)를 내장한 VirtualHome-Social 시뮬레이터 구축.
성공률·speedup·누적보상의 객관 지표와 인간 user study를 결합한 평가 프로토콜 및 planning/RL 베이스라인 제공.

왜 이 연구를 하는가?

유아는 타인의 행동을 관찰해 목표를 인지하고, 처음 겪는 상황에서도 돕는 전략을 세운다. 이는 social perception과 collaborative planning이라는 두 능력으로 나뉜다. 기존 연구의 한계는 두 가지다. 첫째, 대개 사전정의된 목표공간을 가정해 목표 추론을 분류 문제로 축소했으나, 실제 협력은 정해진 목표 후보 없이 단일 데모에서 추론해야 한다. 둘째, 추론한 목표를 관찰한 적 없는 새 환경에 일반화해 적용하는 능력을 요구하지 않았다. WAH는 사전정의된 목표공간 없이 단일 데모로 목표를 추론하고, 데모와 다른 아파트·초기상태에서 협력하도록 함으로써 두 한계를 동시에 겨냥한다.

Introduction

WAH는 Watch와 Help의 두 단계로 진행된다. Watch 단계에서 Bob은 Alice의 행동을 1회 관찰해 목표를 추론한다. Help 단계에서 Bob은 다른 환경에서 최소 스텝으로 Alice를 돕는다. 과제는 (Alice의 목표 g = predicate 집합, 데모 D = {state, action}_t의 시퀀스, 협력용 새 환경)으로 정의된다. 학습 시에는 ground-truth 목표가 제공되지만, 테스트 시에는 데모만으로 목표를 추론해야 한다. 목표는 predicate와 그 개수의 집합으로, 목표당 2~8개 predicate를 포함한다. 5개 활동(저녁상 차리기, 냉장고 정리, 간단한 식사 준비, 설거지, 간식 먹으며 독서)에 걸쳐 총 30개 predicate 타입이 있으며, 객체는 특정 인스턴스가 아닌 클래스로 지정되어 선호의 유연성을 허용한다.

Methods

VirtualHome-Social은 다중 에이전트(실제 인간 포함)가 동시에 행동하고 서로를 관찰하도록 확장한 시뮬레이터다. planning 기반 에이전트를 가상 인간(Alice)으로 내장한다. 관찰은 심볼릭(scene graph) 또는 시각(RGB/depth/segmentation 등)으로 받을 수 있고 full/partial 관찰을 모두 지원한다. 행동은 high-level(이동·상호작용)과 low-level로 구성되며 시야 내 객체로 한정되고, step당 평균 167개의 행동 선택지가 있다.

Human-like 에이전트(Alice)는 계층적 planning으로 구현된다. Belief Module은 부분관찰 상황에서 객체 위치의 확률분포를 유지하고, High-level Planner는 MCTS(Monte Carlo Tree Search)로 subgoal 시퀀스를 탐색하며, Low-level Planner는 regression planning으로 구체 행동을 생성한다. replanning은 평균 0.05초로 빠르다. user study에서 이 에이전트와 인간의 궤적 현실성 간에 유의한 차이가 없었다(M=3.38±0.93 vs 3.72±0.92, t(29)=-1.35, p=0.19).

Bob 베이스라인도 계층 구조(high-level이 predicate를 subgoal로, low-level이 행동 생성)를 공유한다. Goal Inference 모듈은 가시 객체에 Transformer를 적용하고 LSTM으로 시계열을 처리한 뒤, 30개 predicate 분류기로 각 predicate의 개수를 예측한다. Bob 모델 변형으로는 HP(high-level MCTS + low-level regression planning), Hybrid(high-level RL + low-level RP), HRL(high·low 모두 학습), Random, Oracle 계열(OracleB, OracleA,B)이 있다.

발견 (Findings)

Goal Inference는 Test-1(단일활동)에서 정밀도 0.85/재현 0.96을 달성했다(최종 관찰만 사용 시 0.79/0.75, 행동을 입력에 추가하면 0.99/0.99, chance는 0.08/0.09). 그러나 Test-2(다활동)에서는 0.68/0.64로 떨어져 다활동 일반화에 실패했으며, 저자는 train 조합에 대한 과적합으로 해석한다. HP(True Goals)는 비-oracle 모델 중 최고 성능을 냈다. HP(Inferred Goals)는 추론이 성공하면 효과적이지만 추론이 나쁘면 성능이 저하됐다. HP(Random Goals)는 오히려 역효과를 냈는데, 전체 약 40% 에피소드(Put Groceries·Set Meal에서는 65%)에서 Alice와 충돌해 Alice가 이미 달성한 predicate를 되돌렸다.

Results

HRL은 Random과 다를 바 없었다 — high-level은 합리적 predicate를 선택했으나 low-level이 subgoal(특히 객체 배치) 달성에 실패했기 때문이다. Random(Bob) vs Alice 단독 비교에서 유의한 차이가 없었다(t(99)=-1.38, p=0.17). Test-2에서 Alice 단독은 95.40±0.01, HP는 성공률 88.60±0.02·speedup 0.21±0.04로, 목표 인식 저하 탓에 큰 성능 하락이 나타났다. 행동 분석 결과, 유능한 Bob은 Alice의 다음 행동을 예측해 분업하고 충돌을 피했다. Bob이 컨테이너를 열어 Alice의 belief 갱신을 도우면 가속이 일어났으며(Random도 가끔 도움이 되는 이유다), 현재 베이스라인은 low-level 경로계획을 무시해 비효율을 낳고 Alice의 이동을 차단하기도 했다.

Discussion

한계는 두 가지다. 첫째, Goal Inference가 다활동 설정(Test-2)에 일반화하지 못하고 train의 predicate 조합에 과적합한다(Test-1 0.85/0.96 → Test-2 0.68/0.64). 둘째, 베이스라인이 low-level 경로계획을 고려하지 않아 비효율이 발생하고 Alice를 물리적으로 차단하는 경우가 생긴다. 향후 방향으로 저자는 online goal inference(협력 중 Alice 행동을 추가 관찰해 목표 추론을 동적으로 갱신)와 에이전트 간 직접 통신을 제시한다.

이론적 의의

WAH는 사회지능의 두 핵심 축(타인 목표의 관찰 기반 추론, 미관찰 환경에서의 협력)을 분리·결합해 대규모로 체계적으로 평가할 수 있게 했다. 이는 Machine Theory of Mind 계열(관찰 기반 타 에이전트 모델링)과 embodied 협력 연구를 잇는 교량이 되며, 목표 추론과 협력 계획을 한 벤치마크에서 동시에 측정한다는 점에서 후속 다중 에이전트 협력 벤치(PARTNR 등)의 토대를 이룬다.

Discussion Points

논쟁점: HP(Random Goals)가 약 40% 에피소드에서 충돌하는데도 실제 인간 파트너 상대로는 성공률이 오른다 — 협력 성과의 상당 부분이 Bob이 아닌 인간의 적응 능력에서 온다는 해석이 가능하다.
검증할 가정: 단일 데모만으로 목표를 정확히 추론할 수 있다는 가정은 Test-2 정밀도 0.68에서 흔들린다 — 다활동·미관찰 조합에서 single demonstration이 충분한 정보를 담는가?
후속 연구: online goal inference와 low-level 경로계획 통합이 충돌을 줄이고 speedup을 끌어올리는지, 그리고 에이전트 간 직접 통신이 관찰 기반 추론을 대체·보완하는지.

실험 결과 상세

Goal Inference 정밀도/재현율 (추출 전문 기준):

설정	정밀도	재현율
Test-1 (단일활동, 기본)	0.85	0.96
Test-1 (최종 관찰만)	0.79	0.75
Test-1 (행동 입력 추가)	0.99	0.99
Test-1 (chance)	0.08	0.09
Test-2 (다활동)	0.68	0.64

Help 단계 성능 (Test-2, 추출 전문 기준):

구성	성공률	speedup
Alice 단독	95.40±0.01	—
HP	88.60±0.02	0.21±0.04

충돌·통계 검정 요약:

항목	값/결과
HP(Random Goals) 충돌 에피소드 비율	전체 약 40% (Put Groceries·Set Meal 65%)
Random(Bob) vs Alice 단독	유의차 없음, t(99)=-1.38, p=0.17
에이전트 vs 인간 궤적 현실성	M=3.38±0.93 vs 3.72±0.92, t(29)=-1.35, p=0.19
Exp1 인간 단독 효율 비교	유의차 없음, t(29)=-1.63, p=0.11

주: Hybrid·HRL·Oracle 계열의 개별 성공률·speedup 수치는 추출 전문에 명시되지 않음 — 데이터 불충분.

프레임워크 다이어그램

flowchart TD
  A["Alice (human-like agent): Belief + MCTS high-level + regression low-level"]
  D["Single demonstration D = state, action sequence"]
  GI["Goal Inference: Transformer over visible objects + LSTM + 30 predicate classifiers"]
  G["Inferred goal g = predicate set, count 2 to 8"]
  ENV["New environment: different apartment, random init"]
  BOB["Bob hierarchical planner: high-level subgoals + low-level actions"]
  M["Metrics: success rate, speedup, cumulative reward"]

  A -->|"Watch: observe once"| D
  D --> GI
  GI --> G
  G --> BOB
  ENV --> BOB
  A -->|"Help: act jointly"| BOB
  BOB --> M

재현성 및 신뢰도 평가

코드 공개: yes — VirtualHome-Social, github.com/xavierpuigf/watch_and_help
종합 재현성 등급: B — 시뮬레이터·코드·데이터 분할(train 1,011 / Test-1 100 / Test-2 100)과 다수 베이스라인·지표가 공개되어 재현 토대가 탄탄하나, 추출 전문 수준에서 일부 베이스라인(Hybrid/HRL/Oracle)의 개별 수치와 하이퍼파라미터 세부가 명시되지 않아 A에는 미치지 못함.
주장별 신뢰도:
- “Test-1 정밀도 0.85/재현 0.96, 행동 입력 시 0.99/0.99” — 강함: 분류 지표가 명시적이고 chance(0.08/0.09) 대비 큰 차이.
- “HP(True Goals)가 비-oracle 최고” — 중간: 상대 우위는 명확하나 추출 전문에 전체 모델 간 수치 표가 부분적이라 정량 검증 제한.
- “다활동 일반화 실패는 train 조합 과적합 때문” — 중간: Test-1→Test-2 하락(0.85→0.68)은 관측 사실이나 과적합은 저자 해석으로 추가 ablation 없이는 인과 단정 어려움.

논문	환경	과제유형	핵심기여	평가지표	코드공개	본 논문과의 관계
Watch-And-Help (Puig et al., 2021)	VirtualHome-Social (3D 가정)	목표 추론 + 협력	단일 데모 목표 추론 후 미관찰 환경 협력 벤치	성공률·speedup·인간평가	yes	본 논문
Machine Theory of Mind / ToMnet (Rabinowitz et al., 2018)	그리드월드	타 에이전트 목표·믿음 추론	관찰만으로 타 에이전트 모델링	예측 정확도	—	base (ToM)
Online Bayesian Goal Inference / SIPS (Zhi-Xuan et al., 2020)	심볼릭/플래닝 도메인	온라인 목표 추론	비최적 궤적에서 목표 온라인 추론	추론 정확도	—	alternative (online inference 대안)
VirtualHome (Puig et al., 2018)	VirtualHome (3D 가정)	가정 활동 시뮬레이션	가정 활동 시뮬레이터 토대	—	yes	base (시뮬레이터 토대)
PARTNR (Chang et al., 2024)	임베디드 다중에이전트	다중에이전트 협업	대규모 협업 벤치	협업 성공·효율	—	후속

원자적 인사이트 (Zettelkasten)

사전정의된 목표공간을 없애고 단일 데모에서 predicate 집합을 추론하게 만들면, 목표 추론은 분류에서 일반화 문제로 바뀐다 — Test-1 0.85가 Test-2 0.68로 떨어지는 격차가 그 비용을 드러낸다.
잘못 추론된 목표로 돕는 것은 안 돕는 것보다 나쁠 수 있다 — HP(Random Goals)는 약 40% 에피소드에서 Alice가 달성한 predicate를 되돌려 협력을 역행시켰다.
high-level 추론이 옳아도 low-level 실행이 실패하면 협력은 무너진다 — HRL은 합리적 subgoal을 골랐지만 배치 실행 실패로 Random 수준에 머물렀다.
협력 가속의 일부는 정교한 계획이 아니라 부수효과에서 온다 — Bob이 컨테이너를 열어 Alice의 belief를 갱신해주는 것만으로도 속도가 붙어, Random조차 가끔 도움이 됐다.

핵심 용어 정리

predicate(술어): 환경의 목표 상태를 나타내는 논리식으로, 목표는 predicate와 그 개수의 집합으로 표현된다 (총 30 타입, 목표당 2~8개).
social perception(사회적 지각): 타인의 행동을 관찰해 목표·의도를 추론하는 능력으로 WAH의 Watch 단계가 이를 측정한다.
Belief Module: 부분관찰 하에서 객체 위치의 확률분포를 유지하는 모듈로, 인간형 에이전트의 추론 근거가 된다.
MCTS (Monte Carlo Tree Search): high-level planner가 subgoal 시퀀스를 탐색하는 데 쓰는 트리 탐색 알고리즘.
regression planning: 목표 상태에서 거꾸로 행동을 도출하는 low-level planner의 계획 기법.
speedup: 협력의 효율 향상 지표로 L_Alice/L_Bob − 1로 정의되며, Alice 단독 대비 스텝 절감을 나타낸다.

BibTeX

@inproceedings{puig2021watchandhelp,
  title={Watch-And-Help: A Challenge for Social Perception and Human-AI Collaboration},
  author={Puig, Xavier and Shu, Tianmin and Li, Shuang and Wang, Zilin and Liao, Yuan-Hong and Tenenbaum, Joshua B. and Fidler, Sanja and Torralba, Antonio},
  booktitle={International Conference on Learning Representations (ICLR)},
  year={2021}
}

Watch-And-Help: 사회적 지각과 인간-AI 협력을 위한 챌린지

Watch-And-Help: 사회적 지각과 인간-AI 협력을 위한 챌린지

먼저 이해하기

섹션별 요약

Abstract

왜 이 연구를 하는가?

Introduction

Methods

발견 (Findings)

Results

Discussion

이론적 의의

실험 결과 상세

프레임워크 다이어그램

재현성 및 신뢰도 평가

관련 연구 비교 매트릭스

원자적 인사이트 (Zettelkasten)

핵심 용어 정리

관련 연구

태그

BibTeX