AutoToM: 자동 에이전트 모델링을 통한 모델 기반 정신 추론의 확장
Digest: 타인의 마음을 행동으로부터 이해하는 Theory of Mind(ToM)을 기계에 구현하는 두 갈래 — ① LLM에 직접 프롬프트로 추론시키기(유연하지만 복잡한 상황에서 체계적 오류)와 ② 손으로 짠 고정 에이전트 모델로 Bayesian 역계획(robust하지만 도메인마다 새로 설계해야 해 일반화 불가) — 모두 한계가 있었다. 이 논문은 그 둘의 장점을 합쳐, 에이전트 모델 자체를 LLM이 자동으로 제안·적응하는 AutoToM을 제안한다. 핵심 통찰은 “모델 기반 ToM 추론을 통일된 Bayesian 네트워크 추론으로 정식화하면, 모델 구조(어떤 잠재 정신변수 v를 둘지, 과거 몇 스텝을 볼지)도 추론 불확실성을 줄이도록 자동 탐색할 수 있다”는 것이다. 구체적으로 AutoToM은 (1) 자동 Bayesian 역계획 — LLM을 계산 백엔드로 가설 표본추출(+불필요 가설 제거)과 국소 조건부 추정·주변화를 수행 — 과 (2) 자동 에이전트 모델 발견 — 질문에서 관찰변수를 추출해 최소 모델을 제안한 뒤, 모델 효용 U=R−C(R=−엔트로피 확신도, C=α·잠재변수 수)를 최대화하도록 변수 추가/타임스텝 확장을 반복 — 의 두 요소가 자기개선 루프를 이룬다. ToMi·BigToM·MMToM-QA·MuMA-ToM·Hi-ToM 5개 벤치에서 전체 평균 82.43으로 LLM·ToM 프롬프팅·대형 추론모델(o3-mini-high 등)·기존 모델기반(BIP-ALM, LIMP)을 모두 능가하고(같은 GPT-4o 백엔드 단독 56.89 → 82.43), 백엔드 LLM을 바꿔도(Qwen3·DeepSeek·Gemini) 원본 대비 큰 폭으로 우월하며, 인지실험에서 인간 확신도와 높은 상관(부분관찰 믿음 추론 r=0.73 vs GPT-4o 0.04)을, 체화형 도움 과제(O-WAH)에서 27.7% 속도향상(GPT-4o 6.8%)을 보인다. 한계는 멀티모달을 텍스트로 별도 융합해야 하고, 모델 적응이 일부 필요한 정신변수의 관련성을 못 알아채 불충분 모델을 만들 수 있으며, 추론 비용이 여전히 과제로 남는다는 점이다. 핵심 질문: “모델 제안·추론까지 암묵적으로 내재화해 비용을 더 줄일 수 있는가?”
섹션별 요약
Abstract
Theory of Mind(ToM)은 행동으로부터 사람의 마음을 이해하는 능력으로 사회지능 에이전트의 핵심이다. 현행 ToM 추론은 LLM 프롬프팅(체계적 오류에 취약)이나 손설계·경직된 에이전트 모델 기반 추론(robust하나 도메인 간 일반화 실패) 중 하나에 의존한다. 본 연구는 확장 가능·robust·해석가능한 정신 추론을 위한 자동 에이전트 모델링 기법 AutoToM을 제안한다. ToM 문제가 주어지면 AutoToM은 초기 에이전트 모델을 제안하고, 그 모델 위에서 LLM 백엔드로 자동 Bayesian 역계획을 수행하며, 추론 불확실성에 따라 추가 정신변수 도입·더 많은 타임스텝 포함으로 모델을 반복 정련한다. 5개 벤치마크에서 기존 ToM 기법과 대형 추론모델까지 능가하고, 인간 유사 확신도 추정과 체화형 의사결정용 온라인 정신 추론을 가능케 한다.
저자 contribution
- 모델 기반 ToM 추론의 통일된 정식화(임의의 정신변수·맥락·재귀 차수를 Bayesian 네트워크 추론으로 표현).
- 자동 에이전트 모델 발견(AutoToM) — 손설계 모델 명세를 제거하고 모델 구조를 자동 제안·적응하는 최초 접근.
- 다수 ToM 벤치마크·고전 인지실험·체화형 도움 과제에 대한 체계적 평가로 확장성·robust성·해석성 입증.
왜 이 연구를 하는가?
협력·소통·사회적 학습 같은 풍부한 상호작용에는 타인의 목표·믿음·욕구를 추론하는 ToM이 필수다. 기존 두 접근 모두 결함이 있다 — (한계 1) LLM 프롬프팅(SimToM·PercepToM·TimeToM 등): 관점 취하기·변화 추적을 유도해도 복잡한 시나리오에서 체계적 오류가 남는다. (한계 2) 손설계 모델 기반(BIP): BIP-ALM·LIMP는 특정 도메인에서는 robust하나 정신변수(목표·믿음)와 Bayesian 추론을 수동 명세해야 해 개방형 ToM으로 일반화 못 한다. 핵심 RQ 두 가지: (1) 어떻게 맥락 적응·다양한 인간행동 모델링·복잡 시나리오 확장을 동시에 만족하는가? (2) 어떻게 수동 모델 명세를 없애고 모델 기반 정신 추론용 에이전트 모델링을 자동화하는가? 핵심 통찰: Bayesian 역계획의 모든 측면(모델 구조 제안·적응, 관련 타임스텝 식별, 가설 생성, 추론 실행)을 LLM으로 자동화하면, 임의 맥락·임의 정신상태·임의 재귀 차수에서 작동하는 개방형 기계 ToM이 가능하다.
Introduction
AutoToM은 완전 자동화된 모델 기반 ToM을 목표로 한다 — 임의 도메인의 임의 정신변수를 robust하게 추론하는 통일 기법. 두 도전을 푼다: (a) 접근이 맥락 간 적응·다양 행동 모델링·복잡 시나리오 확장에 충분히 유연·robust·scalable해야 하고, (b) 수동 모델 명세를 자동화해야 한다. AutoToM은 두 요소로 구성된다 — 자동 Bayesian 역계획(주어진 Bayesian 네트워크형 에이전트 모델에 대해 LLM을 계산 백엔드로 추론; 모델 구조·변수 표현에 가정 없음)과 자동 에이전트 모델 발견(ToM 추론 문제에 가장 적합한 에이전트 모델을 반복 구성·적응; 수동 명세 제거). 임의 맥락·임의 정신상태·임의 재귀(고차 ToM) 차수에서 작동하는 것이 저자들의 개방형·robust 기계 ToM 비전이다.
Methods
§3.1 통일 정식화. 시점 t의 관찰변수 X^t={x_i^t}(상태·행동·발화)와 잠재 정신변수 V^t={v_i^t}(목표·욕구·믿음)를 정의. BIP는 에이전트 모델을 Bayesian 네트워크 P(V^t,X^t)로 보고 역추론: P(V^t|X^t) ∝ P(V^t,X^t)(Eqn 1). 과거 맥락 t_s:t가 유효하면 P(V^{t_s:t}|X^{t_s:t}) ∝ P(V^{t_s:t},X^{t_s:t})(Eqn 2). 질의 q=v_i^t는 나머지 잠재변수를 주변화해 사후를 구함(Eqn 3); 미래 관찰변수 x_i^{t+1} 예측으로도 확장(Eqn 4). 에이전트 모델 종류: 목표 g가 명시면 MDP(s,a,g), 부분관찰이면 POMDP(+관찰 o·믿음 b), 고차 재귀(i가 j를 추론)면 I-POMDP(상호작용 상태 is^t=(s, b_{j,l−1}, g_j)).
§3.2 개요. 두 핵심요소가 자기개선 루프: (1) 자동 BIP(§3.3, 모델이 주어지면 BIP 수행), (2) 자동 에이전트 모델 발견(§3.4, 질문·추론결과로 모델 제안·적응).
§3.3 자동 Bayesian 역계획 (LLM 백엔드).
- Hypothesis Sampling: 각 잠재변수의 가설 공간을 수동 정의하는 대신, LLM이 질문·관찰변수에 근거해 질 좋은 소수 가설만 제안(amortized inference). 이어 hypothesis reduction으로 가능성 낮은 가설(예: 상태 조건부 우도 낮은 관찰 가설)을 제거해 공간 축소.
- Bayesian Inference: 각 국소 조건부를 LLM으로 추정→비대상 변수 주변화(명시 계산)→대상 변수 사후 산출(Eqn 3/4). BIP-ALM·LIMP를 일반화 — 임의 에이전트 모델·다수 비대상 잠재변수·임의 재귀 차수에서 작동(BIP-ALM은 수동 믿음 갱신, LIMP는 믿음 갱신 없음).
§3.4 자동 에이전트 모델 발견. 모델 효용 U(M,q)=R(M,q)−C(M)(Eqn 5). 보상 R=−H(P(q|X^{t_s:t}))(대상 변수 사후의 음의 엔트로피=확신도, 불확실성 최소화). 비용 C(M)=α|M|(|M|=잠재 정신변수 수=모델 복잡도; α>0). 세 모듈:
- Information Extraction: 맥락에서 관찰변수 X^{1:t}(상태 s·행동 a·발화 u)를 타임라인으로 추출, 다중 에이전트면 질의 대상 에이전트 식별 후 그 행동/발화로 타임스텝 구성. LLM 1회 수행.
- Initial Model Proposal: 최소 복잡도 모델(질문에 필요한 핵심 정신변수만, 항상 마지막 타임스텝 t_s=t에서 시작)을 LLM이 제안; 고차 재귀 필요성도 평가.
- Model Adjustment: 효용 최대화로 반복 — 변수 조정(목표·믿음·관찰·상호작용 상태 같은 새 잠재변수를 도입; 사전 모델의 정형 인과구조 따름) + 타임스텝 조정(현재 타임스텝으로 부족하면 이전 t_s−1 추가). 각 조정에서 효용 증가가 가장 큰 수정을 채택, 효용>임계 또는 개선 소진까지 반복.
발견 (Findings)
- 5개 ToM 벤치마크 전체 SOTA. AutoToM(GPT-4o 백엔드) 전체 평균 82.43으로 모든 비교군 최상위. 같은 GPT-4o 단독(56.89) 대비 +25.5%p. 대형 추론모델 o3-mini-high(전체 65.41)도 능가.
- 백엔드 LLM에 둔감(robust). MMToM-QA에서 어떤 백엔드든 원본 LLM을 큰 폭 상회: GPT-4o 44.0→83.0, Qwen3-235B 45.0→67.5, DeepSeek-v3 34.8→71.1, Gemini-2.5-Flash 44.7→71.7(추가 프롬프트 엔지니어링 없이).
- 조건 전반에 낮은 변동성. 질문 유형·맥락 길이·에이전트 수·재귀 차수를 바꿔도 대형 추론모델보다 훨씬 안정적(Fig 4). 3시드 MMToM-QA 평균 82.56%±0.45(SE)로 결과 안정.
- 인간 유사 확신도. 부분관찰 복잡 과제에서 인간 판단과 상관이 압도적: 믿음 추론 r=0.73(GPT-4o 0.04, o3-mini-high 0.03), 욕구 추론 r=0.88(GPT-4o 0.30).
- 체화형 도움 가속. O-WAH에서 SMC로 온라인 목표추론해 도움행동 생성 → 속도향상 27.7%(Random 6.3%, GPT-4o 6.8%).
- 효율성 ablation. 가설 제거·변수 조정·타임스텝 조정 각각이 성능 손실 없이 계산을 줄임(Fig 6) — full AutoToM이 정확도/비용 최적.
Results
Table 1(전체 평균): AutoToM 82.43 > o3-mini-high 65.41 > Gemini 2.0 Pro 65.76 등. 벤치별 — ToMi 88.30, BigToM 86.92(o3-mini-high와 공동 최고), MMToM-QA 83.00(단독 최고), MuMA-ToM 81.44(최고), Hi-ToM 72.50(최고는 o3-mini-high 75.00). 도메인특화 SymbolicToM은 ToMi에서만 98.60으로 강하나 타 벤치 미적용(—). 기존 모델기반 BIP-ALM(42.10)·LIMP(48.94)를 크게 상회. Table 2: 백엔드 무관 일관 이득(위 Findings). Table 3: 인지실험 상관(온라인 목표추론 full obs 0.93/0.81/0.97; 욕구 partial 0.88/0.30/0.52; 믿음 partial 0.73/0.04/0.03 — AutoToM/GPT-4o/o3-mini-high). Fig 7: O-WAH 속도향상 27.7%. Fig 6 ablation: w/o hypo reduction·w/ POMDP(항상)·w/o variable adj·w/ last timestep·w/ all timesteps 변형 대비 full이 정확도-계산 최적. 정량 전반이 “자동 모델 발견 + 자동 BIP”의 우월성을 일관되게 지지.
Discussion
AutoToM은 임의 ToM 추론 문제에서 적합한 에이전트 모델을 자동 구성하고 LLM 백엔드로 자동 BIP를 수행하는 새 프레임워크다. 다양한 시나리오의 ToM 질문에 답하고, 고전 인지실험의 인간 유사 확신도를 재현하며, 복잡 가정환경의 온라인 목표추론으로 체화형 도움을 향상한다 — 인지적으로 근거 있고(cognitively grounded) 확장가능·robust한 기계 ToM 방향을 제시한다.
Discussion Points
- 한계 (2+): (1) 멀티모달(비전·언어)을 추론 전에 텍스트로 별도 융합해야 함 — 네이티브 멀티모달 미지원(MMToM-QA·MuMA-ToM에서 기존 융합기법 차용). (2) 모델 적응이 일부 정신변수의 관련성을 못 알아채 불충분 모델 을 만들 수 있음. (3) 추론 비용이 여전히 높음(LLM 다회 호출; 대형 추론모델 대비 효율적이나 절대 비용 과제).
- 향후 방향 (1+): 네이티브 멀티모달 능력; robust성 개선과 동시에 추론 비용 절감; 암묵적 모델 제안·Bayesian 추론(모델 발견·추론을 LLM에 내재화) 탐색.
- 논쟁점/검증 가정: (a) “모델 효용 U=R−C에서 R을 음의 엔트로피(확신도) 로 둔다” — 확신이 곧 정답 근접이라는 가정은 LLM 백엔드 미보정(miscalibration) 시 위험(과확신으로 잘못된 모델 채택 가능). (b) 백엔드 LLM 의존 — GPT-4o API/버전 변화에 결과가 흔들릴 수 있음(저자는 3시드 안정성으로 부분 방어). (c) “복잡도=잠재변수 수”라는 단순 비용 정의 — 변수당 추론 난이도 차이를 반영하지 않음.
이론적 의의
AutoToM은 ToM 연구에서 모델 구조 자체를 추론 대상으로 끌어올린 전환점이다. 기존 모델 기반 ToM이 “고정 모델 → 변수 추론”이었다면, AutoToM은 “모델 구조도 불확실성 최소화로 탐색”한다 — 즉 어떤 정신변수가 이 행동을 설명하는 데 필요한가를 데이터(질문+행동)로 결정한다. 이는 인지과학의 합리적 분석(rational analysis)을 LLM 시대에 자동화한 것으로, ToMnet류의 암묵 신경 ToM(빠르나 불투명)과 BToM류의 명시 해석가능 ToM(투명하나 수동) 사이의 오랜 긴장을 — LLM을 미분 불가능 추론 엔진으로 써서 — 해소하려는 시도다.
실험 결과 상세
Table 1 — ToM 벤치마크 정확도(%) (발췌):
| Method | ToMi | BigToM | MMToM-QA | MuMA-ToM | Hi-ToM | All |
|---|---|---|---|---|---|---|
| GPT-4o (raw) | 77.00 | 82.42 | 43.83 | 63.55 | 50.00 | 56.89 |
| Gemini 2.0 Pro | 71.90 | 86.33 | 50.84 | 62.22 | 57.50 | 65.76 |
| SymbolicToM | 98.60 | — | — | — | 44.50 | — |
| DeepSeek-R1 | 89.40 | 86.25 | 49.67 | 63.44 | 56.50 | 69.05 |
| o3-mini-high | 73.10 | 86.92 | 64.67 | 70.00 | 75.00 | 65.41 |
| BIP-ALM | 55.60 | 50.33 | 56.17 | 33.90 | 14.50 | 42.10 |
| LIMP | 44.60 | 61.67 | 55.33 | 76.60 | 6.50 | 48.94 |
| AutoToM (GPT-4o) | 88.30 | 86.92 | 83.00 | 81.44 | 72.50 | 82.43 |
Table 2 — 백엔드 LLM 민감도 (MMToM-QA, raw LLM → AutoToM):
| Backend | LLM 단독 | AutoToM |
|---|---|---|
| GPT-4o | 44.0 | 83.0 |
| Qwen3-235b-a22b-2507 | 45.0 | 67.5 |
| DeepSeek-chat-v3-0324 | 34.8 | 71.1 |
| Gemini-2.5-Flash (thinking off) | 44.7 | 71.7 |
Table 3 — 인간 판단과의 Pearson 상관 (**: p≤.001, *: p≤.05):
| Task | AutoToM | GPT-4o | o3-mini-high |
|---|---|---|---|
| 온라인 목표추론 (full obs, Baker 2009) | 0.93** | 0.81** | 0.97** |
| 욕구 추론 (partial obs, Baker 2017) | 0.88 | 0.30 | 0.52* |
| 믿음 추론 (partial obs) | 0.73 | 0.04 | 0.03 |
Fig 7 — 체화형 도움(O-WAH) 평균 속도향상: Random 6.3%(고분산, 50% 에피소드 음수) · GPT-4o 6.8% · AutoToM 27.7%. (3시드 안정성: MMToM-QA 82.56%±0.45 SE.)
프레임워크 다이어그램
flowchart TD Q["ToM 질문 + 스토리"] --> IE["Information Extraction<br/>X 1:t = states/actions/utterances"] IE --> IMP["Initial Model Proposal<br/>minimal latent vars, t_s=t"] IMP --> BIP["Automated Bayesian Inverse Planning"] BIP --> HS["Hypothesis Sampling + hypothesis reduction"] HS --> BI["Bayesian Inference<br/>P(q | X) via LLM-estimated conditionals"] BI --> U{"Model Utility<br/>U = R - C >= U_min?"} U -->|No| MA["Model Adjustment<br/>variable adj / timestep adj"] MA --> BIP U -->|Yes| ANS["Final Answer<br/>posterior over query q"]
재현성 및 신뢰도 평가
- 종합 재현성 등급: B. 강점 — 코드·프로젝트 페이지 공개(논문 1면 Links), 5개 공개 벤치마크 사용, 방법(자동 BIP·모델 발견)이 수식·모듈 단위로 상세 기술, 부록 A~E에 모델공간·구현·실험 세부. 약점 — LLM 백엔드(GPT-4o 등) API 의존으로 모델 버전 변화 시 결과 재현이 흔들릴 수 있음(폐쇄 모델), LLM 호출 비용·비결정성.
- 증거 품질 등급: A. 5개 다양한 벤치(텍스트·멀티모달·고차재귀·장문맥) × 다층 베이스라인(LLM·프롬프팅·대형추론·모델기반), ablation(Fig 6), 3시드 통계(±SE), 고전 인지실험 상관(Table 3), 체화형 과제(Fig 7)까지 폭넓고 일관.
- 주장별 신뢰도 (2+): (1) “5벤치 전체 SOTA”(Table 1) — 높음(다수 강베이스라인 대비 명확, 3시드 안정). (2) “백엔드 무관 robust 이득”(Table 2) — 높음(4개 백엔드 일관). (3) “인간 유사 확신도”(Table 3) — 중간~높음(부분관찰에서 격차 크나 표본·과제 수 제한, 상관계수 기반).
관련 연구 비교 매트릭스
| 연구 | 핵심 접근 | 에이전트 모델 | 추론 백엔드 | 고차 재귀 | 모델 자동화 | 코드공개 |
|---|---|---|---|---|---|---|
| AutoToM (Zhang 2025, 본 논문) | 자동 모델 발견 + 자동 BIP | 자동 구성 Bayesian net (MDP/POMDP/I-POMDP) | LLM (GPT-4o 등) | ✅ 임의 차수 | ✅ 완전 자동 | ✅ |
| BIP-ALM (Jin/MMToM-QA 2024) | 손설계 모델 + LLM 우도 | 고정 POMDP, 수동 믿음 갱신 | LLM 우도 | 제한 | ❌ 수동 | 부분 |
| LIMP (Shi 2024) | LLM 기반 역계획 | 고정, 명시 믿음 갱신 없음 | LLM | 제한 | ❌ 수동 | 부분 |
| BToM (Baker 2017) | 합리적 Bayesian 역계획 | 손설계 생성 POMDP | 정확 Bayesian | 제한 | ❌ 수동 | 부분 |
| SimToM / SymbolicToM (2023–24) | LLM 프롬프팅(관점취하기/기호표상) | 모델 없음(프롬프트) | LLM | 약함 | — | 부분 |
| thought-tracing (Kim 2025) | 질의 정신변수 가설 추적 | 가설만 추적(인과구조 미구성) | LLM | 제한 | 부분 | 부분 |
| ToMnet (Rabinowitz 2018) | 메타러닝 암묵 ToM | 학습된 신경 임베딩 | 신경망(amortized) | 약함 | (학습) | ❌ (Machine Theory of Mind) |
AutoToM은 BIP-ALM/LIMP/BToM의 “명시 해석성”과 ToMnet의 “자율성/확장성”을 LLM으로 결합 — 모델 구조까지 자동 탐색한다는 점이 thought-tracing(가설만 추적, 인과구조 미구성)과의 결정적 차이.
원자적 인사이트 (Zettelkasten)
- 모델 구조 자체를 불확실성 최소화로 추론할 수 있다. “어떤 잠재 정신변수가 이 행동을 설명하나”를 고정하지 않고, 효용 U=R−C(확신도−복잡도)를 최대화하도록 변수·타임스텝을 자동 탐색 → 합리적 분석(rational analysis)을 LLM으로 자동화한 형태. model-structure-as-inference-target
- LLM을 ‘미분 불가능 추론 엔진’으로 쓰면 명시성과 자율성이 양립한다. Bayesian net의 국소 조건부·가설 생성을 LLM이 채워, 손설계의 robust·해석성과 신경망의 자율·확장성을 동시에 얻음 — ToMnet(암묵·불투명) vs BToM(명시·수동)의 오랜 긴장 해소. llm-as-bayesian-backend
- 확신도 기반 모델 선택은 보정(calibration) 위에 선다. R=−H(사후엔트로피)를 보상으로 쓰는 설계는 LLM이 과확신이면 잘못된 단순 모델을 채택할 위험 — 모델 발견 ToM의 신뢰성은 백엔드 보정에 의존. confidence-as-objective-needs-calibration
- 부분관찰 믿음 추론이 LLM의 진짜 약점이다. raw LLM은 full-obs 목표추론은 인간과 r≈0.8이나 partial-obs 믿음 추론은 r≈0.04로 붕괴; 명시 Bayesian 믿음 갱신을 자동 구성한 AutoToM만 r=0.73 회복 → “모델 없는 프롬프팅”의 구조적 한계 지점. partial-observability-breaks-prompted-tom
핵심 용어 정리
- Theory of Mind (ToM, 마음 이론): 타인의 목표·믿음·욕구 등 정신 상태를 행동에서 추론하는 능력.
- Bayesian Inverse Planning (BIP, Bayesian 역계획): 에이전트가 정신상태에 따라 합리적으로 행동한다는 생성 모델을 역전해, 관찰된 행동에서 잠재 정신변수의 사후를 추정하는 모델 기반 ToM 기법.
- 에이전트 모델 (agent model): 정신변수 V와 관찰변수 X의 인과 의존을 정의하는 Bayesian 네트워크. 종류: MDP(목표 명시)·POMDP(부분관찰+믿음)·I-POMDP(고차 재귀 상호작용 상태).
- 자동 모델 발견 (automated model discovery): 질문·관찰에 맞는 에이전트 모델 구조(어떤 잠재변수·몇 타임스텝)를 자동 제안·적응하는 과정 — 본 논문의 핵심 기여.
- 모델 효용 U=R−C: R=−H(대상 사후의 음의 엔트로피=확신도), C=α|M|(잠재변수 수=복잡도). 효용 최대화로 모델을 정련.
- Hypothesis sampling / reduction (가설 표본추출/축소): LLM이 잠재변수의 소수 후보를 제안(amortized)하고, 우도 낮은 후보를 제거해 가설 공간 축소.
- amortized inference (분할상환 추론): 매번 처음부터 추론하지 않고 학습/LLM으로 추론을 상각해 빠르게 근사하는 방식.
- I-POMDP (Interactive POMDP): 에이전트가 타 에이전트의 믿음·목표까지 상태에 포함해 고차 재귀(나는 네가 무엇을 믿는다고 믿는다)를 다루는 모델.
- O-WAH (Online Watch-And-Help): 도우미 에이전트가 주 에이전트를 관찰·목표추론·온라인 보조하는 체화형 가정환경 벤치마크.
관련 연구
- Machine Theory of Mind — 메타러닝 기반 암묵 신경 ToM(ToMnet); AutoToM이 그 자율성을 명시 Bayesian 추론과 결합(본 노트 비교 매트릭스 참조).
- Bayesian Theory of Mind — Baker et al. 합리적 역계획 계열(미작성 가능).
- MMToM-QA / MuMA-ToM — 멀티모달·다중에이전트 ToM 벤치마크(미작성 가능).
- Interactive POMDP — 고차 재귀 ToM의 형식 모델(미작성 가능).
태그
theory-of-mind bayesian-inverse-planning LLM-agents automated-model-discovery mental-inference POMDP embodied-AI NeurIPS2025
BibTeX
@inproceedings{zhang2025autotom,
title = {AutoToM: Scaling Model-based Mental Inference via Automated Agent Modeling},
author = {Zhang, Zhining and Jin, Chuanyang and Jia, Mung Yao and Zhang, Shunchi and Shu, Tianmin},
booktitle = {Advances in Neural Information Processing Systems (NeurIPS)},
year = {2025},
eprint = {2502.15676},
archivePrefix = {arXiv},
primaryClass = {cs.AI}
}