행동에 대한 공유 제약으로서의 사회규범에 대한 베이지안 추론
Digest: 사람은 카페테리아의 쟁반 반납 같은 암묵 규범을 빠르게 추론하지만, 규범의 영향과 개인 욕구를 어떻게 분리하는지는 잘 연구되지 않았다(Context). 이 논문은 Bayesian Theory of Mind(관측 행동에서 미관측 정신상태를 graded하게 역추론하는 틀)에 기반해, 규범을 “같은 사회맥락의 여러 에이전트가 공유하는 행동 제약”으로 모델링하고 욕구(desire)와 규범(norm)을 분리 추정하는 세 후보 모델 FC/JE/DM을 제안한다(Innovation). 200명 MTurk 실험 두 시나리오에서, 두 시나리오 평균 posterior 상관이 FC r=0.939 > JE 0.931 > DM 0.905으로 나타나 규범을 욕구와 독립적인 공유 제약으로 보는 Fully-Connected 모델이 가장 잘 맞았다(So-what·Evidence). 다만 친숙한 규범의 강한 prior와 큰 개인차가 한계이며(Limitation), 규범이 미확립된 alien 환경에서도 같은 추론이 성립하는가가 남은 질문이다(Question).
먼저 이해하기
이 논문은 사람이 타인의 행동을 보고 “그 사회에 어떤 암묵 규범(겉으로 명시되지 않은 행동 규칙)이 있는가”를 어떻게 추론하는지를 계산 모델로 설명한다. 예를 들어 카페테리아에서 누군가 식사 후 쟁반을 반납하거나 방치하고, 또 다른 사람이 그것을 질책하는 장면을 보면, 우리는 “여기서는 쟁반을 반납하는 것이 규범이구나”를 빠르게 짐작한다. 저자들은 이런 추론을 Bayesian Theory of Mind(관측된 행동을 단서로 보이지 않는 정신상태를 확률적으로 거꾸로 추정하는 틀)로 형식화하되, 규범을 한 개인의 취향이 아니라 “같은 맥락의 여러 에이전트가 함께 따르는 행동 제약”으로 취급한다. 핵심은 관찰된 행동에서 개인 욕구(desire, 그 사람이 원하는 것)와 규범의 영향을 분리해 내는 것이다.
왜 중요한가: 원문에 따르면 규범의 창발과 집행에 대한 연구는 많지만 “규범이 어떻게 추론되는가”에 대한 연구는 희소하다. 3세 아동도 규범을 학습하고, 성인은 새로운 환경에서 의무적 규칙과 개인 선호를 구분할 수 있다. 규범을 개인 선호가 아닌 공유된 제약으로 이해하면, 낯선 사회맥락에서도 소수의 행동 관찰만으로 빠르게 규범을 추론할 수 있다는 것이 이 연구의 함의다.
먼저 알아둘 말:
| 용어 | 뜻 |
|---|---|
| Bayesian Theory of Mind (BToM) | 관측 행동에서 미관측 정신상태(욕구·믿음 등)를 확률적으로 역추론하는 인지모델 틀 |
| 규범 (norm, N) | 같은 사회맥락의 여러 에이전트가 공유하는 행동 제약. 이 모델에선 유무를 나타내는 이진 변수 |
| 욕구 (desire, D) | 한 에이전트가 개인적으로 원하는 것. 규범과 분리해 추정하는 잠재 변수 |
| 집행 (enforcement) | 심판(judge) 에이전트가 규범 위반에 반응(예: 질책)하는 행동 |
| posterior 상관 | 모델이 예측한 사후확률과 사람 응답의 일치 정도(상관계수 r). 모델 적합도 지표 |
섹션별 요약
Abstract
사람은 Bayesian Theory of Mind으로 사회규범을 추론하되, 규범을 “같은 사회맥락의 여러 에이전트가 공유하는 행동 제약”으로 취급한다. 타인 행동을 관찰할 때 사람은 규범의 영향과 개인 욕구를 분리한다. 이 논문은 그 분리를 가능하게 하는 계산 모델을 제안하고, 인간 판단 데이터로 검증한다.
저자 contribution
- 규범을 개인 선호가 아닌 “에이전트 간 공유된 행동 제약”으로 형식화하고, 욕구와 규범을 분리 추정하는 Bayesian Theory of Mind 모델(FC/JE/DM)을 제안.
- 200명 MTurk 실험 두 시나리오(의무규범·금지규범)에서 사람의 prior·conditional·posterior 판단으로 모델을 검증하고, Fully-Connected 모델이 평균적으로 가장 잘 맞음을 보임.
왜 이 연구를 하는가?
연구 동기는 사람이 낯선 환경에서도 소수의 행동 관찰만으로 암묵 규범을 빠르게 추론한다는 현상이다. 기존 한계는 두 가지로, (1) 규범의 창발과 집행에 대한 연구는 많으나 “규범이 어떻게 추론되는가”에 대한 연구가 희소하고, (2) 관찰된 행동에서 규범의 영향과 개인 욕구를 어떻게 분리하는지가 형식화되지 않았다. 핵심 통찰은 규범을 한 개인의 욕구가 아니라 여러 에이전트가 공유하는 행동 제약으로 모델링하면 이 분리가 가능해진다는 것이다.
Introduction
저자들은 카페테리아 예시(식사 후 쟁반을 반납/방치하거나 이를 질책하는 장면)로 사람이 암묵 규범을 얼마나 빠르게 추론하는지를 보인다. 3세 아동도 규범을 학습하며, 성인은 새 환경에서 의무적 규칙과 개인 선호를 구분한다. 이 연구는 BToM 전통에 위치하는데, BToM은 관측된 행동에서 미관측 정신상태에 대한 graded(연속적·정도가 있는) 판단을 끌어내는 틀이다. 저자들은 이 틀을 단일 에이전트의 정신상태 추론에서 여러 에이전트가 공유하는 규범 추론으로 확장한다.
Methods
모델은 2-에이전트 구조다. 행위자(actor)는 규범을 준수하거나 위반하고, 심판(judge)은 이를 집행한다. 변수는 A1(행위자 행동), D1(행위자의 잠재 욕구), A2(심판의 집행 행동), D2(심판의 욕구), N(규범 유무 이진)이다.
세 후보 모델은 변수 간 인과 구조가 다르다.
- FC(Fully Connected): 규범이 욕구와 행동 모두에 영향을 미친다. 규범이 내재화(internalized)되어 욕구에까지 반영되는 경우.
- JE(Joint Effect): 욕구는 규범과 독립이며(Kant식 욕구/의무 구분), 규범과 욕구가 함께 행동을 결정한다.
- DM(Desire Mediation): 규범이 욕구를 통해서만 행동에 영향을 미친다(Hume식 매개).
차별점은 규범과 욕구의 의존 관계 및 규범이 행동에 직접 영향을 주는지 여부다. 두 가지 lesion(일부 변수를 제거한 축소) 모델 D-only(규범 변수 제거)와 N-only(욕구 변수 제거)도 비교 기준으로 사용한다.
발견 (Findings)
시나리오1(의무규범, 쟁반 반납)에서 욕구가 규범에 유의하게 의존했다(D1 F(2,150)=55.13, D2 F=66.95, 둘 다 p<.001). 이는 욕구가 규범과 독립이라고 본 JE를 반박한다. 또한 규범이 욕구와 독립적으로 행동에 직접 영향을 미쳤고(조건 D, ts>5.77, p<.001), 이는 규범이 욕구를 통해서만 작동한다고 본 DM을 반박한다. posterior 상관은 FC r=0.944, JE r=0.974, DM r=0.981, lesion D-only r=0.944, N-only r=0.384였다. 이론상으로는 FC가 두 반박을 모두 수용하는 예측을 내지만, 실제 적합도는 JE/DM이 더 높았다(피험자 간 likelihood 분산이 커서 발생).
시나리오2(금지규범, 쓰레기 투기)에서도 욕구가 규범에 유의 의존했다(D1 F(2,144)=18.02, D2 F=35.86, 둘 다 p<.001). posterior 상관은 FC r=0.934, JE r=0.887, DM r=0.828으로 여기선 FC가 최고였다. DM은 규범 likelihood를 과대추정했고, lesion은 D-only r=0.772, N-only r=0.461이었다.
Results
베이스라인 비교의 핵심은 두 시나리오를 평균한 posterior 상관이다: FC r=0.939 > JE r=0.931 > DM r=0.905. lesion 모델(N-only r=0.384/0.461, D-only r=0.944/0.772)은 전체 모델보다 명백히 낮아, 욕구와 규범 두 변수가 모두 필요함을 보인다. 시나리오별로는 시나리오1에서 JE/DM이 FC보다 높지만(0.974/0.981 vs 0.944), 시나리오2에서는 FC가 가장 높다(0.934 vs 0.887/0.828). 실험 검정력은 >93%였다(Cohen f=0.5 기준).
Discussion
한계는 두 가지 이상이다. 첫째, 친숙한 규범(쟁반 반납·쓰레기 투기)에 대해 피험자가 강한 prior를 가지고 있어, 모델이 데이터로부터 규범을 추론하기보다 사전 지식이 개입했을 수 있다. 둘째, 피험자 간 개인차가 커서(내부 모델 파라미터 다양) likelihood 분산이 크고, 시나리오별로 최적 모델이 뒤바뀐다(시나리오1은 JE/DM 우세, 시나리오2는 FC 우세). 향후 방향으로는 규범이 아직 확립되지 않은 alien(낯선) 환경에서 검증하여 강한 prior의 혼입 없이 추론 능력을 평가하는 것이 제시된다.
이론적 의의
이 연구는 사람이 규범을 개인 선호가 아니라 “여러 에이전트가 공유하는 행동 제약”으로 이해함을 보인다. 이는 낯선 사회맥락에서도 소수의 관찰만으로 빠른 규범 추론이 가능한 이유를 설명한다. 또한 BToM을 단일 에이전트 정신상태 추론에서 다중 에이전트 사회추론으로 확장하는 이론적 다리를 놓는다.
Discussion Points
- 논쟁점: 두 시나리오에서 최적 모델이 FC↔JE/DM으로 뒤바뀌므로, 단일 인과 구조가 모든 규범 유형(의무 vs 금지)을 설명하는지 불확실하다.
- 검증할 가정: 친숙한 규범에 대한 강한 prior가 결과를 좌우했을 가능성 — alien 환경에서 동일한 모델 순위가 유지되는지 확인 필요.
- 후속 연구: 규범이 미확립된 새 환경에서 사람이 욕구와 규범을 분리 추론하는지, 다중 에이전트 사회추론으로의 확장이 일반화되는지.
실험 결과 상세
두 시나리오의 모델별 posterior 상관(추출 전문 수치):
| 모델 | 시나리오1 (의무규범, 쟁반 반납) | 시나리오2 (금지규범, 쓰레기 투기) | 두 시나리오 평균 |
|---|---|---|---|
| FC (Fully Connected) | r=0.944 | r=0.934 | r=0.939 |
| JE (Joint Effect) | r=0.974 | r=0.887 | r=0.931 |
| DM (Desire Mediation) | r=0.981 | r=0.828 | r=0.905 |
| lesion D-only (규범 제거) | r=0.944 | r=0.772 | 데이터 불충분(평균 미명시) |
| lesion N-only (욕구 제거) | r=0.384 | r=0.461 | 데이터 불충분(평균 미명시) |
욕구의 규범 의존성(ANOVA, 추출 전문 수치):
| 시나리오 | D1 | D2 | 유의수준 |
|---|---|---|---|
| 시나리오1 (쟁반 반납) | F(2,150)=55.13 | F=66.95 | p<.001 |
| 시나리오2 (쓰레기 투기) | F(2,144)=18.02 | F=35.86 | p<.001 |
기타: 시나리오1에서 규범의 행동 직접 영향(조건 D) ts>5.77, p<.001. 표본 200명(MTurk), 검정력 >93%(Cohen f=0.5).
프레임워크 다이어그램
flowchart TD N["규범 유무 N (이진)"] D1["행위자 욕구 D1"] A1["행위자 행동 A1 (준수/위반)"] D2["심판 욕구 D2"] A2["심판 집행 A2"] N --> D1 N --> A1 N --> D2 N --> A2 D1 --> A1 D2 --> A2 A1 --> A2 OBS["관측 행동 (A1, A2)"] A1 --> OBS A2 --> OBS OBS -.->|"BToM 역추론"| INF["규범 N + 욕구 D 사후 추정"]
재현성 및 신뢰도 평가
- 코드 공개: no — 추출 전문에 코드·하이퍼파라미터 공개 명시 없음.
- 종합 재현성 등급: C — 행동연구(200명 MTurk)와 계산 모델을 결합했고 ANOVA·상관 등 통계가 보고되었으나, 모델 구현 코드·세부 파라미터가 명시되지 않아 완전 재현이 어렵다.
- 주장별 신뢰도:
- “사람은 규범을 욕구와 독립인 공유 제약으로 본다(FC 우세)”: 근거는 두 시나리오 평균 posterior 상관 FC r=0.939로 1위. 단 시나리오1에서는 JE/DM이 더 높아 근거 강도는 중간(시나리오 간 불일치).
- “욕구는 규범에 유의 의존한다(JE 반박)”: F값(예: D1 F(2,150)=55.13)과 p<.001로 통계적 근거가 강함. 근거 강도 높음.
- “규범은 욕구와 독립적으로 행동에 직접 영향(DM 반박)”: 시나리오1 조건 D, ts>5.77, p<.001로 근거 강함. 단 시나리오1에 한정 보고되어 일반화는 중간 강도.
관련 연구 비교 매트릭스
| 논문 | 환경 | 과제유형 | 핵심기여 | 평가지표 | 코드공개 | 본 논문과의 관계 |
|---|---|---|---|---|---|---|
| 본 논문 (Tan & Ong, 2019) | 카페테리아류 사회 시나리오(MTurk) | 행동→규범·욕구 분리 역추론 | 규범을 공유 행동 제약으로 모델링(FC/JE/DM) | posterior 상관 r, ANOVA F | no | — |
| Action Understanding as Inverse Planning (Baker, Saxe & Tenenbaum, 2009) | 격자 환경 행위자 관찰 | 행동→욕구 역계획 | 행동을 역계획으로 욕구 추론 | 인간 판단 적합도 | — | base(이론적 토대, 단일 에이전트 욕구 추론) |
| Rational Quantitative Attribution of Beliefs/Desires/Percepts (Baker et al., 2017) | 시각적 행위자 시나리오 | 믿음+욕구 결합 역추론 | 믿음·욕구·지각 정량 동시 추론 | 인간 판단 상관 | — | base(BToM 확장의 직접 선행) |
| Naïve Utility Calculus (Jara-Ettinger et al., 2016) | 행위자 선택 관찰 | 행동→비용·보상 효용 추론 | 효용(비용·보상) 기반 행동 해석 | 이론·행동 데이터 | — | alternative(욕구를 효용으로 보는 대안 틀) |
| Watch-And-Help (Puig et al., 2020) | VirtualHome 가정 시뮬 | 단일 데모→목표추론·협력 | 목표 추론 후 협력 도움 챌린지 | 협력 성공·속도 | — | alternative(다중 에이전트 사회추론의 AI 응용) |
원자적 인사이트 (Zettelkasten)
- 규범을 한 개인의 욕구가 아니라 여러 에이전트가 공유하는 행동 제약으로 모델링하면, 관찰된 행동에서 규범의 영향과 개인 욕구를 분리해 추론할 수 있다.
- 욕구가 규범에 유의하게 의존한다는 발견(D1 F(2,150)=55.13, p<.001)은 욕구와 의무를 독립으로 보는 Kant식 Joint-Effect 가정을 반박한다.
- lesion N-only 모델이 r=0.384/0.461로 급락하는 것은, 규범 변수 없이 욕구만으로는 사람의 사회판단을 설명할 수 없음을 보여준다.
- 두 시나리오에서 최적 모델이 뒤바뀌는 현상(시나리오1 JE/DM 우세, 시나리오2 FC 우세)은 단일 인과 구조가 의무규범과 금지규범을 동일하게 설명하지 못할 수 있음을 시사한다.
핵심 용어 정리
- Bayesian Theory of Mind (BToM): 관측된 행동을 단서로 미관측 정신상태를 확률적으로 역추론하는 인지모델 틀.
- 공유 제약 (shared constraint): 규범을 한 개인의 선호가 아니라 같은 맥락의 여러 에이전트가 함께 따르는 행동 제약으로 보는 관점.
- FC / JE / DM: 규범(N)·욕구(D)·행동(A)의 인과 구조가 다른 세 후보 모델 — FC는 규범이 욕구·행동 모두에, JE는 독립 욕구와 규범이 함께 행동에, DM은 규범이 욕구를 통해서만 행동에 영향.
- lesion 모델 (D-only / N-only): 욕구나 규범 변수 하나를 제거해 각 변수의 기여를 검증하는 축소 비교 모델.
- 집행 (enforcement): 심판 에이전트가 규범 위반에 반응(예: 질책)하는 행동으로, 관찰자의 규범 추론 단서가 된다.
- posterior 상관 (r): 모델 예측 사후확률과 인간 응답 간 상관계수로, 모델 적합도를 나타내는 지표.
관련 연구
- Watch-And-Help - A Challenge for Social Perception and Human-AI Collaboration — alternative: 단일 데모로 목표를 추론해 협력하는 다중 에이전트 사회추론의 AI 응용으로, 본 논문의 사회규범 추론을 AI 협력 과제로 확장하는 방향.
태그
theory-of-mind social-norms bayesian-inference cognitive-modeling inverse-planning
BibTeX
@inproceedings{tan2019bayesian,
title={Bayesian Inference of Social Norms as Shared Constraints on Behavior},
author={Tan, Zhi-Xuan and Ong, Desmond C.},
booktitle={Proceedings of the 41st Annual Conference of the Cognitive Science Society (CogSci 2019)},
year={2019}
}