인공지능과 알고리즘 기반 시스템이 다양한 영역에서 인간에게 조언을 제공하는 상황이 증가하고 있으나, 사람들은 동일한 품질의 조언이라도 인간 조언자와 기계 조언자에 대해 상이한 반응을 보이는 algorithm aversion 현상이 보고됨 (Dietvorst et al., 2015)
Judge-Advisor System (JAS) 패러다임에서 조언 수용(advice taking)은 조언자의 특성, 조언의 방향(자신의 초기 판단과 일치/불일치), 과제 난이도 등에 의해 영향을 받으며 (Sniezek & Buckley, 1995; Gino & Moore, 2007), 조언자의 의인화(anthropomorphism) 수준이 추가적인 영향 요인으로 제안됨
기계 조언자에 대한 의인화는 CASA(Computers Are Social Actors) 이론과 의인화 이론(Epley et al., 2007)에 근거하여, 기계에 인간적 외양이나 속성을 부여할수록 사회적 반응이 증가할 것으로 예측되지만, 이것이 실제 의사결정 자신감(decision confidence)에 어떤 영향을 미치는지는 충분히 검증되지 않음
본 연구는 기계 조언자의 의인화 수준(고/저)과 조언의 속성 — 조언 방향(지지/반대)과 조언 내용 유형(실용적/감성적) — 이 인간의 의사결정 자신감에 미치는 영향을 실험적으로 검증하고, 성격 특성(Big Five)의 조절효과를 탐색함
핵심 연구 질문: 기계의 의인화 수준이 높을수록 인간은 기계의 조언을 더 수용하는가, 아니면 조언의 내용적 속성이 의인화보다 더 결정적 요인인가?
Related Papers
Cueing and Cognitive Conflict in Judge-Advisor Decision Making (Sniezek & Buckley, 1995): JAS 패러다임의 기초 연구 — 판단자가 독립적 초기 판단을 가진 경우 조언 활용도와 자신감이 가장 높으며, 조언자 간 갈등이 자신감을 저하시킴
Effects of Task Difficulty on Use of Advice (Gino & Moore, 2007): 과제 난이도가 높을수록 조언 가중치(WOA)가 증가 — 쉬운 과제(WOA=0.41) vs 어려운 과제(WOA=0.52); 자신감만으로 조언 수용을 설명할 수 없음을 입증
Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err (Dietvorst, Simmons, & Massey, 2015): 알고리즘이 한 번의 오류를 보인 후 인간 판단을 선호하는 경향 — 기계 조언에 대한 회피의 핵심 메커니즘 규명
Overcoming Algorithm Aversion: People Will Use Imperfect Algorithms If They Can (Even Slightly) Modify Them (Dietvorst, Simmons, & Massey, 2018): 알고리즘을 약간이라도 수정할 수 있으면 algorithm aversion이 감소 — 통제감(sense of control)이 핵심 매개변인
Anthropomorphism: Opportunities and Challenges in Human-Robot Interaction (Epley, Waytz, & Cacioppo, 2007): 의인화의 3요인 이론(elicited agent knowledge, effectance motivation, sociality motivation) — 도메인 경험이 증가하면 의인화 경향이 감소
Methods
실험 설계: 2(의인화 수준: 고/저) x 2(조언 방향: 지지/반대) x 2(조언 내용 유형: 실용적/감성적) 혼합 설계 (mixed design)
의인화 수준: 피험자 간(between-subjects) 변인 — 고의인화 조건(인간형 외양, 이름, 감정 표현 가능한 기계 조언자) vs 저의인화 조건(기계적 외양, 코드명, 정보만 전달하는 기계 조언자)
조언 방향과 내용 유형: 피험자 내(within-subjects) 변인
과제: 참여자들이 두 개의 선물 중 하나를 선택하는 의사결정 과제 수행 — 초기 선택 후 기계 조언자로부터 조언을 받고 최종 자신감을 평정
종속변인: 의사결정 자신감(decision confidence) — 조언 수용 전후의 자신감 변화량
조절변인: Big Five 성격 특성 (외향성, 친화성, 성실성, 신경증, 개방성)
절차:
사전 설문: Big Five 성격 검사 실시
의인화 수준 조작: 고의인화 또는 저의인화 기계 조언자 소개
초기 의사결정: 선물 선택 및 초기 자신감 평정
조언 제시: 기계 조언자가 지지 또는 반대 조언을 실용적 또는 감성적 내용으로 제공
최종 자신감 평정: 조언 수용 후 자신감 재측정
graph TD
A["참여자"] --> B["사전 설문<br/>Big Five 성격 검사"]
B --> C{"무선 할당<br/>(피험자 간)"}
C -->|고의인화| D["기계 조언자 소개<br/>인간형 외양 · 이름 · 감정 표현"]
C -->|저의인화| E["기계 조언자 소개<br/>기계적 외양 · 코드명 · 정보 전달"]
D --> F["초기 의사결정<br/>선물 선택 + 자신감 평정"]
E --> F
F --> G{"조언 제시<br/>(피험자 내)"}
G -->|지지 × 실용적| H1["조언 A"]
G -->|지지 × 감성적| H2["조언 B"]
G -->|반대 × 실용적| H3["조언 C"]
G -->|반대 × 감성적| H4["조언 D"]
H1 --> I["최종 자신감 평정"]
H2 --> I
H3 --> I
H4 --> I
I --> J["분석: 자신감 변화량<br/>ANOVA + 성격 조절효과"]
style A fill:#e1f5fe
style J fill:#e8f5e9
style D fill:#fff9c4
style E fill:#fff9c4
Results
의인화 수준의 주효과 비유의: 고의인화 조건과 저의인화 조건 간 의사결정 자신감에 유의미한 차이가 나타나지 않음 — 기계의 외양적 의인화 자체만으로는 조언 수용에 영향을 미치지 못함
조언 방향의 주효과 유의: 지지 조언을 받은 경우 자신감이 유의미하게 증가하고, 반대 조언을 받은 경우 자신감이 감소 — 기계 조언이든 인간 조언이든 조언 방향이 자신감 변화의 핵심 요인
조언 내용 유형의 효과: 실용적 조언과 감성적 조언 간에도 자신감 변화 양상에 차이가 관찰됨 — 조언의 내용적 특성이 의인화보다 의사결정에 더 직접적 영향
성격 특성의 조절효과: 성실성(conscientiousness)이 의인화 수준과 상호작용하여 의사결정 자신감에 영향을 미침 — 성실성이 높은 참여자는 의인화 수준에 따른 자신감 변화가 상이한 패턴을 보임
조언 방향 × 의인화 상호작용: 반대 조언 상황에서 의인화 수준의 효과가 일부 관찰되는 경향 — 의인화가 높은 기계의 반대 조언이 더 큰 자신감 저하를 야기할 가능성 시사
주요 결과 요약
효과
결과
해석
의인화 수준 주효과
비유의
외양적 의인화만으로는 조언 수용에 불충분
조언 방향 주효과
유의
지지 조언 → 자신감 증가, 반대 조언 → 자신감 감소
조언 내용 유형 효과
유의
실용적 vs 감성적 조언의 차별적 영향
성실성 × 의인화 상호작용
유의
성실성이 의인화 효과를 조절
조언 방향 × 의인화 상호작용
경향성
반대 조언 시 의인화 효과 일부 관찰
자신감 변화 패턴
조건
지지 조언
반대 조언
고의인화
자신감 증가 (큼)
자신감 감소 (큼)
저의인화
자신감 증가 (큼)
자신감 감소 (상대적으로 작음)
Discussion
핵심 발견: 기계 조언자의 의인화 수준 자체는 의사결정 자신감에 독립적 영향을 미치지 않으며, 조언의 방향(지지/반대)과 내용 유형(실용적/감성적)이 자신감 변화의 주된 결정 요인 — 이는 CASA 이론의 단순한 적용이 기계 조언 맥락에서 제한적임을 시사
성실성의 조절효과: Big Five 중 성실성이 의인화와 자신감의 관계를 조절한다는 발견은, 기계 조언 수용이 조언자의 외적 특성뿐 아니라 수용자의 내적 성격 특성에 의해서도 영향받음을 보여줌 — 개인차(individual differences)를 고려한 HCI 설계의 필요성 제기
Algorithm aversion과의 관계: 의인화가 algorithm aversion을 완화하는 효과적 수단이라는 기존 연구(예: 이름 부여, 외양 변형)와 달리, 본 연구에서는 의인화의 주효과가 비유의 — 단순한 외양적 의인화보다 조언의 질적 속성(방향, 내용)이 더 중요할 수 있음
한계 1: 선물 선택이라는 단일 과제 유형만 사용 — 의료 진단, 투자 결정 등 고위험 의사결정 맥락으로의 일반화 필요
한계 2: 의인화 조작이 외양 수준에 한정 — 대화 스타일, 감정 표현의 자연스러움 등 행동적 의인화(behavioral anthropomorphism)의 효과는 미검증
한계 3: 참여자의 기계/AI에 대한 사전 경험 수준을 통제하지 않음 — Epley et al. (2007)에 따르면 도메인 경험이 의인화 경향에 영향을 미침
향후 방향: (1) 조언의 정확도(accuracy)와 의인화의 상호작용 검증, (2) 반복적 상호작용에서의 의인화 효과 변화 추적, (3) 다양한 의사결정 영역에서의 일반화 연구, (4) 행동적 의인화 조작을 포함한 후속 실험