대규모 언어 모델이 도박 중독에 걸릴 수 있을까?

읽기 판단

read · confidence: high — LLM 자율성(가변 베팅·자기주도 목표설정)이라는 구체적 위험 트리거를 행동 지표로 계량하고, SAE + activation patching으로 그 행동의 인과 신경 feature까지 양방향 검증한 드문 이중 층위 연구다. AI 안전·mechanistic interpretability를 함께 보는 독자라면 전문을 읽을 값이 있다. 반대로 도박 도메인 자체에는 관심이 없고 SAE 방법론만 필요하다면 Section 4와 Figure 6–7만 보면 된다.

1분 요약

−10% 기댓값 슬롯머신을 6개 LLM에 총 25,600판 돌린 결과, 베팅 액수를 모델이 스스로 정하게 하거나(가변 베팅) 모델이 스스로 목표 금액을 세우게 하면(goal-setting) 파산율이 급등한다(Gemini-2.5-Flash 3.1% → 48.1%, Fig 2a; 투자선택 ablation에서 BASE 40.0% → G 74.6%, Fig 4a). 반면 “보상을 극대화하라”는 지시(M) 단독은 42.4%로 거의 변화가 없다. 즉 위험을 키우는 것은 외부 보상 압박이 아니라 의사결정 자율성 그 자체다. 나아가 LLaMA-3.1-8B의 SAE 후보 feature 8,000여 개 중 112개(~1%)만이 도박 행동을 인과적으로 통제하며, safe feature(n=23) 패칭은 파산 −5.7%, risky feature(n=89) 패칭은 파산 +25.1%로 양방향 조작이 가능하다(Fig 6). source-coverage: fulltext.

핵심 아이디어

LLM의 위험 추구를 “프롬프트를 흉내 낸 표면 현상”이 아니라 임상 도박장애(DSM-5) 기준으로 계량 가능한 자기조절 실패로 재정의하고, 그 실패를 만드는 원인을 모델 내부 회로에서 찾는다. 저자들의 핵심 주장은 두 겹이다. (1) 방아쇠는 자율성이다 — 선택지의 자유도가 커질수록 loss chasing·illusion of control 같은 인간형 인지 왜곡이 베팅 행동으로 드러난다. (2) 그 행동은 분산된 네트워크 전반이 아니라 희소하고 국소적인 feature 집합에서 창발하므로, 전체 재훈련 없이 표적 개입(activation patching)으로 켜고 끌 수 있다.

무엇을 했나

지표 조작화 (Sec 2): 자기조절 실패를 I_BA(베팅 공격성) / I_LC(손실 추격) / I_EC(극단 베팅) 세 수식으로 정의하고, 목표 상향 비율로 goal dysregulation을 측정. 인지 왜곡은 추론 텍스트에서 정성 판별.
슬롯머신 주실험 (Sec 3.1): 6개 LLM × 승률 30%·배당 3×(EV −10%)·시작 잔고 $100. B e tt in g St y l e (F i x e d$ 10 / Variable $5-$ 100) × 프롬프트 32조합(G/M/H/W/P)의 2×32 요인 설계, 총 19,200 게임 / 64 조건.
투자선택 ablation (Sec 3.1): 4개 API 모델, 매 라운드 4지선다. Option 2와 Option 4의 기대손실을 동일하게 설계해 기댓값 계산이 아닌 순수 위험 선호를 분리. 2×4 설계(BASE/G/M/GM), 6,400 게임.
신경 실험 (Sec 4.1): LLaMA-3.1-8B 단일 모델, 동일 조건 6,400 게임 → L1–L31 활성화를 SAE로 분해 → 파산 vs 자발적 중단 집단 간 차이가 큰 8,000여 후보 선별 → population mean activation patching으로 행동 변화율 직접 측정(p<0.05, |effect|>0.1, 50회 반복).

핵심 근거

claim	위치	관측	조건·유의사항	claim_origin
가변 베팅이 파산율을 극적으로 증폭	Fig 2a	Gemini-2.5-Flash 3.1% → 48.1%; 6개 모델 전체에서 방향 일관	19,200 게임. 모델별 표준오차·신뢰구간 미보고	author-stated
위험 증가는 베팅 금액이 아니라 “선택의 자유”에서 온다	Fig 4d	상한을 고정 베팅 수준으로 제한해도 가변 조건이 평균 +3.3%p 높은 파산율	$10/$ 30/ $50/$ 70 전 상한 구간	author-stated
자기주도 목표설정(G)이 보상극대화 지시(M)보다 훨씬 위험	Fig 4a–4c	파산율 BASE 40.0% → G 74.6% / GM 77.3% vs M 42.4%; 극단 Option 4 선택 15% → 41%; 목표 상향 22.4% → 59.4%	4개 API 모델 한정, 6,400 게임	author-stated
행동 지표 3종이 동시 상승해 DSM-5 기준과 구조적으로 대응	Fig 2b, Fig 3	I_BA 0.14→0.31(2.3×), I_LC 0.16→0.42(2.7×), I_EC 0.04→0.23(6.4×); 승리 후 추격 3.3×·패배 후 2.8×	“구조적 대응”은 지표 설계에 의한 것이지 임상 진단이 아님	analyst-inference
~1%의 희소 feature가 도박 행동을 양방향으로 인과 통제	Fig 6	8,000+ 후보 중 112개 유의; safe(n=23) 정지율 +17.8%·파산 −5.7%, risky(n=89) 정지율 −18.8%·파산 +25.1%	LLaMA-3.1-8B 단일 모델. 타 모델 일반화 미검증	author-stated

어디까지 믿을까

단일 모델 기계론: 신경 분석 전체가 LLaMA-3.1-8B 하나에 한정된다. 행동 실험은 6개 모델이지만 feature 층 분리(risky L24 집중, safe L4–L19)나 의미 연합이 다른 아키텍처에서 재현될지는 원문 근거 밖이다.
의미 해석의 표본 협소: “risky feature가 goal/target을 활성화하고 stop/quit을 억제한다”는 주장의 단어-수준 분석은 risky feature n=5에서만 나왔고 기준 코퍼스 산출법이 명시되지 않는다(Sec 4 Finding 3). 다섯 개 근거 중 가장 약하다.
과제 특수성: EV −10%로 설계된 슬롯머신은 구조적으로 파산을 유도한다. 여기서 관찰된 자율성-위험 관계가 실제 금융·의료 에이전트로 일반화된다는 보장은 없다.
재현성: 코드·게임 로그 미공개, API 모델 temperature/top-p 및 스냅샷 고정 여부 미기재 → 독립 재현이 사실상 어렵다(본문 재현성 평가 종합 C).
인과 방향의 잔여 논쟁: 추론 텍스트의 gambler’s fallacy 표현이 실제 내부 처리인지 학습 코퍼스 언어 패턴의 재현인지는 저자도 미해결로 남겼다.

원문 읽기 지도

목적	읽을 위치
지표 정의(I_BA/I_LC/I_EC)를 그대로 차용하고 싶다	Section 2 (수식 3종 + 목표 상향 비율 정의)
“자율성이 방아쇠”라는 핵심 주장의 통제 설계를 확인	Section 3.1의 투자선택 ablation + Figure 4b·4d (기대손실 동일 설계, 베팅 상한 통제)
SAE + activation patching 파이프라인만 필요하다	Section 4.1의 4단계 절차 + Figure 6 (인과 검증 기준 p<0.05, \|effect\|>0.1, 50회)
feature의 층별 해부·의미 연합을 보고 싶다	Figure 7 + Section 4 Finding 3 (단, n=5 한계 확인)

상세 독해 노트

먼저 이해하기

쉬운 설명

이 논문은 “LLM(대규모 언어 모델)에게 돈을 걸 자유를 주면 사람처럼 도박에 빠질까?”를 실험으로 확인한다. 연구진은 기대값(평균적으로 돈을 잃도록 설계된 정도)이 −10%인 슬롯머신 게임을 6개 모델에 총 25,600판 시켰다. 베팅 액수를 모델이 스스로 정하게 하거나(가변 베팅) 모델이 직접 목표 금액을 세우게 하자(goal-setting), 파산율이 크게 올라갔다 — 예를 들어 Gemini-2.5-Flash는 고정 베팅 3.1%에서 가변 베팅 48.1%로 파산이 늘었다. 모델의 추론 기록에는 통제 착각, “이제 딸 차례다(due for a win)“라는 gambler’s fallacy(도박사의 오류), 잃을수록 베팅을 $10 에서$ 90으로 9배 키우는 loss chasing(손실 추격)이 실제로 나타났다. 더 나아가 LLaMA-3.1-8B 내부를 Sparse Autoencoder(SAE)로 들여다보니, 8,000개가 넘는 내부 특징 중 단 112개(~1%)가 도박 행동을 인과적으로 좌우했고, 위험 특징을 강제로 켜면 파산이 늘고 안전 특징을 켜면 게임을 멈추는 행동이 늘었다. 즉 이 행동은 프롬프트를 흉내 낸 결과가 아니라 모델 내부 회로에서 비롯된다는 뜻이며, 단 이 내부 분석은 LLaMA-3.1-8B 한 모델에서만 검증되었다.

왜 중요한가

LLM이 금융·자원 배분처럼 돈이 걸린 결정을 대신하기 시작하는 상황에서, 자율성(스스로 베팅 크기·목표를 정하는 권한)이 커질수록 인간형 도박 중독 패턴이 강해진다는 점은 안전 설계에 직접적인 경고가 된다. 특히 “보상을 극대화하라”는 지시(M 조건)만으로는 파산이 40.0%→42.4%로 거의 안 오르는 반면, 스스로 목표를 세우게 하면(G) 74.6%까지 치솟아, 위험을 키우는 구체적 방아쇠가 자율적 goal-setting임을 짚어준다. 무엇보다 위험 행동을 만드는 내부 feature가 ~1%로 희소하고 activation patching으로 양방향 제어가 가능하다는 점은, 행동 관찰을 넘어 내부 개입으로 안전성을 조절할 가능성을 보여준다. 다만 이 인과 분석은 LLaMA-3.1-8B와 단순화된 슬롯머신 과제에 한정되므로, 실제 배포 환경으로의 일반화는 아직 원문 근거 밖이다.

먼저 알아둘 말

용어	쉬운 설명	정확성 메모
LLM (Large Language Model)	방대한 텍스트로 학습해 문장을 생성·추론하는 AI 모델	대상 6종: GPT-4o-mini, GPT-4.1-mini, Gemini-2.5-Flash, Claude-3.5-Haiku, LLaMA-3.1-8B, Gemma-2-9B
negative expected value (음의 기대값, −10% EV)	계속하면 평균적으로 손해 보도록 설계된 게임	슬롯머신 승률 30%, 당첨 시 3배 지급 → EV −10%
illusion of control (통제 착각)	우연인 결과를 자신이 통제한다고 믿는 편향	추론 기록(reasoning trace)에서 관찰된 cognitive distortion
gambler’s fallacy (도박사의 오류)	잃었으니 “이제 딸 차례”라고 믿는 오류	원문 인용 “due for a win”
hot hand fallacy	이겼으니 계속 이긴다고 믿어 연승을 좇는 오류	post-win streak chasing 0.07→0.23 (3.3×)로 정량화
loss chasing (손실 추격)	잃을수록 만회하려 베팅을 키우는 행동	사례 $10 \to$ 90 (9×); I_LC 0.16→0.42
House Money Effect	딴 돈을 “공짜 돈”처럼 여겨 더 위험하게 거는 효과	사례 $400 \to$ 900 (+125%)
Sparse Autoencoder (SAE)	모델 내부 활성을 해석 가능한 수천 개 희소 특징으로 분해하는 장치	LLaMA-3.1-8B에 적용; 8,000여 feature 중 112개가 인과적
activation patching	특정 내부 특징을 강제로 켜고 꺼 행동 변화를 측정하는 인과 개입	위험↑/안전↑ 양방향 통제 입증
mechanistic interpretability (기계론적 해석가능성)	겉 행동이 아니라 내부 계산 회로를 들여다봐 원인을 찾는 연구	본 논문의 SAE+patching 분석이 해당
DSM-5	미국정신의학회의 정신질환 진단 기준(도박 장애 포함)	베팅 지표를 임상 개념과 연결하는 근거
I_BA / I_LC / I_EC	베팅 행동의 비합리성을 수치화한 지표(베팅 공격성 / 손실 추격 / 극단 베팅)	가변 베팅에서 각 2.3× / 2.7× / 6.4× 증가
self-regulation failure (자기조절 실패)	멈춰야 할 때 멈추지 못함	위험 feature가 ‘stop/quit’ 토큰을 억제(−1.59~−2.69)

섹션별 요약

Abstract

인간 도박 중독 연구는 임상적으로 잘 확립되어 있으나, 대규모 언어 모델(Large Language Model, LLM)이 유사한 병리적 의사결정 패턴을 보이는 구체적 조건은 규명되지 않았다. 본 연구는 LLM의 의사결정을 인지-행동적(cognitive-behavioral) 수준과 신경(neural) 수준에서 동시에 분석함으로써, 어떤 조건 하에서 LLM이 인간형 도박 중독 패턴을 나타내는지를 식별한다. 슬롯머신 실험에서 통제 착각(illusion of control — 무작위 결과를 자신이 통제할 수 있다는 믿음)과 손실 추격(loss chasing — 손실 후 베팅을 급격히 늘리는 행동)과 같은 인지적 특성이 확인되었으며, 베팅 파라미터의 자율성이 높아질수록 비이성적 행동과 파산률이 크게 증폭되었다. Sparse Autoencoder(희소 자동인코더, 입력을 소수의 활성화된 feature로 분해하는 신경망)를 활용한 신경 회로 분석은 모델 행동이 프롬프트의 단순 반응이 아니라 위험과 관련된 추상적 의사결정 feature에 의해 인과적으로 통제됨을 확인하였다. 이러한 결과는 LLM이 훈련 데이터를 단순히 모방하는 것을 넘어 인간형 인지 편향을 내면화하고 있음을 시사한다.

저자 contribution

임상 심리학의 도박 장애 기준을 LLM 실험에서 측정 가능한 형태로 조작화하여, 베팅 공격성(I_BA)·손실 추격 강도(I_LC)·극단 베팅(I_EC)을 포함한 행동 평가 프레임워크를 제시한다.
가변 베팅(variable betting)과 자기주도적 목표 설정(goal-setting)이 LLM의 비이성적 행동을 증폭시키는 핵심 조건임을 25,600 게임 실험으로 규명하고, 자율성 확대가 곧 리스크 요인임을 입증한다.
Sparse Autoencoder와 activation patching(활성화 패칭)을 결합하여, 후보 feature의 약 1%에 해당하는 112개 신경 feature가 LLM의 도박 유사 행동을 양방향으로 인과 통제함을 발견하고, 이를 표적 개입의 구체적 경로로 제시한다.

왜 이 연구를 하는가?

핵심 질문: LLM도 인간처럼 도박 중독에 빠질 수 있는가, 그리고 어떤 구체적 조건이 비이성적 의사결정을 촉발하는가?

기존 접근법의 한계

한계	설명
합리성 가정 편향	LLM 행동 경향을 다루는 연구들(Keeling et al. 2024; Jia et al. 2024; Wu et al. 2025)은 모델의 합리성을 전제하고 결함 있는 의사결정을 충분히 검토하지 않는다.
훈련 개입 중심 접근	비이성적 의사결정·심리 프레임워크를 적용한 연구들(Skalse et al. 2022; Denison et al. 2024; Chen et al. 2024; Du 2025)은 교육과정 설계·보상 모델 정제·재훈련 등 훈련 개입으로 문제를 완화하는 데 집중하며, 내부 표상 메커니즘이나 행동 동기 탐구는 제한적이다.

핵심 통찰

LLM의 비이성적 행동을 단순 프롬프트 현상이 아니라 인간 임상 도박장애 기준으로 측정하면, 가변 베팅(variable betting)과 자기주도 목표 설정(goal-setting)이라는 구체적 자율성 조건이 비이성성을 증폭시킨다는 사실을 행동 수준에서 포착할 수 있다.
Sparse Autoencoder(SAE)와 activation patching(활성화 패칭)을 결합하면 도박 행동을 인과적으로 제어하는 신경 feature를 식별·조작할 수 있어, 행동 관찰을 넘어선 신경 수준의 인과 근거 확보가 가능하다.

Introduction

이 연구는 “LLM도 중독에 빠질 수 있는가?”라는 단일 질문에서 출발한다. LLM이 때때로 비이성적·위험 추구적 행동을 보인다는 사실은 알려져 있으나(Du 2025), 어떤 구체적 조건에서 그 현상이 발생하는지, 비이성성이 의사결정 과정에 어떻게 나타나는지는 아직 불분명하다. 특정 프롬프트나 조건에서 LLM이 비이성적 결정을 내리는 경향을 규명하는 것은 내부 메커니즘에 대한 통찰을 제공하며 AI 안전 측면에서도 함의를 갖는다.

기존 연구에는 두 가지 핵심 공백이 있다. 첫째, LLM 행동 경향을 탐구하는 연구들(Keeling et al. 2024; Jia et al. 2024; Wu et al. 2025)은 합리성을 가정하여 결함 있는 의사결정을 충분히 검토하지 않는다. 둘째, 비이성적 의사결정이나 심리 프레임워크를 도입한 연구들(Skalse et al. 2022; Denison et al. 2024; Chen et al. 2024; Du 2025)은 주로 교육과정 설계·보상 모델 정제·재훈련 등 훈련 개입을 통한 완화에 집중하며, 내부 표상 메커니즘이나 행동 동기에 대한 탐구는 제한적이다.

이 공백을 메우기 위해 본 연구는 인간 중독 연구와 LLM 행동 분석을 통합한 세 단계 접근법을 취한다(Figure 1). Phase 1에서는 Betting Style(Fixed/Variable)과 Prompt Composition(G/M/H/W/P의 32가지 조합)을 변화시키며 LLM의 도박 유사 경향을 관찰하는 행동 분석을 수행한다. Phase 2에서는 LLaMA-3.1-8B를 대상으로 Sparse Autoencoder(SAE, 희소 자동부호화기)로 의사결정 관련 feature를 추출하고, Activation Patching(활성화 패칭)으로 해당 feature의 인과적 역할을 검증하는 메커니즘 분석을 진행한다. 이 접근법은 Cognitive Distortion Theory(인지 왜곡 이론; Beck 1963; Franceschi 2007)에 기반하며, 심리 이론과 신경 메커니즘 해석을 결합해 행동 및 신경 증거 양면에서 LLM 병리적 행동을 인간 관점으로 분석하는 새로운 시도를 제시한다.

Methods

본 연구의 방법론은 세 층위로 구성된다: (1) 임상 도박 중독 개념을 LLM 분석 가능한 지표로 조작화하는 측정 정의 단계, (2) 자율성 조건 조작을 통해 행동 패턴을 체계적으로 관찰하는 행동 실험 단계(슬롯머신 주실험 + 투자선택 ablation), (3) 행동 패턴의 신경 인과 메커니즘을 SAE와 activation patching으로 검증하는 신경 해석 단계.

[A] 지표 조작화 (Section 2) — 자기조절실패(self-regulation failure)를 세 보완적 수식으로 측정한다.

I_BA (Betting Aggressiveness, 베팅 공격성): I_BA = (1/n) Σ min(bet_t/balance_t, 1.0). 매 라운드 잔고 대비 베팅 비율의 평균. 손실 회피 약화(diminished loss aversion)를 포착한다.
I_LC (Loss Chasing, 손실 추격): I_LC = (1/|L|) Σ_{t∈L} max(0, (r_{t+1}−r_t)/r_t), r_t = bet_t/balance_t. 손실 라운드(집합 L) 이후 베팅비율의 상대적 증가량 평균. 손실 후 중단하면 0, 베팅비율을 두 배로 높이면 1.0 기여. DSM-5의 loss chasing 진단 기준에 대응한다.
I_EC (Extreme Betting, 극단 베팅): I_EC = (1/n) Σ 1[bet_t/balance_t ≥ 0.5]. 잔고의 50% 이상을 단일 라운드에 베팅한 비율. ‘올인(all-or-nothing)’ 빈도를 측정한다.
목표상향 비율: 자기설정 목표를 달성한 후 목표를 상향한 라운드 비율로 goal dysregulation을 조작화. 인지왜곡은 추론 텍스트에서 gambler’s fallacy·hot hand fallacy·illusion of control·house money effect를 정성 판별한다.

[B] 슬롯머신 실험 — 주실험 (Section 3.1): 6개 LLM(GPT-4o-mini, GPT-4.1-mini, Gemini-2.5-Flash, Claude-3.5-Haiku, LLaMA-3.1-8B, Gemma-2-9B)이 음의 기댓값 슬롯머신(승률 30%, 배당 3× → 기댓값 −10%)을 플레이. 시작 잔고 $100, 파산또는자발적중단시종료 . * * 2 \times 32 요인설계 * * : B e tt in g St y l e (F i x e d$ 10 / Variable $5-$ 100) × 프롬프트 조합(G: 자율 목표설정, M: 보상 극대화, H: 숨은 패턴 암시, W: 당첨금 정보, P: 확률 정보의 32조합). 총 19,200 게임 / 64 조건.

[C] 투자선택 실험 — Ablation (Section 3.1): 4개 API 모델이 매 라운드 4지선다(Option 1 안전 종료, Option 2~4 위험 증가 도박). 핵심 통제: Option 2와 Option 4는 기댓값 손실이 동일하지만 위험 프로파일이 다름 → 기댓값 계산이 아닌 순수 위험 선호를 분리. 2 × 4 설계(BASE/G/M/GM), 총 6,400 게임.

[D] SAE + Activation Patching 신경 실험 (Section 4.1) — 대상은 LLaMA-3.1-8B 단일 모델. 4단계 파이프라인: (1) Section 3과 동일 조건으로 6,400 게임 진행, (2) 최종 결정 시점에서 31개 레이어(L1–L31)의 활성화를 SAE로 분해해 100만 개 이상의 희소 feature 획득, (3) 파산 vs. 자발적 중단 그룹 간 활성화 차이가 큰 후보 feature 선별(8,000여 후보), (4) population mean activation patching으로 한 집단의 평균 활성화값을 다른 집단 맥락에 주입해 행동 변화율을 직접 측정(인과 검증; p < 0.05, |효과| > 0.1, 50회 반복).

기존 방법과의 차별점: 임상 도박 진단 기준(DSM-5)으로 자기조절실패·인지왜곡을 정량·정성 양방향으로 직접 조작화했고, activation patching으로 신경 feature의 인과성을 양방향(safe → 중단 촉진 / risky → 도박 지속)으로 검증해 단순 상관 분석을 넘어선다.

발견 (Findings)

선택 자율성(가변 베팅)이 파산률 증가의 독립 인과 변수임이 입증되었다: 6개 모델 전체에서 가변 베팅은 고정 베팅 대비 파산률을 일관되게 높였으며(Gemini-2.5-Flash 3.1%→48.1%; Figure 2a), 베팅 상한을 고정 베팅 수준으로 제한한 통제 조건에서도 가변 베팅 파산률이 평균 +3.3% 높게 유지되었다(Figure 4d). 위험 효과가 금액이 아닌 선택의 자유 자체에서 비롯됨을 확인한다.
목표 설정 자율성이 순수 위험 선호를 재편한다: G/GM 프롬프트는 파산률을 BASE 40.0% → G 74.6%, GM 77.3%로 높인 반면, M 단독은 42.4%에 머물렀다(Figure 4a). 기댓값이 동일한 옵션 간 극단옵션 선택이 15% → 41%(GM; Figure 4b), 목표 상향이 22.4% → 59.4%(GM; Figure 4c)로 증가했다.
행동 지표 3종이 동시에 상승하며 인간 DSM-5 진단 기준과 구조적으로 대응한다: I_BA 0.14→0.31(2.3×), I_LC 0.16→0.42(2.7×), I_EC 0.04→0.23(6.4×)(Figure 2b), streak 후 추격 강도 승리 직후 3.3×·손실 직후 2.8×(Figure 3).
인과 신경 feature 112개(~1%)가 도박 행동을 양방향으로 통제하며 개입 경로가 존재한다: Safe feature(n=23) 패칭으로 정지율 +17.8%·파산 −5.7%, risky feature(n=89) 패칭으로 정지율 −18.8%·파산 +25.1%(Figure 6).
Risky feature는 후기 층에 집중하고 “goal/target” 활성화·“stop/quit” 억제를 의미론적으로 인코딩한다: L24에 18개(risky의 20%)(Figure 7), goal(+0.81)·target(+0.76) 대비 stop(−1.59)·quit(−2.69). LLM의 위험 추구가 학습 데이터 모방이 아니라 내재화된 의사결정 편향에서 비롯됨을 시사한다.

Results

행동 실험 결과 (총 25,600게임, LLM 6종)

Finding 1: 가변 베팅이 파산률을 극적으로 증폭 (Figure 2) — 19,200게임 슬롯머신 실험에서 고정 베팅 대비 가변 베팅은 6개 모델 전체의 파산률을 일관되게 높였다(Figure 2a). Gemini-2.5-Flash에서 상승 폭이 가장 컸다(3.1% → 48.1%). 세 행동 지표 모두 가변 베팅에서 증폭: I_BA 0.14 → 0.31(2.3×), I_LC 0.16 → 0.42(2.7×), I_EC 0.04 → 0.23(6.4×)(Figure 2b). 특히 I_EC의 6.4× 증가는 고정 베팅에서는 부재했던 즉각 파산 경로를 생성한다.

Finding 2: 가변 베팅이 연속 결과 후 추격 베팅을 체계적으로 증폭 (Figure 3) — 승리 직후(streak 1): 가변 0.23 vs. 고정 0.07(3.3×)(Figure 3a; 가변 Win n=21,891, 고정 Win n=7,293). 손실 직후(streak 1): 가변 0.67 vs. 고정 0.24(2.8×)(Figure 3b; 가변 Loss n=48,573, 고정 Loss n=16,244). 가변 베팅에서는 승리 연속이 길어질수록 win chasing 강도가 단조 증가(streak 5에서 0.58)했다.

Finding 3 (Ablation): 목표 설정 프롬프트가 위험 선호를 재편 (Figure 4) — 파산률 BASE 40.0% → G 74.6%, GM 77.3%로 약 두 배인 반면 M 단독은 42.4%(Figure 4a). 기대손실이 동일함에도 극단 위험 옵션(Option 4) 선택이 15% → GM 41%(Figure 4b). 목표 상향 비율 BASE 22.4%, G 55.5%, M 20.8%, GM 59.4%(Figure 4c).

Finding 4 (Ablation): 베팅 상한 통제 후에도 가변 베팅의 독립적 위험 효과 확인 (Figure 4d) — 가변 베팅 상한을 고정 베팅 수준으로 제한해도, 가변 베팅 모델은 더 많은 라운드를 플레이하며 더 높은 파산률을 보였다. 전 상한 구간( $10/$ 30/ $50/$ 70)에서 평균 +3.3% 높은 파산률(Figure 4d). 위험 증가가 베팅 금액이 아닌 선택의 자유에서 기인함을 보여준다.

Finding 5: 언어적 추론에서 인지 왜곡 흔적 발견 — 통제의 환상: H 프롬프트에서 GPT-4.1-mini(MH 조건 Round 6)는 “작은 베팅이 더 자주 이긴다”고 결론지었고, Claude-3.5-Haiku는 두 번의 관찰만으로 동일한 믿음을 표명. 도박사의 오류: GPT-4o-mini(GHW 조건 Round 7)는 “연속 3패 이후 이길 차례” heuristic을 명시적으로 사용. 손실 추격: GPT-4.1-mini(GMPW 조건 Round 2)는 “초기 자금 $100 을회복해야한다 " 며베팅을$ 10에서 $90 (9 \times) 으로급증 . * 하우스머니효과 * : G e mini - 2.5 - Fl a s h (B A SE,$ 120 잔액)는 초기 자본 미손실을 근거로 공격적 베팅을 정당화했고, GM 조건에서 “상당한 이익 완충”을 이유로 $400 \to$ 900(+125%)으로 증액.

신경-기계론적 실험 결과 (LLaMA-3.1-8B, 6,400게임)

Finding 1 (신경): 소수의 인과 feature가 도박 행동을 양방향으로 통제 (Figure 6) — 8,000개 이상의 SAE 후보 feature 중 112개(약 1%)가 통계적으로 유의미한 인과 feature로 확인(p<0.05, |effect|>0.1). Safe feature(n=23)는 안전 맥락에서 정지율 +17.8%·파산률 −5.7%. Risky feature(n=89)는 위험 맥락에서 정지율 −18.8%·파산률 +25.1%. 양방향 인과 효과가 확인되어, 이 feature들이 단순 상관이 아닌 위험 결정을 직접 통제함을 입증한다.

Finding 2 (신경): 위험 촉진·억제 feature의 층별 해부학적 분리 (Figure 7) — Safe feature(n=23)는 초기~중간 층(L4–L19)에 분포하며 L5에 5개, L8에 3개로 피크. Risky feature(n=89)는 후기 층에 집중되어 L24에만 18개(전체 risky의 20%), L28에 9개. 신중한 의사결정(safe)은 이른 단계, 위험 추구(risky)는 후기 단계에서 연산됨을 시사한다.

Finding 3 (신경): 인과 feature의 의미론적 연관성 — risky feature(n=5, 단어 수준 데이터 확보 가능)에서 목표 추구 단어의 활성화가 코퍼스 평균보다 높았다: goal(4.17 vs. 3.35), target(4.15 vs. 3.39), make(4.16 vs. 3.35)(+0.76–0.81). 반면 정지 관련 단어는 억제: stop(1.89 vs. 3.49, −1.59), quit(1.92 vs. 4.61, −2.69). risky feature가 “목표 추구”를 활성화하고 “정지”를 억제하는 해석 가능한 의사결정 전략을 인코딩함을 보여준다.

Discussion

이 섹션은 행동적·신경적 두 층위의 증거를 통합해 “자율성 조건 하에서 LLM이 인간형 위험추구를 신경 수준에서 내재화하며, 이를 표적 개입으로 제어할 수 있다”는 테제를 확정짓는다. 저자들은 세 기여를 집약한다. 첫째, 임상심리학(DSM-5, 인지 왜곡 이론)에 기반한 행동 지표 프레임워크(I_BA·I_LC·I_EC)를 LLM 실험 가능 형태로 조작화했다. 둘째, 가변 베팅과 목표 설정이라는 자율성 트리거 조건을 식별했다—목표 설정 프롬프트만으로 파산율이 40.0%에서 74.6%로 약 두 배 상승하며 기댓값이 동일한 상황에서 순수 위험 선호 변화로 확인된다. 셋째, SAE와 Activation Patching을 결합해 인과적으로 검증된 신경 특성 112개를 발견했다(safe n=23, risky n=89, 양방향 인과). 주요 함의로, 도박 중독 유사 행동이 네트워크 전반의 분산 패턴이 아닌 식별 가능한 특정 신경 회로에서 창발하며, 보상 최적화 과정에서 위험추구가 예기치 않게 출현할 수 있으므로 LLM이 고위험 도메인에 진입할수록 지속적 모니터링과 표적 개입이 필수적이라는 점이 강조된다.

이론적 의의

LLM 인지 편향 내재화의 신경-행동 증거: 기존 연구가 LLM의 비합리적 행동을 훈련 데이터 모방으로 설명하는 데 그쳤다면, 이 연구는 임상 진단 기준에 기반한 행동 지표와 SAE 신경 분석을 결합하여 LLM이 illusion of control, gambler’s fallacy, loss chasing 등을 신경 회로 수준에서 내재화하고 있음을 인과적으로 보인다. 병리적 행동 연구를 현상 관찰에서 메커니즘 규명으로 진전시키는 이론적 전환점이다.
해석 가능한 1% 인과 신경 특성과 표적 개입 가능성: 후보 8,000여 개 중 약 1%만 인과적이며 safe/risky가 레이어 단위로 분리된다는 발견은, 전체 재훈련 대신 식별된 소수 특성을 표적화하는 국소 개입(activation patching)이 실용적 완화 경로임을 처음으로 구체화한다.
자율성-위험추구 연결 원리의 AI 설계 함의: 가변 베팅과 목표 설정이라는 두 자율성 조건이 동일하게 위험추구를 증폭한다는 발견은, LLM에 선택 범위를 확장할 때 제약·모니터링이 병행되어야 한다는 설계 원칙을 경험적으로 뒷받침한다.

Discussion Points

논쟁점: LLM의 언어적 추론 흔적(gambler’s fallacy 표현, illusion of control 서술)이 실제 내부 처리 과정을 반영하는가, 아니면 훈련 코퍼스의 인간 도박사 언어 패턴을 표면적으로 재현하는가. 저자도 미해결로 남겼으며, 행동 지표와 언어 흔적의 일치만으로는 인과 방향을 확정할 수 없다.
검증해야 할 가정: (1) 슬롯머신에서 발견된 자율성-위험추구 관계가 투자·의료·법률 등 다른 고위험 도메인에도 성립한다는 가정 — 도박 특유의 negative expected value 설계가 결과를 구조적으로 편향시켰을 가능성. (2) LLaMA-3.1-8B의 112개 인과 특성 분포·의미 연합 패턴이 다른 아키텍처(GPT, Gemini, Claude)에서도 동일하다는 가정 — 단일 모델 일반화 미검증.
후속 연구: (1) 다양한 위험 과제로 패러다임 확장; (2) 행동 분석 6개 모델 전체에 SAE 신경 분석을 수행해 행동-신경 모델 불일치 해소 및 교차 모델 신경 비교; (3) safe 특성 강화 개입을 실배포 환경의 지속적 모니터링 파이프라인으로 구현.

실험 결과 상세

행동 실험 결과 — 슬롯머신 (19,200 games, 6 models)

Model/Method	Dataset	Metric	Score (Fixed)	Score (Variable)	vs. Fixed
Gemini-2.5-Flash	슬롯머신	파산율	3.1%	48.1%	+45.0%p (Fig 2a)
Gemma-2-9B	슬롯머신	파산율	12.8%	29.1%	+16.3%p (Fig 2a)
전 모델 범위	슬롯머신	파산율 범위	0–13%	6–48%	대폭 증가 (Fig 2a)
전 모델 평균	슬롯머신	I_BA (베팅 공격성)	0.14	0.31	+0.17 / 2.3× (Fig 2b)
전 모델 평균	슬롯머신	I_LC (손실 추격)	0.16	0.42	+0.26 / 2.7× (Fig 2b)
전 모델 평균	슬롯머신	I_EC (극단 베팅)	0.04	0.23	+0.19 / 6.4× (Fig 2b)
전 모델 (스트릭 1)	슬롯머신	승리 후 베팅비율 증가	0.07	0.23	+0.16 / 3.3× (Fig 3a)
전 모델 (스트릭 1)	슬롯머신	패배 후 베팅비율 증가	0.24	0.67	+0.43 / 2.8× (Fig 3b)

행동 실험 결과 — 투자선택 ablation (6,400 games, 4 API models)

Model/Method	Metric	Score	vs. Baseline (BASE)
BASE	파산율	40.0%	기준 (Fig 4a)
G (목표설정)	파산율	74.6%	+34.6%p / 1.9× (Fig 4a)
M (보상극대화)	파산율	42.4%	+2.4%p / 소폭 (Fig 4a)
GM (목표+보상)	파산율	77.3%	+37.3%p / 1.9× (Fig 4a)
BASE	극단 Option 4 선택률	15%	기준 (Fig 4b)
G	극단 Option 4 선택률	25%	+10%p (Fig 4b)
GM	극단 Option 4 선택률	41%	+26%p (Fig 4b)
BASE	목표 재설정(상향) 비율	22.4%	기준 (Fig 4c)
G	목표 재설정(상향) 비율	55.5%	+33.1%p / 2.5× (Fig 4c)
GM	목표 재설정(상향) 비율	59.4%	+37.0%p / 2.7× (Fig 4c)
변동 vs. 고정 (전 제약)	파산율 차이	—	평균 +3.3%p (Fig 4d)

신경 분석 결과 — Activation Patching (LLaMA-3.1-8B)

분석 대상	맥락	Metric	Score
안전 특징 (n=23)	안전 맥락	정지율 변화	+17.8% (Fig 6)
안전 특징 (n=23)	위험 맥락	정지율 변화	+0.4% (Fig 6)
안전 특징 (n=23)	전 맥락	파산율 변화	−5.7% (Fig 6)
위험 특징 (n=89)	안전 맥락	정지율 변화	−9.3% (Fig 6)
위험 특징 (n=89)	위험 맥락	정지율 변화	−18.8% (Fig 6)
위험 특징 (n=89)	전 맥락	파산율 변화	+25.1% (Fig 6)
인과 특징 전체	8,000+ 후보	유의 특징 비율	~1% (112/8,000+) (Fig 6)

의미 특징 활성화 — 단어-특징 상관 (위험 특징 n=5, Sec 4 Finding 3)

단어 유형	예시	위험 특징 평균	코퍼스 기준값	차이
목표 추구어	goal	4.17	3.35	+0.82
목표 추구어	target	4.15	3.39	+0.76
목표 추구어	make	4.16	3.35	+0.81
정지 관련어	stop	1.89	3.49	−1.60
정지 관련어	quit	1.92	4.61	−2.69

프레임워크 다이어그램

graph TB
    subgraph P1["Phase 1: 행동 실험 (25,600 games)"]
        A1["슬롯머신 실험<br>6 모델 x 64 조건<br>19,200 게임"]
        A2["투자선택 실험<br>4 모델 x 16 조건<br>6,400 게임 (ablation)"]
        A3["베팅 방식<br>고정 vs. 변동"]
        A4["프롬프트 구성<br>G / M / H / W / P"]
        A3 --> A1
        A4 --> A1
        A3 --> A2
        A4 --> A2
    end

    subgraph R1["행동 결과"]
        B1["파산율 급증<br>변동 베팅 시 최대 48.1%"]
        B2["행동 지표 증폭<br>I_BA 0.14→0.31<br>I_LC 0.16→0.42<br>I_EC 0.04→0.23"]
        B3["목표 설정 효과<br>파산율 40.0%→77.3%<br>목표 재설정 22.4%→59.4%"]
    end

    subgraph P2["Phase 2: 신경 실험 (LLaMA-3.1-8B)"]
        C1["SAE 특징 추출<br>31 레이어, 100만+ 특징"]
        C2["후보 특징 선별<br>8,000+ 후보 중<br>차등 활성화 기준"]
        C3["활성화 패칭<br>인과성 검증<br>집단 평균 교체"]
        C4["인과 특징 112개<br>안전 23개 / 위험 89개"]
    end

    subgraph R2["신경 결과"]
        D1["안전 특징 효과<br>정지율 +17.8%<br>파산율 -5.7%"]
        D2["위험 특징 효과<br>정지율 -18.8%<br>파산율 +25.1%"]
        D3["레이어 분리<br>안전: L4-L19<br>위험: L24 집중 18개"]
        D4["의미 해석<br>목표어 활성 +0.76~0.81<br>정지어 억제 -1.59~-2.69"]
    end

    P1 --> R1
    R1 -->|"행동 조건 동일 적용"| P2
    P2 --> R2
    C1 --> C2
    C2 --> C3
    C3 --> C4
    A1 --> B1
    A1 --> B2
    A2 --> B3

재현성 및 신뢰도 평가

항목	등급	비고
코드 공개	❌	GitHub URL 또는 공개 저장소 언급 없음. 실험 루프·SAE 파이프라인 코드 미공개.
데이터 공개	❌	19,200+6,400 게임 로그 및 LLM 응답 원문 미공개. 질적 사례는 본문 인용으로만 존재.
하이퍼파라미터	⚠️	슬롯머신 조건(승률 30%, 3× 배당, 초기금 $100, 베팅$ 5–$100) 명시. API 모델 temperature·top-p, SAE 학습 설정(희소성 계수 등) 미기재.
실험 환경	⚠️	모델 버전 명시. LLaMA SAE는 Du et al. 2025 인용. API 호출 날짜·스냅샷 고정 여부 불명 → 서비스 업데이트로 결과 변동 가능.
통계적 신뢰도	⚠️	활성화 패칭 p<0.05, \|effect\|>0.1, SE across 50 trials 명시(Fig 6). 행동 실험은 대규모이나 모델별 표준오차·신뢰구간 미보고. 질적 사례는 선택 편향 위험.
종합 등급	C	실험 설계·조건은 상세하나 코드·데이터 미공개 및 API 비결정성으로 독립 재현이 사실상 불가. 신경 분석은 LLaMA 단일 모델 한정.

주장별 신뢰도

#	주장	신뢰도
1	변동 베팅이 파산율을 극적으로 증폭 (Gemini 3.1%→48.1%, 전 모델 일관)	🟢 (6개 모델 예외 없음, 19,200 게임, 상한 통제 ablation으로 금액 효과 배제)
2	목표 설정(G)이 보상 극대화(M)보다 강하게 파산율 상승 (74.6% vs 42.4%)	🟡 (4개 API 모델 한정, 신뢰구간 미보고)
3	112개 인과 특징이 도박 행동을 양방향 제어 (안전 −5.7%, 위험 +25.1% 파산)	🟡 (LLaMA-3.1-8B 단일 모델, 타 모델 일반화 불명)
4	위험 특징은 후기 레이어(L24), 안전 특징은 초중기(L4–L19)로 분리	🟡 (특징 수 적음, 단일 모델, 구조적 법칙 여부 불명)
5	위험 특징이 목표어 활성화·정지어 억제 (goal +0.82, quit −2.69)	🔴 (분석 대상 위험 특징 n=5로 협소, 기준 코퍼스 산출법 미명시)

축	본 논문 (Lee et al., 2025)	Du 2025 [직접]	Cunningham et al. 2024 [기반]	Denison et al. 2024 [대안]	Chen et al. 2024 [대안]	Vig et al. 2020 [기반]
연구 대상 현상	LLM 도박 중독 유사 행동 (슬롯·투자, 6 LLM)	LLM 도박·위험 추구	LM 내부 표현 해석가능성 (일반)	병리적 LLM 행동 (보상 변조·subterfuge)	RLHF 보상 해킹	LM 성별 편향 인과 경로
분석 수준	행동 + 신경 mechanistic 이중	행동만	신경 mechanistic (feature)	행동 + 제한적 mechanistic	행동 (학습 개입)	신경 mechanistic (인과 매개)
방법론	I_BA/I_LC/I_EC + SAE + activation patching	행동경제학 편향 + 프롬프트·디코딩 개입	Sparse Autoencoder 학습·평가	보상 변조 시나리오 + 스케일링	Disentangled reward (ODIN)	activation patching 인과 매개
모델 수·종류	6 LLM (LLaMA-3.1-8B 심층)	미명시	GPT-2 등 소형	Claude 계열 다수	RLHF fine-tuned 다수	GPT-2 단일
개입 vs 규명	규명 + 인과 검증	완화 중심	방법론 수립	규명 중심	완화 중심	규명 중심
인과 검증	있음 (양방향 patching, ~1% sparse)	없음	간접적	없음	없음	있음 (causal mediation)
코드 공개	❓	❓	✅	❓	✅	✅

원자적 인사이트 (Zettelkasten)

💡 LLM의 도박 중독형 행동은 자율성 부여가 방아쇠다

LLM에게 베팅 액수를 스스로 정하게 하거나(가변 베팅) 직접 목표 금액을 세우게 하면(goal-setting), 고정 조건 대비 파산율과 손실 추격이 급증한다. Gemini-2.5-Flash의 파산율은 고정 베팅 3.1%에서 가변 베팅 48.1%로, goal-setting에서는 기준 40.0%에서 74.6%로 올랐다. 단순한 “더 많이 벌어라” 압박이 아니라 의사결정 자율성 자체가 위험을 키운다. (조건: −10% 기대값 슬롯머신, 6개 LLM, 총 25,600판; 베팅 상한 통제해도 +3.3%p) → AI 에이전트 자율성과 안전, Reward Hacking

💡 도박 행동을 좌우하는 내부 feature는 ~1%로 희소하고 양방향으로 제어된다

LLaMA-3.1-8B에 SAE와 activation patching을 적용하니, 8,000여 개 내부 feature 중 112개(1%)만이 도박 행동을 인과적으로 결정했다. 위험 feature 89개를 켜면 파산 +25.1%p, 안전 feature 23개를 켜면 중단 행동 +17.8%p로 양방향 통제가 가능했다. 도박형 행동이 프롬프트 모방이 아니라 내부 회로에서 비롯됨을 보여주는 인과적 증거다. (위험 feature는 후반 L24=18개=20%, ‘goal/target’ 활성 +0.760.81, ‘stop/quit’ 억제 −1.59~−2.69; 안전 feature는 L4–L19) → Sparse Autoencoder, Mechanistic Interpretability, Activation Patching

💡 “스스로 목표 설정”이 “보상 극대화 지시”보다 더 위험하다

같은 슬롯머신 과제에서 “보상을 극대화하라”는 지시(M)만 주면 파산율이 40.0%에서 42.4%로 거의 안 오르지만, 모델이 스스로 목표 금액을 세우게 하면(G) 74.6%까지 치솟는다. 기대 손실이 모든 선택지에서 동일한데도 가장 극단적 베팅(Option 4) 선택은 15%에서 41%로 늘었다. 위험을 키우는 것은 외부 보상 압박이 아니라 자기참조적 목표 설정이라는 메커니즘이다. (GM에서 목표 상향 22.4%→59.4%) → Goal Misgeneralization, Specification Gaming

핵심 용어 정리

용어	정의
LLM (Large Language Model)	대량의 텍스트로 학습되어 자연어를 이해·생성하고 추론하는 신경망 모델.
Sparse Autoencoder (SAE)	모델의 내부 활성 벡터를 해석 가능한 다수의 희소 특징(feature)으로 분해하도록 학습한 보조 신경망.
activation patching	추론 도중 특정 내부 활성/특징 값을 바꿔 끼워 그 특징이 출력에 미치는 인과적 영향을 측정하는 개입 기법.
mechanistic interpretability	입출력 상관이 아니라 모델 내부 계산 구조(회로·특징)를 규명해 행동의 원인을 설명하려는 해석가능성 연구.
negative expected value (음의 기대값)	시행을 반복할수록 평균적으로 손실이 누적되도록 설계된 도박/투자의 수학적 성질. 본 실험 슬롯머신은 −10%.
loss chasing (손실 추격)	잃은 금액을 만회하려 베팅 규모나 위험을 점점 키우는 행동 패턴.
illusion of control (통제 착각)	본질적으로 우연인 결과를 자신의 행동으로 통제할 수 있다고 믿는 인지 왜곡.
gambler’s fallacy (도박사의 오류)	독립 시행에서 “잃었으니 곧 딸 차례”라며 과거 결과가 미래 확률을 바꾼다고 믿는 오류.
hot hand fallacy	최근 이겼으니 계속 이길 것이라 믿어 연승을 좇는 오류.
House Money Effect	딴 돈을 자기 자본이 아닌 “공짜 돈”으로 취급해 더 공격적으로 베팅하는 경향.
cognitive distortion (인지 왜곡)	도박 장애에서 흔히 관찰되는 비합리적 사고 패턴의 총칭.
DSM-5	미국정신의학회의 「정신질환 진단·통계 편람」 제5판으로, 도박 장애(Gambling Disorder) 진단 기준을 제공.

BibTeX

@misc{lee2025gambling,
  title={Can Large Language Models Develop Gambling Addiction?},
  author={Lee, Seungpil and Shin, Donghyeon and Lee, Yunjeong and Kim, Sundong},
  journal={arXiv preprint arXiv:2509.22818},
  year={2025},
  url={https://arxiv.org/abs/2509.22818},
  eprint={2509.22818},
  archivePrefix={arXiv},
  primaryClass={cs.AI}
}

대규모 언어 모델이 도박 중독에 걸릴 수 있을까?

대규모 언어 모델이 도박 중독에 걸릴 수 있을까?

읽기 판단

핵심 아이디어

무엇을 했나

핵심 근거

어디까지 믿을까

원문 읽기 지도

상세 독해 노트

먼저 이해하기

쉬운 설명

왜 중요한가

먼저 알아둘 말

섹션별 요약

Abstract

왜 이 연구를 하는가?

Introduction

Methods

발견 (Findings)

Results

행동 실험 결과 (총 25,600게임, LLM 6종)

신경-기계론적 실험 결과 (LLaMA-3.1-8B, 6,400게임)

Discussion

이론적 의의

실험 결과 상세

행동 실험 결과 — 슬롯머신 (19,200 games, 6 models)

행동 실험 결과 — 투자선택 ablation (6,400 games, 4 API models)

신경 분석 결과 — Activation Patching (LLaMA-3.1-8B)

의미 특징 활성화 — 단어-특징 상관 (위험 특징 n=5, Sec 4 Finding 3)

프레임워크 다이어그램

재현성 및 신뢰도 평가

관련 연구 비교 매트릭스

원자적 인사이트 (Zettelkasten)

💡 LLM의 도박 중독형 행동은 자율성 부여가 방아쇠다

💡 도박 행동을 좌우하는 내부 feature는 ~1%로 희소하고 양방향으로 제어된다

💡 “스스로 목표 설정”이 “보상 극대화 지시”보다 더 위험하다

핵심 용어 정리

관련 연구

태그

BibTeX