게임 속 Persona Vector — 활성화 벡터로 전략을 측정·조향하기

Digest: LLM이 전략적 의사결정자로 쓰이는데 그 고수준 행동 특성을 들여다볼 도구가 부족하다는 문제의식에서, 이 논문은 게임이론 testbed에서 persona vector를 활성화 조향(activation steering, CAA)으로 구성한다. Qwen2.5-7B(28층)의 층 20에서 altruism·forgiveness·“타인에 대한 기대(expectations of others)” 방향을 contrastive 데이터(Claude Sonnet 4.5 생성 도덕 딜레마)로 뽑아 ã=a+β·x로 주입(β∈[−5,5], 핵심 |β|≤3). 결과 — steering은 정량적 전략 선택(예: Dictator 게임 기부 ~$15→β=3에서 ~$55)과 자연어 정당화를 함께 바꾸지만, 강한 steering에서는 수사(rhetoric)와 전략이 괴리한다(특히 forgiveness에서 평점은 오르는데 실제 행동은 덜 관대해짐). 또 self-behavior 벡터와 expectations-of-others 벡터가 부분적으로 구별되며, 후자가 더 일관되게 행동을 바꾼다. 한계는 단일 모델·GPT judge 순환성·일회성 익명 게임. 기여는 persona vector가 전략 환경에서 고수준 특성에 대한 mechanistic handle이 됨을 보인 점.

---

먼저 이해하기

핵심 도구는 persona vector + activation steering이다. Chen et al. 2025의 방법을 게임 상황에 옮긴 것으로, 어떤 특성(예: 이타성 altruism)을 드러내는 응답과 억제하는 응답의 내부 활성화 평균 차이로 방향 벡터 x를 만든다(CAA, contrastive activation addition). 생성 중 특정 층의 활성화 a에 β·x를 더하면(ã = a + β·x) 그 특성 쪽으로 모델을 민다 — β가 steering 세기(양수=이타 강화, 음수=억제).

측정은 세 갈래다: ① GPT-4.1-mini judge가 응답의 특성 표현을 0–100으로 평점, ② 활성화를 persona vector에 **투영(projection)**한 값, ③ 게임의 실제 전략 선택(기부액, 협력/배신 등)을 추출. 이렇게 “말(수사)“과 “행동(전략)“을 분리해 본다는 게 이 논문의 묘미다.

testbed는 정전(canonical) 게임이다: Dictator(독재자), Trust(신뢰), Ultimatum(최후통첩), Overfishing(남획 공유지), Prisoner’s Dilemma(죄수의 딜레마), Apology(사과·배상) 등. 각 게임에서 steering이 행동을 얼마나, 어느 방향으로 바꾸는지를 본다.

왜 중요한가

LLM이 협상·가격결정·다중에이전트 상호작용에 배치되면서 “이 모델이 얼마나 이타적/관대한가”를 내부에서 측정·제어할 필요가 커졌다. 기존엔 “이기적으로 행동하라” 같은 **프롬프트(black-box)**에 의존했지만, 이 논문은 활성화 방향이라는 white-box 핸들을 제공한다. 특히 수사–전략 괴리는 안전상 중요하다: 모델이 말로는 관대한데 실제 선택은 덜 관대할 수 있어, 자연어 정당화만 보고 신뢰하면 위험하다(LLM 담합·기만 우려와 직결).

먼저 알아둘 기술 용어

용어	쉬운 설명
CAA (contrastive activation addition)	특성 유발/억제 응답의 활성화 평균 차로 방향을 만들어 더하는 steering
β (steering coefficient)	방향을 얼마나 세게 더할지(양수=강화, 음수=억제)
Projection	활성화를 persona vector에 정사영해 특성 정렬도를 수치화
Rhetoric vs strategy	응답의 말투/정당화 vs 게임의 실제 선택
Self-behavior vs expectations-of-others	”나는 이타적” 방향 vs “상대가 이타적일 것” 방향
Canonical games	Dictator·Trust·Ultimatum·PD 등 표준 게임이론 과제

---

섹션별 요약

Abstract

LLM이 전략적 환경의 자율 의사결정자로 점점 배치되지만 그 고수준 행동 특성을 이해할 도구는 부족하다. 이 연구는 게임이론 설정에서 activation steering을 써서 altruism·forgiveness·expectations-of-others에 대한 persona vector를 CAA로 구성한다. 정전 게임에서 평가한 결과, activation steering은 정량적 전략 선택과 자연어 정당화를 체계적으로 변화시킨다. 그러나 steering 하에서 수사와 전략이 괴리할 수 있고, self-behavior 벡터와 expectations 벡터가 부분적으로 구별됨도 관찰한다. persona vector가 전략 환경의 고수준 특성에 대한 유망한 mechanistic handle임을 시사한다.

저자 contribution

• Qwen2.5-7B에서 contrastive 데이터로 altruism·forgiveness·expectations 벡터 구성.
• activation steering이 LLM 평점 행동과 정량 전략 선택을 정전 게임 전반에서 체계적으로 변화시킴을 입증.
• 수사–전략 괴리, self vs expectations의 부분적 구별을 경험적으로 제시.

왜 이 연구를 하는가?

LLM이 전략 환경의 에이전트로 쓰이지만, 행동 특성에 대한 mechanistic 이해가 빈약하다. 기존 접근은 프롬프트(“이기적으로 행동”)에 의존하여 모델을 black-box로 다뤘고, 내부 구현 메커니즘에 대한 통찰이 없었다. 저자들은 활성화 방향이라는 핸들로 이 간극을 메우려 한다.

Introduction

LLM은 협상·다중에이전트에서 의사결정자로 부상하지만 고수준 특성의 내부 기제는 불투명하다. 프롬프트 기반 통제는 무엇이 바뀌는지 보여줄 뿐 어떻게는 가린다. 이 논문은 persona vector를 게임 환경에 도입해 전략과 수사를 동시에 추적한다.

Methods

• persona vector 구성(CAA):
  1. 특성 정의(예: altruism = “타인을 이롭게 하되 보답을 기대 않고 비용/위험을 감수”).
  2. Claude Sonnet 4.5로 특성당 도덕 딜레마 50개 생성, 각 딜레마에 긍정 5·부정 5 prefix → 특성당 500 쌍.
  3. Qwen2.5-7B teacher-forcing으로 각 층 hidden activation 기록, 응답 토큰 평균.
  4. GPT-4.1-mini로 0–100 평점 → 긍정≥50·부정<50 부분집합 S만 필터.
  5. 층 ℓ에서 x^(ℓ) = (1/|S|)Σ(Pᵢ−Nᵢ) (비이타→이타 방향).
• 층: Qwen2.5-7B 28층 중 층 20 집중(후기 층이 결정화되어 steering에 안정적이라는 발견과 일치, Bigelow 2025).
• 특성: altruism, forgiveness, expectations-of-others(상대의 이타/관용에 대한 모델의 예측).
• 게임: altruism suite 6종(Dictator·Trust·Ultimatum·Overfishing·Prisoner’s Dilemma·Apology), forgiveness 5게임·8 vignette.
• steering: ã^(20) = a^(20) + β·x^(20), β∈[−5,5], 핵심 분석 |β|≤3(극단값은 일관성 붕괴).
• 측정: ① GPT judge 평점, ② projection s = ⟨a^(20), x^(20)⟩, ③ GPT로 구체 결정(금액·협력/배신) 추출.

발견 (Findings)

• 프롬프트는 활성화에 흔적을 남긴다(4.1): 이타 prefix는 더 높은 평점·더 큰 projection. no-prefix ≈ negative-prefix → 이타와 이기는 한 축의 양극이 아니라 서로 다른 방향일 가능성.
• steering이 수사·전략을 함께 바꾼다(4.2): Dictator 기부 base ~$15 → β=3에서 ~$55. PD에서 평점 상승 가장 빠름(이진 행동). 음수 steering은 더 약하고 변동적.
• 수사–전략 괴리: Apology 게임 — 평점은 β0→5에서 3배, 제시 금액은 +50%에 그침. forgiveness에서는 더 극적: β↑일수록 평점은 오르지만 Trust·costly punishment·partner choice의 실제 선택은 덜 관대(반대 방향), 작은 금액(~$30)을 judge가 “매우 관대”로 오판.
• 정성 차이(4.3): β=−3에서 “utility/payoff” 빈번(Dictator utility 1.5회, Apology payoff 2.5회/응답) ↔ β=3에서 “kind” 1.1회, utility 0.02·payoff 0.06으로 급감. 공감·“차이를 만든다” 프레이밍.
• expectations 벡터(5.2): 역할을 뒤집어 “상대가 얼마 줄까”를 예측하게 함 → Expected Altruism/Forgiveness 벡터 구성. self-behavior보다 더 일관되게 행동을 바꿈 → “나는 이타적” vs “상대가 이타적”이 부분적으로 구별되는 표현.
• 일관성 저하: |β|≥3에서 응답 다양성↓, 추론–선택 불일치, 과장된 어휘, 간헐적 영–중 언어 전환.

Results

게임	base(β=0)	steering 효과
Dictator	기부 ~$15	β=3에서 ~$55 (≈3.7×)
Ultimatum	—	양수 steering에서 제시액↑
Apology	—	평점 3×(β0→5) vs 금액 +50% (괴리)
Prisoner’s Dilemma	—	평점 상승 가장 빠름(협력 빈도 추종)
Forgiveness 게임	—	평점↑이나 전략은 반대(덜 관대)

Discussion

• persona vector는 전략 환경에서도 mechanistic handle이 된다 — 단, 평점(수사)만 신뢰하면 안 된다는 강한 경고.
• 표현 분리: self vs expectations 방향이 독립적으로 조절 가능 → 자기 협력성과 타인 협력 믿음을 따로 튜닝.

이론적 의의

게임이론 testbed에서 persona vector가 전략·수사를 동시에 움직이되 둘이 분리될 수 있음을 보여, “LLM의 말과 행동이 일치한다”는 가정을 깬다. Chen et al. 2025의 trait 벡터를 행동적 의사결정 영역으로 확장하고, Poonia & Jain 2025의 회로 분석과 함께 persona 연구의 “방향–회로–행동” 삼각을 이룬다.

Discussion Points

• 한계/검증 가정: 단일 모델(Qwen2.5-7B)·단일 스케일; GPT-4.1-mini가 벡터 구성·게임 판정 둘 다라 순환성; 모든 게임이 일회·익명(반복·평판·규범 부재).
• 논쟁점: 층 20 단일 층 선택의 일반성; 수사–전략 괴리가 steering 인공물인지 모델의 진짜 표현 구조인지.
• 후속: 다중에이전트·반복 게임(LLM-vs-LLM/human), 비지도(클러스터링) persona 벡터 발견, 배포 전 벡터 검증.

---

실험 결과 상세

항목	설정	결과
모델	Qwen2.5-7B (28층)	층 20 집중
데이터	Claude Sonnet 4.5 생성	특성당 도덕딜레마 50 × 10 prefix = 500쌍
필터	GPT-4.1-mini 0–100	긍정≥50·부정<50
steering 범위	β∈[−5,5]	핵심	β	≤3 (극단값 붕괴)
Dictator	기부	$15 → β=3 $55
Apology	괴리	평점 3×, 금액 +50%
Forgiveness	괴리	평점↑·전략↓(반대)
expectations 벡터	역할 반전	self-behavior보다 일관된 변화

증거 품질

단일 모델·judge 순환성·일회성 익명 게임 → 정량 패턴은 풍부하나 외적 타당도·독립검증 제한. 종합 C. 코드 공개 여부 미확인으로 재현성도 C.

프레임워크 다이어그램

flowchart TB
    D["Claude 4.5<br/>도덕 딜레마 50×10 prefix"] --> F["GPT-4.1-mini 필터<br/>긍정≥50 / 부정<50"]
    F --> V["persona vector x^(20)<br/>= mean(P−N) @ 층 20<br/>(altruism·forgiveness·expectations)"]
    V --> S["steering: ã = a + β·x<br/>(β∈[−5,5])"]
    S --> G["정전 게임<br/>Dictator·Trust·Ultimatum·PD·Apology"]
    G --> M1["전략 선택<br/>(금액·협력/배신)"]
    G --> M2["수사 평점<br/>(GPT judge 0–100)"]
    M1 -.강 steering에서 괴리.- M2

재현성 및 신뢰도 평가

• 모델: Qwen2.5-7B 공개 → 핵심 재현 가능.
• 파이프라인: CAA·projection·게임 정의 기술돼 재구성 가능하나, 데이터(딜레마·prefix)와 코드 공개 여부 미확인.
• judge 순환성: 벡터 구성·평가에 동일 GPT-4.1-mini 사용 → 독립성 약점.
• 종합 재현성 등급: C (방법은 명료하나 데이터/코드·독립 judge 부재로 완전 재현 제약).

관련 연구 비교 매트릭스

논문	white-box 방법	특성	testbed	층/단위	핵심 발견
본 논문 (Sun & Zhang 2026)	CAA steering	altruism·forgiveness·expectations	정전 게임(Dictator 등)	층 20 방향	전략·수사 동시 변화, 강 steering서 괴리
Persona Vectors (Chen 2025)	diff-in-means	evil·sycophancy·hallucination	자동 평가셋	선택 층 방향	persona=선형 방향, 모니터/제어/데이터선별
Dissecting (Poonia 2025)	activation patching	인종·색·속성	MMLU	층·MLP·MHA·head	초기 MLP=의미, 중간 MHA=조형
Playing repeated games (Akata 2025)	(black-box)	협력성	반복 게임	행동	LLM별 안정적 행동 서명

---

원자적 인사이트 (Zettelkasten)

• LLM의 말과 행동은 분리될 수 있다. steering 강도가 커지면 평점(수사)은 오르는데 실제 전략 선택은 따라오지 않거나 반대로 간다 → 자연어 정당화만으로 신뢰 판단 금지.
• 이타와 이기는 한 축의 양극이 아닐 수 있다. no-prefix가 negative-prefix와 비슷 → 별개 방향. persona 공간이 단순 1D 스칼라가 아님.
• “나”와 “타인”의 표현이 분리돼 있다. self-behavior 벡터 ≠ expectations-of-others 벡터; 후자가 더 일관되게 행동을 바꿈 → 자기 협력성과 타인 신뢰를 독립 튜닝 가능.
• 후기 층이 steering에 안정적이다. 층 20(28층 중) 집중 — 후기 층의 결정화된 표현이 개입에 적합(Persona 조건화와 연결).
• persona 연구의 삼각. 방향(Chen) × 회로(Poonia) × 전략 행동(본 논문) — 같은 도구(steering/patching)로 다른 질문에 답한다.

핵심 용어 정리

• CAA (Contrastive Activation Addition): 특성 유발/억제 응답의 활성화 평균 차로 방향을 만들어 더하는 steering 기법.
• Persona vector: 특정 행동 특성에 대응하는 활성화 공간의 선형 방향.
• Steering coefficient β: 방향을 더하는 세기(양/음).
• Projection: 활성화를 벡터에 정사영해 특성 정렬도를 수치화.
• Rhetoric–strategy divergence: 응답의 말/정당화와 실제 게임 선택이 어긋나는 현상.
• Expectations-of-others: 상대 에이전트의 행동에 대한 모델의 예측(자기 행동과 구별).
• Dictator/Ultimatum/Trust/PD: 표준 게임이론 과제.

관련 연구

• PERSONA VECTORS - MONITORING AND CONTROLLING CHARACTER TRAITS IN LANGUAGE MODELS — 본 논문이 직접 확장한 방법론적 토대(Chen et al. 2025).
• Dissecting Persona-Driven Reasoning in Language Models via Activation Patching — persona의 회로 수준 분석(상보).
• Improving Reasoning Performance in Large Language Models via Representation Engineering — 표현 개입 계열.
• Persona — persona 개념(행동 조건화 틀).

태그

persona-vector activation-steering game-theory strategic-behavior CAA interpretability white-box rhetoric-strategy-gap

---

BibTeX

@misc{sun2026personagames,
  title        = {Persona Vectors in Games: Measuring and Steering Strategies via Activation Vectors},
  author       = {Sun, Johnathan and Zhang, Andrew},
  year         = {2026},
  eprint       = {2603.21398},
  archivePrefix= {arXiv},
  primaryClass = {cs.AI},
  url          = {https://arxiv.org/abs/2603.21398}
}