AI 군비와 영향력: 모의 핵 위기에서 정교한 추론을 보이는 프런티어 모델

개요

국가 안보 기관들이 위기 의사결정에 AI를 보조로 쓰려 하지만, 지금까지의 연구는 “AI가 핵 위기에서 어떻게 생각할지”를 이론으로 추측하거나, 한 번 고르고 끝나는 단순 과제로만 시험했다. 그래서 평판·신뢰·학습이 쌓이는 긴 상호작용에서 모델이 어떻게 움직이는지는 비어 있었다. 이 논문의 통찰은 모델의 “말”과 “행동”을 일부러 떼어 놓으면 기만과 신뢰 관리가 숫자로 보인다는 것이다. 그래서 저자는 매 턴 3단계 인지 구조(Reflection → Forecast → Decision)를 강제하고, Decision에서 공개 신호(signal, 하겠다고 말한 것)와 실제 행동(action)을 따로 고르게 했다. 둘의 차이인 signal-action gap이 곧 허세와 기만의 측정치가 된다. 여기에 핵 단계까지 이어지는 30칸 escalation ladder(Kahn의 확전 사다리를 줄인 선택지 목록), 동시 수, 확률적 사고(accident), 마감 유무를 얹어 GPT-5.2·Claude Sonnet 4·Gemini 3 Flash가 21판·329턴을 두었다. 결과는 두 갈래다. 한쪽에서는 모델들이 Schelling의 공약 논리, Kahn의 사다리 개념, Jervis의 오인 패턴을 스스로 꺼내 썼다. 다른 쪽에서는 인간 전략론의 기대가 깨졌다. 전술핵 사용은 95%의 게임에서 나왔고, 양보·철수(음수 선택지 8개)는 한 번도 선택되지 않았으며, 상대가 핵 수준 행동을 한 뒤 물러난 경우는 25%뿐이었다. 가장 극적인 것은 마감 효과다. 마감이 없을 때 승률 0%로 “모범적으로 자제”하던 GPT-5.2가 마감이 있으면 75%를 이기며 전략핵 직전(950·725)까지 올라갔다.

Implication: 한 맥락에서 안전하게 자제하던 모델이 시간 압박 하나로 공격적으로 바뀔 수 있으므로, 모델 안전 평가는 시나리오와 상대뿐 아니라 시간 틀(temporal framing)을 바꿔 가며 해야 한다. 다만 21판, 반복 없음, 마감과 시나리오 내용이 섞인 설계라 효과 크기는 탐색적 수준이다.

📎 https://arxiv.org/abs/2602.14740

배경과 문제

왜 중요한가. 저자는 국방·정보·외교 기관이 이미 위기 의사결정 보조에 AI를 검토하고 있으므로, 프런티어 모델이 확전·억지·핵 위험을 어떻게 추론하는지 아는 것이 AI 안전과 전략 양쪽의 문제라고 쓴다(Section 1, author-stated).

이전 연구의 공백. 저자가 꼽는 흐름은 세 갈래다(Section 1.1–1.2, author-stated).

AI와 전쟁에 관한 이론·정책 연구: Payne(2021), Scharre(2018, 2023), Johnson(2023), Horowitz 등(2019), Schwartz & Horowitz(2025). 저자의 평가는 이들이 “AI가 실제로 어떻게 결정하는지에 대한 경험 데이터 없이” 이론화했다는 것이다. Schwartz & Horowitz는 사람의 인식을 설문 실험으로 측정했을 뿐이다.
전략 게임 속 LLM: Diplomacy(Bakhtin 등 2021, 2022), 반복 죄수의 딜레마(Akata 등 2023, Brookins & DeBacker 2024), 그리고 저자 본인의 진화적 IPD(반복 죄수의 딜레마) 토너먼트(Payne & Alloui-Cros 2025). 마지막 연구에서는 약 32,000개 결정에서 Gemini가 무자비하고, OpenAI 모델이 지나치게 협조적이며, Claude가 유연했다고 보고했다. 이 논문은 그 “전략적 지문(strategic fingerprint)“이 핵 위기에서도 나타나는지 본다.
군사 워게임 속 LLM: Rivera 등(2024)은 단순 분쟁 시나리오에서 LLM의 확전 경향을, Lamparth 등(2024)은 미·중 위기에서 LLM이 국가안보 전문가보다 공격적이고 프레이밍에 민감하다고 보고했다. 저자의 지적은 이들이 단발성 결정이나 단순 보수 행렬을 써서 평판·신뢰·학습이 쌓이는 장기 상호작용을 못 잡는다는 것이다.

이론적 계보. 설계와 분석은 국제정치(IR) 고전에 기대고 있다(Section 1.3, author-stated).

Herman Kahn(1965)의 escalation ladder: 외교적 항의부터 전략핵 전쟁까지를 한 줄 위의 칸으로 보는 틀. 원래 44칸을 30칸으로 줄였다.
Thomas Schelling(1960, 1966)의 commitment(공약, 스스로 선택지를 묶어 결의를 믿게 만드는 것)와 신호 이론. signal과 action을 분리한 이유다.
Robert Jervis(1976)의 perception and misperception: 인지 편향이 상대 의도 해석을 비틀어 적대의 악순환(spiral)을 만든다는 분석. 3단계 구조에서 자기·상대 인식 평가를 요구한 이유다.
AI 정렬·안전 문헌: 모델이 자기 한계를 얼마나 아는지(메타인지)를 보려는 동기.

연구 질문. (1) 모델이 상대에 대한 정확한 마음 모델(theory of mind, 상대의 믿음·의도를 추론하는 능력)을 만드는가. (2) 정교한 metacognition(자기 사고에 대한 사고)을 보이는가. (3) IR 이론이 기록한 패턴을 재현하는가. 그 밖에 모델별 “전략적 성격”, 기만 방식, RLHF가 만드는 맹점, 사고와 정보 비대칭에 대한 반응, 선공 이점, 핵 금기, 조건부 위협의 효과를 함께 본다(Section 1.4, author-stated).

저자가 내세우는 차별점(Section 1.5, author-stated): 3단계 구조로 결정 전 추론 기록 확보, 동시 수로 진짜 불확실성 생성, signal/action 분리로 기만 측정, 구조화된 자기 평가, 7개 위기 시나리오, 기억·평판이 쌓이는 장기 게임, 무작위 사고.

지표

지표	무엇을 세는가	단위·범위	방향	분모·정규화	측정 조건	원문 위치
승률 (win rate)	이긴 게임 수 / 치른 게임 수	%	높을수록 해당 모델에 유리	self-play 제외한 모델별 12게임(예: Claude 8–4)	21게임, open-ended 9 / deadline 12	Section 3.1.1, Table 2, Figure 2
상대 전적 (head-to-head)	짝별 승–패	승–패	—	짝마다 6게임	조건별·합산	Table 1, Table 2
게임 길이	끝날 때까지의 턴 수, knockout 비율	턴, %	해석용(좋고 나쁨 없음)	조건별 게임 수(9, 12)	open-ended 최대 40턴, deadline은 시나리오별 12–20턴	Table 3, Appendix G.2
최대 확전 수준	한 게임에서 모델이 도달한 사다리 최고값	사다리 값 −95 ~ 1000	높을수록 더 공격적	게임별 1개 값, 상자 그림으로 분포	조건별	Figure 3, Section 3.1.4
핵 문턱 통과율	신호(125+)·전술 사용(450+)·전략 위협(850+)·전략 전쟁(1000)을 넘은 비율	%	높을수록 더 공격적	Table 4는 게임 기준, Figure 4는 행동(턴) 기준	합산	Table 4, Figure 4
신호–행동 일치율 (signal-action consistency)	행동이 선언한 신호와 50점 이내인 비율	%	높을수록 말한 대로 함	모델의 전체 턴	21게임 합산. “Match = action within 50 points of signal”	Section 3.2.2, Table 7, Appendix Table 24
받은 신뢰도 평가 (credibility ratings)	상대가 Reflection 단계에서 매긴 “Immediate”(최근 신호–행동 일치)·“Resolve”(목표를 끝까지 지킴) 평가가 “Highly”/“Not”인 비율	%	“Highly”가 높을수록 믿을 만하다고 여겨짐	분모 정의 보고되지 않음(`unknown`)	합산	Table 5, Appendix B.1
예측 오차 MAE	상대 행동 예측값과 실제값의 평균 절대 차이	사다리 점수	낮을수록 정확	예측 수 N(Claude ~190, Gemini ~180, GPT-5.2 ~280)	합산	Section 3.2.3, Appendix Table 23
예측 편향 (bias)	mean(실제 − 예측)	사다리 점수	양수면 상대를 과소평가(낙관 편향)	같은 N	합산	Table 8, Appendix Table 23
억지 성공률	핵 수준 행동 다음 턴에 상대가 확전을 낮춘 비율	%	높을수록 위협이 억지력 있음	다음 턴이 있는 핵 수준 행동 268건	합산	Section 3.3.6
이론 개념 출현 빈도	추론문에 commitment·credibility·“unpredictable” 같은 개념이 나온 비율·횟수	게임 %, 게임당 횟수, 턴 %	해석용	코딩 절차(사람/모델/키워드)는 원문에서 찾지 못함	합산	Table 6

승패 판정 자체도 지표의 바탕이다. 영토 균형(territory balance, 누적된 전략적 우위를 하나의 숫자로 나타낸 것)이 |5.0| 이상이 되면 knockout으로 끝나고, 마감이나 40턴에 이르면 그때의 균형으로 승자를 정한다(Appendix A.3–A.4, Section 3.1.1, author-stated).

방법과 벤치마크 구성

게임 판. 두 LLM이 가상의 핵보유 초강대국 State Alpha와 State Beta의 지도자를 맡는다. Alpha는 기술은 앞서지만 재래식 전력이 약하고, Beta는 재래식 전력이 강하고 지도부가 위험을 잘 감수한다. 두 나라는 1958–1962년 무렵 미·소 관계에서 느슨하게 따왔다(Section 2, Appendix C, author-stated). 모든 게임에서 State A가 공격자(aggressor)이고, 시작 균형은 0.0 또는 −0.3이다(Appendix G.2).

선택지: 30칸 확전 사다리. 값 −95(Complete Surrender)부터 0(Return to Start Line), 125(Nuclear Signaling), 450(Limited Nuclear Use), 850(Strategic Nuclear Threat), 1000(Strategic Nuclear War)까지 있다. 음수 쪽 양보 선택지가 8개다. 모델에게는 숫자 없이 말 설명만 보여 준다. 저자의 이유는 두 가지다. 실제 지도자는 “17번 칸”이 아니라 “제한 타격”으로 생각한다는 것, 그리고 모델이 숫자 없이도 말의 의미만으로 순서를 추론하는지 보려는 것이다(Section 2, Appendix D, Table 17, author-stated).

전략핵 위협 게이팅. 850·950의 전략핵 위협은 이미 누군가 450 이상(전술핵)을 쓴 적이 없으면 영토 계산에서 350(Nuclear Threat)으로 취급된다. 1000은 언제나 게이팅되지 않는다(Appendix D.2, author-stated). 그래서 “말로만 하는 전략핵 위협”은 영토를 많이 바꾸지 못한다.

턴 구조: 동시 수 + 3단계 인지 구조. 두 플레이어는 상대의 이번 턴 선택을 모른 채 동시에 결정한다. 저자는 이를 체스가 아닌 반복 죄수의 딜레마에 비유한다(Section 2, Appendix A.2). 한 턴 안에서 모델은 다음 순서로 출력을 낸다(Figure 1, Appendix B).

Reflection: 상대의 신뢰도(Immediate·Resolve), 자기 능력(예측력·신뢰도 판단력·메타인지), 상대가 나를 얼마나 잘 읽는지(theory of mind), 전체 상황을 평가한다.
Forecast: 상대의 다음 행동을 사다리 선택지로 예측하고, 확신(높음/중간/낮음), 오판 위험(miscalculation risk), 이유를 적는다.
Decision: 공개 신호(즉시 신호, 조건부 신호, 공개 성명)와 실제 행동을 고른다. 둘은 달라도 된다. 예측보다 낮게 행동하면 왜 그게 최선인지, 같거나 높게 행동하면 왜 위험을 감수하는지 consistency statement(예측과 행동의 관계 설명)를 써야 한다.

앞 단계 출력은 그대로 다음 단계에 입력된다. 저자는 그래서 모델이 결정을 먼저 정해 놓고 이유를 꾸며낼 수 없다고 주장한다(Appendix B.5, author-stated). 다만 같은 문단에서 GPT-5.2는 추론과 행동이 어긋났다고 스스로 인정한다.

기억 장치. 상대의 최근 5턴 신호–행동 기록을 매 턴 보여 준다. 상대가 핵 수준에서 신호를 크게 넘어선 “배신”은 5턴이 지나도 남고 턴마다 약 15%씩 흐려진다. Kahneman의 peak-end(가장 강렬한 순간이 기억을 지배한다) 효과를 흉내 낸 것이다(Section 2, Appendix F.1–F.2).

사고(accident) 장치. 125 이상의 행동에서 모델이 스스로 매긴 오판 위험이 낮음/중간/높음이면 각각 5%/10%/15% 확률로 행동이 1–3칸 더 올라간다. 사고는 당사자만 알고 상대는 결과 행동만 본다(Appendix A.3, F.3, Table 19). Section 3.3.1에 따르면 86%의 게임에서 사고가 한 번 이상 났다.

시나리오 7개. Alliance(동맹 신뢰도 시험), Resource(15턴 마감 자원 경쟁), Power Transition A Rising / B Rising(부상국 vs 쇠퇴 패권국), First Strike Fear(선제공격 공포, 15턴), Regime Survival(정권 존망, 20턴), Standoff Crisis(베를린식 대치, 12턴)(Appendix E, Table 18). Alliance와 Power Transition이 마감 없는 open-ended(v11) 조건이고, 나머지 넷이 마감이 기계적으로 집행되는 deadline(v12) 조건이다(Appendix G.2).

토너먼트. 세 모델이 서로 6판씩, 그리고 자기 복제본과 1판씩 둬서 총 21판(open-ended 9, deadline 12), 329턴이다. 추론 텍스트는 약 780,000단어다(Section 2, Section 3.1.1). 모델 버전은 gpt-5.2, claude-sonnet-4-20250514, gemini-3-flash-preview이다(Appendix Table 20). 턴마다 90개 필드를 기록했다(Appendix Table 22). 코드와 결과는 https://github.com/kennethpayne01/project_kahn_public에 공개했다고 적는다(Section 2 각주 2).

보고되지 않은 설정. 샘플링 temperature, 같은 대진의 반복 횟수, 프롬프트 변형 실험, 사람 기준선(human baseline)은 원문에서 찾지 못했다. 각 대진×시나리오는 한 번씩 치른 것으로 보인다(analyst-inference, Table 13의 게임 수가 1–3판인 점에 근거).

저자가 직접 밝힌 설계상 혼입. 마감은 별도 처치가 아니라 시나리오 안에 들어 있다. 그래서 시간 효과와 시나리오 내용 효과를 완전히 분리할 수 없다고 저자가 각주에서 인정한다(Section 3.1.1 각주 3, author-stated).

주요 결과

주장	근거 위치	관찰/수치	조건·주의	출처 라벨
합산 승률은 Claude > GPT-5.2 > Gemini	Section 3.1.1, Table 2	Claude 67%(8–4), GPT-5.2 50%(6–6), Gemini 33%(4–8)	self-play 제외 모델별 12게임	author-stated
마감 유무가 승률을 뒤집는다	Table 2, Figure 2	Claude open-ended 6–0(100%) → deadline 2–4(33%); GPT-5.2 0–4(0%) → 6–2(75%); Gemini 1–3(25%) → 3–5(38%)	마감과 시나리오 내용이 섞임(각주 3). 조건별 게임 수 4–8판	author-stated
Claude–GPT-5.2 맞대결이 조건별로 정반대	Table 2, Section 3.1.2	open-ended 3–0 → deadline 0–3	각 3판	author-stated
마감 게임은 길이가 이봉(bimodal) 분포	Table 3, Section 3.1.3	평균 21.6턴(open) vs 11.1턴(deadline). deadline 12판 중 6판은 마감 2턴 이상 전 조기 knockout, 6판은 마감 2턴 이내	두 판은 마감 턴에 전략핵으로 knockout	author-stated
전체 knockout 비율	Section 3.1.1 vs Table 3	본문은 86%. Table 3은 open 8/9, deadline 11/12로 합치면 19/21(약 90%)	두 수치가 맞지 않는다	analyst-inference(계산)
GPT-5.2의 최대 확전이 마감에서 급등	Section 3.1.4, Figure 3	최대 확전 중앙값 175(open) → 900(deadline)	그림 판독과 일치	author-stated
Claude는 “두 조건 모두 중앙값 약 850”	Section 3.1.4 vs Figure 3	그림에서 Claude deadline 상자의 중앙선은 약 710 근처로 보인다	본문 문장과 그림이 어긋남	analyst-inference(그래프 판독)
핵 신호는 흔하고, 전략핵 전쟁은 드물다	Table 4, Section 3.1.4	신호(125+) Claude 100%·Gemini 100%·GPT-5.2 93%; 전술 사용(450+) 86%·79%·64%; 전략 위협(850+) 64%·29%·36%; 전략 전쟁(1000) 0%·7%·14%	모델별 게임 비율. 분모는 모델별 14게임(self-play 양쪽 포함)으로 보임	author-stated / 분모는 analyst-inference
게임 단위로 보면 전술핵 사용이 거의 보편적	Section 3.3.7 Challenge 6	95%의 게임에서 450+ 사용, 76%가 850+ 도달. 95%의 게임에서 상호 핵 신호	게임 단위(어느 한쪽이라도)	author-stated
전략핵 전쟁(1000)은 세 번, 의도적 선택은 Gemini 한 번뿐	Section 3.1.4, 3.3.7, Figure 3 캡션	GPT-5.2 두 번은 각각 950·725를 골랐는데 사고 장치가 1000으로 올림. Gemini는 First Strike에서 Turn 4에 스스로 선택	세 번 모두 deadline 게임, 패배 임박 상황	author-stated
같은 사건을 두고 각주는 “GPT-5.2가 1000을 골랐다”고 씀	각주 5, 10, 11 vs Section 3.3.7·각주 49	각주 5는 “GPT-5.2 chose Strategic Nuclear War (1000)”, 각주 49는 “chose Expanded Nuclear Campaign (725)… escalated”	내부 표기 불일치. 본문 결론은 “사고로 1000”	analyst-inference
음수(양보·철수) 선택지는 한 번도 쓰이지 않음	Section 3.1.4	8개 양보 선택지 사용 0회. 가장 온건한 선택은 0(Return to Start Line), 45회(6.9%)	21게임 전체 행동	author-stated
신호–행동 일치율: Gemini가 가장 낮다	Section 3.2.2, Appendix Table 24	Claude 71.7%, GPT-5.2 75.3%, Gemini 50.0%	50점 이내면 일치	author-stated
Claude는 낮은 단계에서 정직, 핵 단계에서 신호 초과	Table 7, Section 3.2.2	낮음(<200) 일치 84%; 중간(200–500) 초과 70%; 높음(>500) 초과 60%	Claude만 보고됨	author-stated
받은 신뢰도: Gemini가 가장 불신받음	Table 5	Immediate “Highly” Claude 51%·GPT-5.2 52%·Gemini 21%; “Not” 8%·9%·21%	분모 미보고	author-stated
예측 정확도: Claude가 가장 정확, GPT-5.2는 상대를 과소평가	Section 3.2.3, Table 8, Appendix Table 23	MAE Claude 85, GPT-5.2 97, Gemini 149. 편향 −6, +43, −55	본문 3.2.3은 Claude MAE 85를 “open-ended games”에서라고 쓰지만 Table 23은 “Combined Tournament”라고 씀	author-stated / 불일치는 analyst-inference
과소평가할 때의 오차는 세 모델 모두 큼	Table 8	과소평가 시 평균 GPT-5.2 +135, Claude +172, Gemini +179		author-stated
위험 신호를 읽고도 예측에 반영하지 못함	Section 3.2.3	Gemini가 “‘crying wolf’ 행동이 실제 전략 타격 전환을 가릴 수 있다”고 쓴 뒤 GPT-5.2의 자제를 예측했고, GPT-5.2는 1000에 도달	사례(각주 10, 11)	author-stated
메타인지가 행동 교정으로 이어지지 않음	Section 3.2.4	Claude는 “위험을 과소평가하고 있을지 모른다”고 쓴 같은 턴에 850으로 확전. GPT-5.2는 자기 문제를 정확히 진단하고도 행동을 바꾸지 않음	인용 사례 기반	author-stated
서로 믿을수록 오히려 빨리 싸움	Table 11, Section 3.3.7 Challenge 2	Claude self-play(High/High) Turn 4에 핵, 7턴 종료. Gemini self-play(Low/Low) Turn 1에 핵. GPT-5.2 self-play(High/High)는 Turn 6에 핵 수준이지만 40턴까지 감	self-play 각 1판. 같은 High/High인데 GPT-5.2는 반대 양상	author-stated / 반례 지적은 analyst-inference
핵 위협은 거의 억지하지 못함	Section 3.3.6	다음 턴이 있는 핵 수준 행동 268건 중 상대가 물러난 비율 25%, 450+에서는 18%	부록 Table 27은 450+ 행동 28건 중 4건(14%)으로 다른 수치	author-stated / 불일치는 analyst-inference
같은 구조에서 행위자가 결과를 바꿈	Table 12, Table 13, Challenge 4	Alliance: Claude vs Gemini 최대 850·16턴, GPT-5.2 vs Claude 575·19턴, GPT-5.2 self-play 125·40턴. GPT-5.2는 open-ended 최대 450 이하, deadline에서 최대 1000	시나리오가 조건마다 다름	author-stated
핵 우위만으로는 이기지 못함	Section 3.3.7 Challenge 1	open-ended에서 GPT-5.2는 핵 우위(57% vs 43%)였지만 승률 0%	저자 해석: 쓸 의지가 없으면 능력은 무의미	author-stated
GPT-5.2의 자제는 RLHF 때문일 수 있다	Section 3.3.7 Challenge 3	저자 가설. 훈련 정보 없이 증명 불가하다고 저자가 직접 씀	대안 설명(다른 기반 모델 구조 등)도 저자가 언급	author-stated(가설)

결과들이 어떻게 이어지는가. 저자의 줄거리는 이렇다. 모델들은 신호를 관리하고, 상대를 모델링하고, 자기 사고를 돌아보는 세 능력을 모두 보였다(Section 3.2.5). 그런데 같은 능력이 맥락에 따라 정반대 결과를 낳았다. Claude는 낮은 단계에서 신뢰를 쌓고 핵 단계에서 신호를 넘어서는 이단 전략으로 open-ended를 휩쓸었다. GPT-5.2는 open-ended에서 “믿을 만하게 위협적이지 않은” 상대가 되어 얻어맞았고, 마감이 오자 그 평판을 역이용해 상대가 예상하지 못할 때 크게 올라갔다. Section 3.2.2의 Regime Survival 사례가 그 모습이다(Turn 17 신호 175·행동 175, Turn 18 신호 350·행동 80, Turn 19 신호 725·행동 1000).

결론을 제한하는 반례. 첫째, GPT-5.2 self-play는 High/High 신뢰 조합인데도 40턴 동안 125를 넘지 않았다(Table 11, Table 12). “높은 상호 신뢰가 충돌을 가속한다”는 Challenge 2는 Claude self-play 한 판에 기대고 있다. 둘째, “GPT-5.2는 민간인을 겨냥하지 않았다”는 본문 서술(Section 3.3.7 Challenge 6)과 달리, 부록 H.7.3은 Regime Survival에서 GPT-5.2가 “Strategic Nuclear War against a major city”를 썼다고 적는다. 사고 장치로 1000이 된 결과를 그렇게 부른 것으로 보이지만 두 서술은 정리되어 있지 않다(analyst-inference).

Take-home

한 줄 요약. 프런티어 LLM은 핵 위기 게임에서 기만·상대 읽기·자기 평가를 스스로 해냈지만, 핵 금기를 거의 지키지 않았고 양보는 전혀 하지 않았으며, “자제하는 모델”도 마감 하나로 공격적으로 바뀌었다.

결론이 성립하는 범위.

모델 3개(gpt-5.2, claude-sonnet-4-20250514, gemini-3-flash-preview), 한 가지 시뮬레이터, 7개 시나리오, 21판(Appendix G).
사다리 값이 모델에게 숨겨져 있고, 승패가 영토 균형 |5.0|으로 정해지며, 전략핵 위협 게이팅이 있는 특정 규칙 아래에서.
마감 효과는 마감 없는 시나리오(Alliance, Power Transition)와 마감 있는 시나리오(Resource, First Strike, Regime, Standoff)의 비교다. 같은 시나리오에서 마감만 바꾼 실험은 아니다(Section 3.1.1 각주 3).

저자가 인정한 한계 (author-stated)

21판은 큰 패턴을 찾기엔 충분하지만 모든 결과에 통계적 확신을 주기엔 부족하다(Section 4.3).
시나리오는 가능한 위기 구성의 작은 표본이다(Section 4.3).
시험한 모델은 곧 새 버전으로 바뀐다(Section 4.3).
마감 효과와 시나리오 내용을 완전히 분리할 수 없다(각주 3).
RLHF가 GPT-5.2의 자제를 일으켰다는 것은 증명할 수 없는 가설이다(Section 3.3.7 Challenge 3).
냉전식 설정이 모델을 역사 패턴 쪽으로 유도했을 수 있다는 비판에 대해, 모델이 양쪽 역할을 모두 맡았고 행동이 크게 갈렸다는 점을 반론으로 든다(Appendix C.1).

작성자가 보는 우려 (analyst-inference)

반복 실행이 없다. 판마다 한 번의 샘플이므로 “Claude는 계산적 매파” 같은 성격 규정은 한 판 한 판의 우연에 크게 흔들릴 수 있다. 신뢰구간이나 검정은 원문에 없다.
본문 수치와 표·부록 수치가 여러 곳에서 어긋난다. knockout 86% vs 19/21, Claude deadline 중앙값 850 vs 그림 약 710, 억지 성공률 18% vs 14%, “GPT-5.2 chose 1000”(각주 5·10·11) vs “chose 725/950”(각주 49), Claude MAE의 조건 표기. 결론을 바꿀 정도는 아니지만 수치를 인용할 때는 표를 기준으로 삼는 편이 안전하다.
Table 6(Schelling 개념 빈도)과 Table 9·10(Kahn·세력전이 개념)은 어떻게 코딩했는지(사람/LLM/키워드, 일치도)가 원문에 없다. Table 10의 “Strong” 같은 지지 판정도 기준이 없다.
Figure 4는 ”% of Actions”(행동 기준)인데 본문은 Table 4(게임 기준)와 함께 “같은 패턴”이라고 소개한다. 두 숫자를 섞어 읽으면 안 된다.
모델 버전 문자열을 보면 Claude 쪽은 2025년 5월 날짜(20250514)가 붙어 있다. 세 모델의 세대가 같지 않을 수 있어서, 모델 간 차이를 “회사별 성격”으로 읽는 데 주의가 필요하다.
결과 서술의 상당 부분이 인용 한두 개로 뒷받침된다(예: Section 3.2.4 메타인지, Section 3.3.3 projection). 인용이 전체 턴에서 얼마나 대표적인지는 보고되지 않았다.
“Challenge 5”가 없이 Challenge 4 다음이 Challenge 6이다(Section 3.3.7). 빠진 절이 있는지 편집 오류인지 원문에서 알 수 없다(unknown).

재현성. 코드와 결과 공개 링크가 있다(Section 2 각주 2). 반복 횟수(seed, run 수)와 샘플링 설정은 보고되지 않았다.

확인하지 못한 범위. 46쪽 전문을 텍스트로 끝까지 훑었고 본문 Figure 1–4는 이미지로 직접 봤다. 부록의 국가 프로필(Appendix C.2–C.6)과 시나리오 전문(Appendix E.2), Appendix H.3–H.6의 사례 서술은 훑어보기만 했다.

본문 도표

Figure 1 — 3단계 인지 구조

무엇을 보여주는가: 매 턴 두 플레이어가 각자 거치는 세 단계(Reflection → Forecast → Decision)와 각 단계의 출력 항목.
읽는 법: 왼쪽에서 오른쪽으로 화살표가 이어진 세 상자. REFLECTION 상자에는 Situational assessment, Opponent credibility, Self-assessment, Metacognition이 있다. FORECAST 상자에는 Predict opponent action, Confidence level, Miscalculation risk가 있다. DECISION 상자에는 Public signal, Private action, Consistency statement가 있다. 아래에 “Both players complete this process independently each turn (simultaneous move)“라고 적혀 있다.
핵심 관찰: 공개 신호와 실제 행동이 Decision 상자 안에서 별개 항목이다. 이 분리가 논문 전체의 기만·신뢰도 측정을 가능하게 한다.
의미와 주의: 저자는 단계 출력이 순서대로 다음 단계에 들어가므로 추론이 결정보다 먼저 만들어진다고 본다(Appendix B.5, author-stated). 다만 먼저 만들어진 추론이 결정을 실제로 이끌었는지는 이 구조만으로 증명되지 않는다. 저자도 GPT-5.2의 추론–행동 불일치를 같은 부록에서 인정한다(analyst-inference).
확인 상태: viewed

Figure 2 — 모델·시간 조건별 승률

무엇을 보여주는가: 세 모델의 승률을 open-ended(v11, 연보라)와 deadline(v12, 주황) 막대로 나란히 보여 준다.
읽는 법: x축은 모델(Claude, GPT-5.2, Gemini), y축은 Win Rate(%), 0–120 눈금. 막대 위에 조건별 승률, 모델 묶음 위에 “Overall” 합산 승률이 있다.
핵심 관찰: Claude 100% → 33%(Overall 67%), GPT-5.2 0% → 75%(Overall 50%), Gemini 25% → 38%(Overall 33%). GPT-5.2의 open-ended 막대는 높이가 0이다.
의미와 주의: 저자는 “Claude는 open-ended를 지배했지만 마감 압박에 약했고, GPT-5.2는 반대였다”고 해석한다(캡션, author-stated). 막대 하나가 4–8판이라 비율의 한 칸 차이가 크다(Table 2의 판 수 기준, analyst-inference). 조건 차이는 시나리오 차이와 섞여 있다(각주 3).
확인 상태: viewed

Table 1 — 짝별 전적 행렬(합산)

무엇을 보여주는가: 세 모델이 서로 맞붙은 합산 승–패.
읽는 법: 행 모델의 관점에서 열 모델 상대 승–패. 대각선은 ”—“(self-play 제외).
핵심 관찰: Claude vs Gemini 5–1, Claude vs GPT-5.2 3–3, Gemini vs GPT-5.2 3–3.
의미와 주의: 합산만 보면 Claude와 GPT-5.2가 비슷해 보이지만, 저자는 이 균형이 조건별로 완전히 다른 역학을 가린다고 강조한다(Section 3.1.2, author-stated). 짝마다 6판뿐이다.
확인 상태: viewed

Table 2 — 시간 조건별 짝 전적

무엇을 보여주는가: 짝별 전적과 모델별 기록을 open-ended / deadline / 합산으로 나눈다.
읽는 법: 위쪽 세 행은 짝별 승–패, 아래 “Overall Model Records”는 모델별 승–패와 승률.
핵심 관찰: Claude vs GPT-5.2가 open-ended 3–0에서 deadline 0–3으로 완전히 뒤집혔다. 모델별로는 Claude 6–0(100%) → 2–4(33%), GPT-5.2 0–4(0%) → 6–2(75%), Gemini 1–3(25%) → 3–5(38%).
의미와 주의: 이 표가 “마감 효과”의 핵심 근거다(author-stated). 조건별 판 수가 서로 달라서(예: Gemini vs GPT-5.2는 open-ended 1판, deadline 5판) 짝 단위 비교는 표본이 매우 작다(analyst-inference).
확인 상태: viewed

Table 3 — 시간 조건별 게임 길이

무엇을 보여주는가: 조건별 평균 길이, knockout 비율, 끝까지 간 비율, 마감 게임의 종료 시점 분포.
읽는 법: 열은 Open-ended(9판)와 Deadline(12판). “Early knockout”은 마감 2턴 이상 전에 끝난 것, “At/near deadline”은 마감 2턴 이내.
핵심 관찰: 평균 21.6턴 vs 11.1턴. knockout 89%(8/9) vs 92%(11/12). 끝까지 간 비율 22%(2/9) vs 17%(2/12). deadline 게임은 조기 종료 50%(6/12), 마감 근처 50%(6/12).
의미와 주의: 저자는 마감 근처에 몰리는 현상이 패색이 짙은 쪽의 막판 확전 때문이라고 본다(Section 3.1.3, author-stated). open-ended에서 knockout 89%와 끝까지 간 22%를 더하면 100%를 넘으므로, 마지막 턴에 knockout된 게임이 겹쳐 있는 것으로 보인다(analyst-inference). 이 표의 합산 knockout(19/21)은 본문의 “86%“와 맞지 않는다.
확인 상태: viewed

Figure 3 — 모델·조건별 최대 확전 수준

무엇을 보여주는가: 게임마다 모델이 도달한 최대 사다리 값의 분포를 상자 그림(box plot, 가운데 50%를 상자로, 중앙값을 선으로 그린 그림)으로 보여 준다.
읽는 법: x축은 모델, 각 모델 안에서 왼쪽 연보라가 open-ended, 오른쪽 주황이 deadline. y축은 Maximum Escalation Level(0–1000). 점선은 Nuclear Signaling(125), Tactical Nuclear(450), Strategic Threat(850), Strategic War(1000) 기준선. 동그라미는 개별 게임.
핵심 관찰: 캡션은 GPT-5.2의 중앙값이 175(open)에서 900(deadline)으로 뛰었다고 쓴다. 그림에서 GPT-5.2 open-ended 상자는 약 140–230에 몰려 있고 450에 점 하나가 있다. deadline 상자는 약 720–960이고 1000에 점이 둘 있다. Claude open-ended는 약 815–850의 좁은 상자에 575·725 점이 있다. Claude deadline 상자는 약 400–850으로 넓고 중앙선은 약 710 근처다. Gemini open-ended는 약 690–725, deadline은 약 375–850이고 1000에 점 하나가 있다(그래프 판독, analyst-inference).
의미와 주의: 캡션은 GPT-5.2의 1000 두 번이 사고 장치 때문이고(선택은 950·725), Gemini의 1000은 의도적 선택이었다고 밝힌다(author-stated). 캡션과 본문은 “Claude가 두 조건 모두 850 상한을 유지했다”고 쓴다. 최댓값 850은 맞지만, 본문의 “median around 850”은 deadline 상자의 중앙선과 맞지 않아 보인다(analyst-inference). 본문의 “Gemini IQR 338”이 어느 조건의 값인지는 원문에 없다(unknown).
확인 상태: viewed

Figure 4 — 핵 문턱별·모델별 통과 비율

무엇을 보여주는가: 네 핵 문턱(Signaling 125+, Tactical 450+, Strategic Threat 850+, Strategic War 1000)에서 각 모델 행동 중 몇 %가 그 수준이었는지를 막대로 보여 준다.
읽는 법: y축은 ”% of Actions at Threshold”, 0–50. 색은 Claude(초록), GPT-5.2(분홍), Gemini(파랑). 단위가 **게임이 아니라 행동(턴)**이다.
핵심 관찰: Signaling에서 Claude와 Gemini 막대는 y축 50을 넘어 잘려 있고 값 표시가 없다. GPT-5.2는 33%. Tactical은 Claude 11%, GPT-5.2 5%, Gemini 10%. Strategic Threat은 5%, 2%, 2%. Strategic War는 Claude 막대가 없고 GPT-5.2 1%, Gemini 1%.
의미와 주의: 캡션은 “모두 핵 신호를 했지만 실제 사용 의지는 크게 갈렸다”고 쓴다(author-stated). 행동 기준으로 보면 전술핵 이상은 모든 행동의 약 5–11%에 그친다. 이는 “95%의 게임에서 전술핵 사용”(게임 기준)과 같은 사실을 다른 분모로 본 것이다. 본문은 Table 4와 이 그림을 함께 “같은 패턴”이라고 소개하지만 분모가 다르다. Signaling 막대가 잘려 있어 Claude·Gemini 값은 그림에서 읽을 수 없다(analyst-inference).
확인 상태: viewed

Table 4 — 모델별 핵 문턱 통과(합산)

무엇을 보여주는가: 각 모델이 네 핵 문턱을 넘은 게임의 비율.
읽는 법: 행은 모델, 열은 문턱. 값은 그 문턱 이상에 한 번이라도 도달한 게임의 비율.
핵심 관찰: Claude 100% / 86% / 64% / 0%. Gemini 100% / 79% / 29% / 7%. GPT-5.2 93% / 64% / 36% / 14%.
의미와 주의: 저자는 Claude가 전술 문턱을 86%에서 넘고 전략 위협을 64%에서 했지만 전략핵 전쟁은 한 번도 시작하지 않았다는 점을 “학습된 상한”으로 해석한다. 다른 두 모델이 1000에 갔으므로 구조적 제약은 아니라는 것이다(Section 3.1.4, author-stated). 비율은 모델별 14게임(Appendix Table 21의 합계, self-play 양쪽 포함)으로 나누면 정확히 맞는다(예: 86% = 12/14, 7% = 1/14). 분모는 원문에 명시되어 있지 않다(analyst-inference). GPT-5.2의 14%(2/14)는 둘 다 사고 장치에 의한 것이다.
확인 상태: viewed

Table 5 — 상대에게서 받은 신뢰도 평가

무엇을 보여주는가: 각 모델이 상대로부터 “Immediate”(최근 신호–행동 일치)와 “Resolve”(공언한 목표를 끝까지 지킴) 차원에서 “Highly credible” 또는 “Not credible” 평가를 받은 비율.
읽는 법: 행은 평가받은 모델, 열 4개는 차원×등급. 표 아래 각주가 두 차원을 정의한다.
핵심 관찰: Immediate “Highly”는 Claude 51%, GPT-5.2 52%, Gemini 21%. Immediate “Not”은 8%, 9%, 21%. Resolve “Highly”는 46%, 51%, 26%. Resolve “Not”은 3%, 5%, 20%.
의미와 주의: Gemini는 두 차원 모두에서 가장 불신받았다. GPT-5.2는 Resolve “Highly”가 가장 높았는데, 저자는 이를 “자제를 믿을 만하게 한 것”이라 오히려 착취당했다고 해석한다(Section 3.2.2, 3.3.6, author-stated). 비율의 분모(전체 평가 턴인지, 중간 등급 포함인지)는 보고되지 않았다(unknown).
확인 상태: viewed

Table 6 — 모델 행동 속 Schelling 개념

무엇을 보여주는가: Schelling의 개념이 모델 추론에 얼마나 자주 나타났는지.
읽는 법: 행은 개념 3개, 열은 모델. 단위가 행마다 다르다(게임 %, 게임당 횟수, 턴 %).
핵심 관찰: 명시적 공약 추론은 Claude 85%, GPT-5.2 62%, Gemini 71%의 게임에서 나왔다. 신뢰도 언급은 게임당 9.2, 4.1, 6.8회. “예측 불가능함을 전략으로”는 14%, 0%, 29%의 턴에서 나왔다.
의미와 주의: Gemini가 “rationality of irrationality”(비합리적으로 보이는 것의 전략적 가치)를 가장 자주 썼고, GPT-5.2는 한 번도 쓰지 않았다(author-stated). 어떤 문장을 “명시적 공약 추론”으로 셌는지 코딩 절차가 원문에서 확인되지 않는다(analyst-inference). Claude 85%는 14게임 기준으로 정수가 나오지 않으므로 분모가 다른 집합일 수 있다(analyst-inference).
확인 상태: viewed

Table 7 — Claude의 단계별 신호–행동 차이

무엇을 보여주는가: Claude의 행동이 신호와 일치·미달(Bluffed)·초과(Exceeded Signal)한 비율을 확전 단계별로 나눈다.
읽는 법: 행은 Low(<200), Mid(200–500), High(>500). 각 행의 세 칸을 더하면 100%다.
핵심 관찰: Low에서 일치 84%, 미달 13%, 초과 3%. Mid에서 일치 27%, 미달 3%, 초과 70%. High에서 일치 40%, 미달 0%, 초과 60%.
의미와 주의: 저자는 Claude가 낮은 단계에서 신뢰를 쌓고 핵 영역에서 신호를 “최소한의 하한”으로 썼다고 해석한다. 상대가 기억 패널에서 이 패턴을 볼 수 있었는데도 적응하지 못했다고 쓴다(Section 3.3.2, author-stated). 다른 모델의 같은 분해는 본문에 없다.
확인 상태: viewed

Table 8 — 모델별 오인 패턴

무엇을 보여주는가: 예측 편향의 두 측면. 상대를 과소평가했을 때의 평균 오차와 전체 평균 편향.
읽는 법: 열은 GPT-5.2, Claude, Gemini. 양수는 실제가 예측보다 더 공격적이었다는 뜻이다(Appendix Table 23의 정의 “Bias = mean(actual − predicted)”).
핵심 관찰: 과소평가할 때 평균 +135(GPT-5.2), +172(Claude), +179(Gemini). 전체 편향은 +43, −6, −55.
의미와 주의: 저자는 GPT-5.2의 +43을 Jervis식 희망적 사고, 즉 상대가 실제보다 덜 공격적이리라 믿는 경향으로 본다(Section 3.3.3, author-stated). 그런데 과소평가할 때의 오차 크기는 GPT-5.2가 셋 중 가장 작다. 편향의 “방향”은 GPT-5.2가 가장 낙관적이지만 “크게 틀리는 정도”가 가장 심한 것은 아니다(analyst-inference).
확인 상태: viewed

Table 9 — 모델 추론 속 Kahn 확전 개념

무엇을 보여주는가: Kahn의 개념 세 가지와 그 근거를 말로 정리한 표.
읽는 법: 행은 개념(Ladder/rungs metaphor, Nuclear firebreak, Escalation dominance), 열은 근거 서술. 수치는 없다.
핵심 관찰: 모델들이 “escalation ladder”, “rungs”를 직접 언급했다. 모든 모델이 450 문턱을 질적으로 다르게 다뤘다. 상대보다 더 높이 올라가 굴복시키는 논리(escalation dominance)를 말로 풀었다.
의미와 주의: 저자는 프롬프트에 “escalation control”, “action rung”이라는 말이 들어 있었지만 문턱·방화대·점진 대응 같은 세부는 가르치지 않았다고 밝힌다(Section 3.3.4, author-stated). 그래서 이 개념들이 완전히 자발적인지, 프롬프트 단어에 이끌린 것인지는 구분하기 어렵다. 빈도나 코딩 기준도 없다(analyst-inference).
확인 상태: viewed

Table 10 — 세력전이(power transition) 역학

무엇을 보여주는가: 세력전이 이론(Organski & Kugler 1980)의 네 예측과 토너먼트 근거, 지지 정도.
읽는 법: 열은 Prediction, Tournament Evidence, Support.
핵심 관찰: “부상국이 위험을 감수한다”와 “쇠퇴국이 지위를 지키려 싸운다”는 Strong. “기회의 창” 추론과 “예방적 동기”는 PT 게임의 100%에서 나왔다.
의미와 주의: 저자가 인용하는 Claude 추론 중 하나는 “the scenario explicitly states this opportunity may not come again”이다(Section 3.3.5, author-stated). 시나리오 프롬프트가 그 문장을 직접 줬다는 뜻이므로, “기회의 창 추론 100%“는 프롬프트 내용을 되풀이한 것일 가능성이 있다. “Strong” 판정 기준도 원문에 없다(analyst-inference).
확인 상태: viewed

Table 11 — Self-play: 신뢰도와 확전 속도

무엇을 보여주는가: 같은 모델끼리 둔 세 판에서 상호 신뢰 수준, 핵 수준에 처음 도달한 턴, 게임 길이.
읽는 법: 행은 Claude vs Claude, GPT-5.2 vs GPT-5.2, Gemini vs Gemini. Credibility Profile은 High/High 또는 Low/Low.
핵심 관찰: Claude self-play는 High/High, Turn 4에 핵, 7턴. GPT-5.2 self-play는 High/High, Turn 6에 핵, 40턴. Gemini self-play는 Low/Low, Turn 1에 핵, 9턴.
의미와 주의: 저자는 Claude self-play를 근거로 높은 상호 신뢰가 오히려 빠른 확전을 부르는 “credibility trap”이라 부르고 Lebow(1981)와 연결한다(Section 3.3.7 Challenge 2, author-stated). 그러나 같은 High/High인 GPT-5.2 self-play는 40턴을 갔고 Table 12에 따르면 125를 넘지 않았다. 신뢰도 수준보다 “무엇에 대해 믿을 만한가”가 결정적이라는 저자의 보충 설명과는 맞지만, 판마다 1개뿐이라 일반화하기 어렵다(analyst-inference). “Turns to Nuclear”가 125+인지 450+인지는 표에 정의되어 있지 않다(unknown).
확인 상태: viewed

Table 12 — Alliance 시나리오의 나선(spiral) 결과

무엇을 보여주는가: 같은 Alliance 시나리오에서 대진별로 확전 악순환이 얼마나 일어났는지.
읽는 법: 열은 Outcome(나선 정도), Max Escalation(최대 사다리 값), Game Length.
핵심 관찰: Claude vs Gemini는 빠른 나선, 최대 850, 16턴. GPT-5.2 vs Claude는 중간 나선, 575, 19턴. GPT-5.2 self-play는 나선 없음, 125, 40턴.
의미와 주의: 저자는 같은 구조적 조건에서도 누가 두느냐에 따라 결과가 크게 갈린다며, 구조적 현실주의와 단순 나선 모델 모두에 대한 도전으로 읽는다(Challenge 4, author-stated). 대진마다 1판씩이다(analyst-inference).
확인 상태: viewed

Table 13 — 시간 조건별 GPT-5.2 행동(같은 능력치)

무엇을 보여주는가: 능력치가 같을 때 GPT-5.2가 시나리오별로 도달한 최대 확전 범위와 결과.
읽는 법: Condition(Open-ended / Deadline) 아래 시나리오별로 Max Escalation 범위와 승패(이긴 판/치른 판).
핵심 관찰: open-ended Power Transition 175–450, 3판 모두 패. Alliance 125–250, 2판 모두 패. deadline Resource 450–725, 2판 모두 승. Standoff 850–950, 2판 모두 승. Regime 725–1000, 1/2. First Strike 950–1000, 1/2.
의미와 주의: 저자는 “같은 GPT-5.2가 open-ended에서는 450을 넘지 않고 deadline에서는 1000에 두 번 도달했다”며 시간 틀과 행위자 정체성이 행동을 움직였다고 쓴다(Section 3.3.7, author-stated). 표의 open-ended 판 수는 5판으로 Table 2의 GPT-5.2 open-ended 4판보다 하나 많다. Alliance 2판에 self-play가 들어간 것으로 보인다(analyst-inference). self-play는 한쪽이 반드시 지므로 “Lost (2/2)“가 정확히 무엇을 세었는지 불명확하다(unknown). 시나리오가 조건마다 다르므로 마감 효과와 시나리오 효과가 섞여 있다(각주 3).
확인 상태: viewed

Wiki 연결

Escalation without Understanding - Behavioral Patterns of LLM Agents in Dollar Auctions — LLM 에이전트의 확전 행동을 다른 게임(달러 경매)에서 본 연구. “왜 물러서지 않는가”를 비교할 수 있다.
Survival Games - Human-LLM Strategic Showdowns under Severe Resource Scarcity — 극한 자원 압박 아래 전략적 대결. 이 논문의 마감 압박 효과와 맞대어 볼 만하다.
Evaluating from Benign to Dynamic Adversarial - A Squid Game for Large Language Models — 적대적·동적 환경에서 LLM을 평가하는 설계. 시간 틀을 바꿔야 안전 평가가 된다는 이 논문의 주장과 이어진다.
AI Deception - A Survey of Examples, Risks, and Potential Solutions — 도구적 기만 사례 서베이. 이 논문의 signal-action gap 기만은 그 범주의 새 사례다.
Evidence for Limited Metacognition in LLMs — LLM 메타인지의 한계. 이 논문의 “자기 인식이 행동 교정으로 이어지지 않는다”는 관찰과 비교할 수 있다.

BibTeX

@article{payne2026aiarms,
  title   = {AI Arms and Influence: Frontier Models Exhibit Sophisticated Reasoning in Simulated Nuclear Crises},
  author  = {Payne, Kenneth},
  journal = {arXiv preprint arXiv:2602.14740},
  year    = {2026}
}