지향적 자세의 형식화 1: 확률과정에 목표와 믿음 귀속하기
📌 한입 요약
Context:
어떤 시스템을 “믿음과 목표를 가진 행위자”로 취급한다는 건 무슨 뜻일까? 체온조절기는 “방을 따뜻하게 하고 싶어한다”고 말할 수 있고, 요즘은 LLM이 “무언가를 원한다/안다”는 논쟁이 뜨겁다. 하지만 이런 행위성 귀속(agency attribution)이 시스템 자체의 객관적 사실인지, 아니면 관찰자가 편의상 덧씌우는 해석인지는 수학적으로 정리된 적이 없었다.Insight: 저자들은 행위성을 시스템의 내재적 속성이 아니라 관찰자가 채택하는 지향적 자세(intentional stance, 시스템을 ‘목표·믿음을 가진 듯’ 보는 관점), 즉 Dennett의 ‘as-if’ 입장으로 본다 — 그렇다면 핵심 질문은 “이 시스템이 진짜 에이전트냐”가 아니라 “어떤 목표-믿음 해석이 이 시스템의 행동과 정합적이냐”로 바뀐다.
Solution: 이 통찰을 형식화하기 위해 시스템을 **transducer(입력열을 출력열로 변환하는 과정, coinduction으로 엄밀화)**로 보고, 목표를 환경 쪽에 심은 **teleo-environment(상태 외에 성공/실패 신호 {⊥,⊤}를 내는 환경으로, ⊤가 적어도 한 번 일어날 확률을 최대화하는 것이 telos)**를 도입한 뒤, 각 시점의 정신상태를 normative-epistemic state ε로 표현한다. 효용이론(VNM) 대신 “성공확률 최대화”라는 goal-belief 합리성을 쓰는 것이 핵심 차별점이다.
Evidence: 실험이 아닌 증명이 근거다. (1) 모든 확률과정에 적어도 하나의 목표-믿음 해석이 존재하지만 그 해석은 유일하지 않다 — 정확히 결정론적 시스템일 때만 유일하게 명세 가능하다는 명세 불가능성 정리(Theorem 6.2.3/6.3.2: 유일 specification ⟺ deterministic). (2) 정신상태의 시간적 갱신은 보통의 베이즈 갱신이 아니라, 실패(⊥)에 조건화해 가치를 반영하는 **value-laden filtering(Corollary 5.0.3)**으로 일어난다.
Limitations: 이 틀은 “어떤 귀속이 더 나은가”를 말하지 못해 Dennett이 강조한 진짜 intentional system을 가려내지 못하고, “비스킷 7개”와 “7의 제곱 49개”를 구분하는 hyperintensional(같은 외연이라도 표현 방식이 다른) 차원을 모델링하지 못하며, 유계 합리성(bounded rationality, 예: absent-minded driver는 확률적 최적해라 trajectory splicing으로 닫히지 않음)에선 좋은 성질이 깨질 수 있다.
Open Questions: 다중 에이전트·연속시간으로의 확장, hyperintensional 내용의 형식화, 그리고 무한히 많은 정합적 해석 중 무엇을 ‘특권화’할지 — 이 질문들은 동반 논문(formal proofs)과 후속 연구로 넘어간다.
흐름 따라 읽기
논지 흐름(throughline): 행위성 귀속을 관찰자의 stance로 보는 ‘as-if’·Dennett 입장 제시 → transducer/teleo-environment로 형식화 → 핵심 결과(모든 시스템에 해석 존재, 결정론적 시스템만 유일 specify, 갱신은 value-laden filtering, 유계 합리성에선 깨질 수 있음) → 기존 형식론과 대비 → 한계와 향후 과제.
§1 Introduction — 문제 설정
이 절은 글 전체의 문제를 세우는 출발점으로, “시스템이 에이전트라는 것은 무슨 뜻인가”를 묻고 논문이 답할 두 종류 서술의 관계를 규정한다. 저자들은 시스템 행동을 내부 상태로 설명하는 mechanistic description(기계론적 서술)과, 목표·믿음의 결합으로 설명하는 normative-epistemic description(규범-인식 서술 — 규범과 믿음을 함께 끌어들이는 서술)을 구분하고, 둘 다 외부에서 관찰 가능한 행동을 다루지만 본질이 다르다고 본다. 핵심 입장은 Dennett의 The Intentional Stance[8]를 따라 지향적 서술을 시스템의 내재적 속성이 아니라 관찰자가 선택적으로 취하는 하나의 stance(자세·관점)로 보는 것이며, 목표는 이 발상을 수학으로 표현하는 것이다. 이들은 가장 일반적인 틀이 아니라 핵심 논점을 표현할 수 있는 가장 단순한 틀을 지향하고, 기술적 세부는 동반 논문(companion paper)에 둔 채 본 논문에서는 직관적으로 서술한다고 밝힌다. 끝으로 §2(Dennett 자세 관련 개념 방법론), §3(수리 틀과 동반 논문 결과 요약), §4(표현정리·자유에너지원리·계산역학·역강화학습과의 관계), §5(한계·향후 과제)로 이어지는 로드맵을 제시한다.
§2 The ‘As-If’ Approach And Dennett’s Intentional Stance — 개념적 토대
이 절은 §3의 수리 장치를 준비하는 개념적 토대로서, 본 연구가 속한 ‘as-if’ 행위성(마치 에이전트인 듯 다루기) 연구 프로그램과 Dennett의 intentional stance를 소개한다. ‘as-if’ 접근은 어떤 시스템이 ‘진짜’ 에이전트인지에 관해서는 불가지론을 유지한 채, 그 시스템을 마치 에이전트인 듯 취급한다는 것이 무슨 뜻인지를 형식적으로 다루는 것이며[20,21], Dennett의 physical stance(물리적 자세)는 동반 논문의 stochastic Moore machine·unifilar machine 개념에, intentional stance는 §3.2의 transducer-teleo-environment 관계에 대응시킨다. 저자들은 체온조절기·유도어뢰 같은 단순 피드백계를 에이전트로 볼지에 관한 오랜 논쟁(예: Russell & Norvig[27] 대 Dretske[11]·Jonas[17])이 오늘날 LLM을 에이전트로 볼지의 논쟁으로 이어진다고 보고, 회의론자가 옳더라도 체온조절기가 어떤 의미에서 ‘마치’ 에이전트처럼 행동하는지를 설명하는 이론은 여전히 가치 있다고 주장한다. 또한 본 틀은 효용이론[21]이 아니라 “에이전트가 어떤 목표 사건의 발생 확률을 최대화하려는 듯” 다루는 단순화된 goal-belief 합리성 모델이며[22], Virgo 등[30]의 ‘consistent Bayesian interpretation’·Biehl & Virgo[3]의 POMDP 해석을 잇는다. 마지막으로 본 논문이 일관성(consistency)을 다루되 그 갱신 규칙이 평범한 베이즈 필터링이 아니라 value-laden filtering(Theorem 3.3, 가치-실린 필터링)임을, 그리고 이 일관성이 유계-합리(bounded-rational) 맥락(예: absent-minded driver[25])에서는 깨질 수 있음을 미리 예고한다.
§3 The Teleo-Environment Framework — 형식적 심장
이 절은 논지의 형식적 심장으로, §2의 ‘as-if’·지향적 자세 발상을 실제로 작동시키는 수리 골조를 정의하고 네 가지 핵심 결과를 직관적으로 전개한다. 먼저 시스템의 외부 행동은 보통 controlled stochastic process(제어된 확률과정, causality condition 즉 시각 t의 출력이 t-1 이후 입력에 독립이라는 인과성 조건을 만족)로 모델링되지만, 저자들은 대신 입력을 받아 출력 분포를 내고 결정론적으로 다음 transducer로 진화하는 객체인 transducer(트랜스듀서, base case 없는 자기참조 정의라 coinduction(공귀납)으로 엄밀화)를 쓰며, 시스템의 관찰 가능 행동은 S에서 A로의 transducer인 policy(정책)로 주어진다(§3.1). teleo-environment(목적-환경)는 시스템과 반대 인터페이스를 갖는 transducer로, A를 입력받아 S × {⊥, ⊤}를 출력하되 ⊤가 적어도 한 번 일어날 확률을 최대화하는 것이 에이전트의 목표인 success(성공) 개념을 내장하며, 이 telos 채널은 시스템이 직접 관측하지 못한다 — 따라서 목표와 환경이 분리되지 않고(IRL과 대비), 하나의 teleo-environment ε가 곧 하나의 normative-epistemic state(시스템이 자신이 처했다고 ‘믿는’ 환경+추구하는 목표)를 나타내며 ε는 유일하지 않다(§3.2). 핵심 결과로 (1) π가 ε에 최적이면 감각운동쌍 (s,a)로 진화한 π’은 ε의 진화 ε’에 최적이라는 Bellman-류 성질이 성립하는데, 다만 그 갱신은 실제로 관측하지 못하는 ⊥(성공-부재 신호)에까지 조건화하는 value-laden filtering(가치-실린 필터링, Corollary 5.0.3)이며, 동일 효과를 주는 대안으로 single-success truncation Z(ε)도 제시된다(§3.3). (2) specification(명세): 어떤 행동이 어떤 teleo-environment에 유일하게 최적일 수 있는 것은 정확히 그 행동이 deterministic(결정론적)일 때뿐이라는 일종의 ‘no-go’ 정리(Theorem 6.2.3·6.3.2)로, 행동 관찰만으로 ‘에이전트임’을 시험하려는 시도에 도전이 됨을 시사한다(§3.4). (3) bounded rationality(유계 합리성): transducer가 전체가 아닌 constrained class(제약 클래스, 제한된 기억·무작위성 모델) 안에서만 최적일 때, 그 클래스가 closed under trajectory splicing(궤적 접합에 닫힘, Definition 3.3.3)이면 value-laden Bellman 성질이 유지되지만, absent-minded driver[25]처럼 그렇지 않은 경우 최적해가 확률적이어서 value-laden filtering로 갱신되는 정신상태 귀속을 줄 수 없다(§3.5).
§4 Relation To Other Frameworks — 학문적 위치 짓기
이 절은 본 틀을 학문 지형 안에 위치 짓는 부분으로, 결정이론·인지신경과학·기계학습·복잡계의 네 형식론과 대비해 차별점을 드러낸다. 효용이론의 representation theorem(표현 정리 — 선호 순서 ≺이 특정 형식 성질을 만족하면 기대값 순위와 동치임을 보이는 정리; VNM[23]·Savage[28]·Bolker-Jeffrey[29])과 비교하면, 본 연구도 결정론적 행동 성향을 ‘제어 문제의 유일 최적해’로 표현하는 일종의 표현 결과지만, 선호 정보를 직접 가정하지 않고 행동만 주어진다는 점([14] Hausman의 논지처럼 믿음을 모르면 행동이 선호를 드러내지 못함), 그리고 표현이 단순 변환군에 의한 유일성을 갖지 못한다는 점에서 다르다(§4.1). free energy principle(자유에너지 원리, Bayesian mechanics[26])은 확률미분방정식을 쓰고 내부 상태를 다루며 시스템마다 ‘실제·전형적’ 환경에 대응하는 단일 특권적 믿음 상태를 찾으려 하지만, 본 논문은 시스템이 실제와 매우 다른 환경에 산다고 믿을 수 있는 경우까지 포함해 가능한 모든 믿음 귀속을 다루며 ‘참 환경’을 아예 고려하지 않는다(§4.2). inverse reinforcement learning(역강화학습, IRL — 정책으로부터 보상함수를 추론[1])과는 닮았으나, IRL은 보통 환경 정보를 주어진 것으로 가정하고 본질적으로 과소특정·고비용인 반면 본 접근은 정책만으로 에이전트의 정신상태 전체를 추론하려는 것이고 실제 계산을 목표하지 않기에 그 제약을 받지 않는다(§4.3). computational mechanics(계산역학[6])와는 이산시간 확률과정·causal state(인과상태)와의 유사성을 공유하나, 본 틀은 stationarity(정상성)를 전혀 다루지 않고 미래 방향으로만 무한한 수열을 보며 무엇보다 계산역학 문헌이 다루지 않은 intentional stance에 일차 초점을 둔다는 점이 큰 차이다(§4.4).
§5 Limitations and future work — 한계와 향후 과제
이 절은 글을 마무리하며 본 형식론의 한계와 향후 과제를 정리하고 핵심 결론을 재진술한다. 수학적 확장 방향으로는 norm 개념의 일반화(성공확률 최대화 대신 보상 최대화나 다중 목표), 연속 시간·연속값 입출력으로의 확장, 특히 단일 에이전트-환경을 넘어선 다중 상호작용 시스템, 그리고 에이전트의 환경 믿음(이론가가 귀속한)과 이론가 자신의 환경 믿음의 관계를 든다. 결정적 한계는 Dennett의 핵심 발상 — 어떤 시스템(이른바 intentional systems)에서는 지향적 자세가 물리적 자세보다 훨씬 생산적이라는 점 — 을 담지 못한다는 것으로, 본 틀은 어떤 teleo-environment를 믿음으로 일관되게 귀속할 수 있는지만 말할 뿐 어떤 귀속이 ‘더 낫거나’ 더 자연스러운지는 말하지 못하며(Theorem 3.4가 보였듯 “정확히 그대로 행동해야만 목표를 달성한다”는 사소한 믿음조차 늘 귀속 가능하지만 실제 에이전트 설명에는 거의 무익하다), 그 답은 아직 시작 단계인 bounded rationality에 있으리라 추정한다. 또 다른 한계로 goals·beliefs의 hyperintensional(초내포적) 차원을 모델링하지 않음을 든다 — 항아리에 비스킷이 일곱 개 있다고 믿으면서 그 제곱이 49임은 안 믿을 수 있듯, 같은 사태를 가리키는 믿음도 표상의 form·guise·mode of presentation에 따라 갈리며 이는 행동의 지연·오류 패턴을 설명하는 데 중요하지만 상당한 추가 형식 장치를 요한다. 결론적으로 저자들은 지향적 자세의 한 버전이 성립하는 단순한 틀을 제시했고, 그 안에서 어떤 목표(teleo-environment)에 최적인 에이전트는 이후 시각에도 value-laden (Bayesian) filtering으로 갱신된 같은 목표에 최적이며, 에이전트가 어떤 teleo-environment에 유일 최적인 것은 그것이 결정론적일 때 그리고 그때뿐임을 재확인하면서, 틀의 확장과 Dennett 이론과의 연결에 많은 과제가 남았다고 맺는다.
관련 연구 비교 매트릭스
선정 근거: 후보 4편은 각각 (1) 본 논문의 직접적 선행 연구로서 순수 인식론적 해석만을 다루는 기반 연구, (2) belief+value를 POMDP 틀로 결합한 직접 전신 연구, (3) 에이전시를 모델 선택 문제로 정의해 본 논문의 Theorem 3.4(결정론적 시스템의 전-귀속 가능성)와 정면으로 대비되는 대안 패러다임, (4) 단일 특권적 belief 상태를 부여하는 Free Energy Principle로서 본 논문의 “모든 허용 가능한 귀속” 입장과 대조되는 대안 패러다임이다.
| 축 | 본 논문 (McGregor et al., 2024) [target] | Virgo et al., 2021 (ECML PKDD) [base] | Biehl & Virgo, 2022 (Active Inference WS) [direct] | Orseau et al., 2018 (arXiv:1805.12387) [alternative] | Friston et al. / Ramstead et al., 2023 (FEP/Bayesian Mechanics) [alternative] |
|---|---|---|---|---|---|
| (1) 핵심 접근 | Dennett의 intentional stance를 확률적 트랜스듀서(teleo-environment)로 형식화; “가치-필터링”(Bellman 기반 Bayesian 갱신)으로 목표·믿음 동시 귀속 | 시스템 내부 상태를 Bayesian 추론기로 해석하는 “consistent Bayesian interpretation” 조건 정립; 순수 인식론적 의미론 부여 | Consistent Bayesian interpretation을 POMDP 가치 함수(value function)로 확장하여 합리적·가치-부여적 행동 해석 | 행동 시퀀스를 관찰한 뒤 Bayesian 모델 선택(에이전트 가설 vs. 디바이스 가설)으로 에이전시 감지 | 확률미분방정식 기반 자유에너지 최소화; Markov blanket을 통해 시스템에 단일 특권적 belief 상태 부여 |
| (2) 행위주체성 정의 방식 | Dennett의 의도적 태도를 규범적-인식론적 상태(teleo-environment = belief + desire)로 공리화; 성공 = P(적어도 한 번 성공) 최대화 | 에이전시를 별도 정의하지 않음; “일관된 Bayesian 해석이 존재하는 시스템” = 믿음을 가진 시스템으로만 간주 | POMDP를 풀고 있는 시스템으로 에이전시를 정의; 가치 함수 최적화를 통해 합리적 행위자 판별 | 에이전트 vs. 디바이스 이분법적 분류; 외부 행동 분포만으로 Bayesian 모델 선택 수행 | Markov blanket 내 시스템이 변분 자유에너지를 최소화하는 것을 에이전시의 지표로 사용; 내부 상태에 단일 generative model 귀속 |
| (3) belief vs value 포함 여부 | 둘 다 (both): belief(Bayesian 갱신)와 desire(목표 달성 확률)를 통합; 성공 신호 ⊥ 를 조건으로 한 가치-필터링 도입 | 인식론 전용 (epistemic only): belief(내부 상태의 Bayesian 의미론)만 다루며 목표·보상 없음 | 둘 다 (both): Bayesian belief + POMDP 가치 함수; 본 논문의 직접 전신 | 가치 내재적 (value-laden, implicit): 에이전트 가설 자체가 목표-지향성을 내포하나 belief 의미론은 명시적으로 분리되지 않음 | 둘 다 (both, 단 단일 해): variational Bayesian belief + 생존·항상성 목표로서의 자유에너지 최소화 |
| (4) 해(interpretation)의 유일성 | 비유일 (non-unique): 모든 시스템이 규범적-인식론적 해석을 가짐(Thm 3.4); 결정론적 시스템에서만 유일하게 명세 가능 | 비유일: 일관된 Bayesian 해석 조건이 약하여 다수의 해가 존재함을 명시 | 비유일: POMDP 해석 역시 다수가 가능하며 유일성 조건 미논의 | 유일 (unique, by selection): 모델 선택이 단일 분류(에이전트 or 디바이스)를 산출; 복수 해석 문제는 취급 안 함 | 유일 (unique, by privileged model): 시스템의 “진짜” generative model이 유일하게 존재한다고 가정; 복수 귀속 가능성 비논의 |
| (5) 진짜 환경 가정 | 없음 (No): 진짜 환경 무관; 허용 가능한 모든 믿음 귀속(거짓 믿음 포함)을 대상으로 하며 외부 환경 정보 불필요 | 없음 (No): 시스템 내부 상태의 수학적 조건만 검토; 진짜 환경 구조 불필요 | 부분적 (Partial): 관찰 공간·보상 구조를 명세하지만 진짜 환경 분포 자체는 특권적으로 가정하지 않음 | 없음 (No): 에이전시 판별은 순수히 행동 관찰 기반; 환경 내부 구조 가정 없음 | 있음 (Yes): 시스템이 실제 환경(stationary distribution, 자연스러운 generative process)에 맞는 단일 model을 가진다고 가정; 진짜 환경이 분석의 핵심 |
| (6) 실험/형식적 성격 | 순수 이론 (pure theory): 정의·보조정리·정리(Thm 3.4 등)만으로 구성; 실험 없음 | 순수 이론 (pure theory): 형식적 조건 및 증명; 실험 없음 | 순수 이론 (pure theory): 형식적 확장 및 증명; 실험 없음 | 이론 + 소규모 예시 (theory + toy examples): 형식 틀 제시 후 간단한 수치 예제로 검증 | 이론 + 신경과학 적용 (theory + neuro application): 수학적 형식 틀 + 다수의 경험적/신경과학 적용 사례 |
| (7) 코드 공개 | ❌ (없음) | ❌ (알 수 없음 / none known) | ❌ (알 수 없음 / none known) | ❌ (알 수 없음 / none known) | 부분적 ⚠️ (DEM toolbox 등 일부 존재하나 본 논문 특정 코드는 없음) |
원자적 인사이트 (Zettelkasten)
💡 행위성은 시스템의 속성이 아니라 관찰자의 자세다
출처: Formalising the intentional stance 1 - attributing goals and beliefs to stochastic processes (McGregor, timorl, Virgo, 2024)
유형: 이론적
“이 시스템이 에이전트인가?”는 잘못된 질문이다. 어떤 확률과정이든 적어도 하나의 목표-믿음(normative-epistemic) 해석을 허용하므로, 행위성은 발견되는 객관적 사실이 아니라 관찰자가 채택하는 지향적 자세(intentional stance)다. 체온조절기든 LLM이든 “원한다/안다”고 말할 수 있느냐의 문제가 아니라, 그 묘사가 행동과 정합적인 해석의 하나일 뿐이라는 뜻이다.
핵심 조건/맥락: 효용이론이 아닌 “성공확률 최대화” 형태의 goal-belief 합리성을 가정. 해석의 존재성은 사소(trivial)할 수 있으나 항상 성립.
연결: Interpreting dynamical systems as Bayesian reasoners, The Intentional Stance
활용 가능성: LLM 행위성 논쟁에서 “진짜 의도가 있냐”는 질문을 “어떤 stance가 행동을 가장 절약적으로 설명하냐”로 재구성하는 분석틀로 사용.
💡 목표-믿음 해석이 유일해지는 것은 시스템이 결정론적일 때뿐이다
출처: Formalising the intentional stance 1 - attributing goals and beliefs to stochastic processes (McGregor, timorl, Virgo, 2024)
유형: 이론적
모든 시스템이 어떤 해석을 갖는다는 사실은 동시에 ‘대부분 해석이 비유일하다’는 뜻을 함축한다. 명세 불가능성 정리(Theorem 6.2.3/6.3.2)는, 하나의 목표-믿음 구조로 시스템을 유일하게 명세할 수 있는 경우가 정확히 결정론적(deterministic) 시스템에 한정됨을 보인다. 확률적 행동이 조금이라도 섞이면 동일 행동을 설명하는 정신상태 귀속이 여러 개 공존한다.
핵심 조건/맥락: teleo-environment에서 normative-epistemic state ε가 비유일하다는 일반 사실의 정밀화. ‘유일 명세 가능 ⟺ deterministic’.
연결: Interpreting systems as solving POMDPs, Agents and devices
활용 가능성: IRL이나 행동→목표 역추론에서 “목표를 유일하게 복원할 수 있다”는 가정의 한계를 이론적으로 정당화. 비결정론 시스템에선 정체성 식별 문제가 본질적임을 시사.
💡 정신상태의 갱신은 베이즈가 아니라 value-laden filtering이다
출처: Formalising the intentional stance 1 - attributing goals and beliefs to stochastic processes (McGregor, timorl, Virgo, 2024)
유형: 방법론적
에이전트로 해석된 시스템의 믿음이 시간에 따라 어떻게 변하는지는 표준 베이즈 갱신으로 설명되지 않는다. 정상적(아직 성공하지 못한, ⊥에 조건화된) 경로에서만 정신상태가 살아남고 그 비율로 재가중되므로, 갱신은 가치(목표)가 개입된 필터링(value-laden filtering, Corollary 5.0.3)이다. 이는 Bellman류 성질 및 single-success truncation Z(ε)과 함께 도출된다.
핵심 조건/맥락: 성공이 “⊤가 적어도 한 번 발생”으로 정의되고 telos 채널이 비관측일 때. POMDP·consistent Bayesian interpretation과 잇닿음.
연결: Interpreting systems as solving POMDPs, Interpreting dynamical systems as Bayesian reasoners
활용 가능성: 능동추론(active inference)·자유에너지 원리와 달리 ‘참 환경을 무시하고 모든 믿음을 허용’하는 갱신 규칙으로, 목표지향 시스템의 신념 동역학을 모델링하는 대안 공식으로 활용.
핵심 용어 정리
| 용어 | 정의 |
|---|---|
| 지향적 자세 (intentional stance) | 시스템을 ‘목표와 믿음을 가진 듯’ 취급해 그 행동을 예측·설명하는 관찰자의 관점. Dennett에서 유래하며, 본 논문은 이를 시스템의 내재적 속성이 아닌 ‘as-if’ 해석으로 본다. |
| transducer | 입력열을 받아 출력열을 내는 (확률적) 과정. 무한열을 다루기 위해 coinduction으로 엄밀하게 정의한다. policy는 상태→행동(S→A) transducer다. |
| teleo-environment | 목표가 심긴 환경. 행동을 받아 다음 상태와 성공/실패 신호를 내며(A→S×{⊥,⊤}), ‘⊤가 적어도 한 번 일어날 확률을 최대화’하는 것이 telos(목적). 이 telos 채널은 직접 관측되지 않는다. |
| normative-epistemic state (ε) | 시스템에 귀속되는 ‘목표(규범적)+믿음(인식적)‘을 한데 담은 정신상태. 주어진 행동과 정합적인 ε는 일반적으로 유일하지 않다. |
| value-laden filtering | 정신상태의 시간적 갱신 방식. 표준 베이즈 갱신이 아니라, 아직 실패하지 않은(⊥에 조건화된) 경로만 살리고 재가중하는, 가치(목표)가 개입된 필터링(Corollary 5.0.3). |
| 명세 (specification) | 하나의 목표-믿음 구조로 시스템을 유일하게 지정하는 것. 본 논문의 no-go 결과(Theorem 6.2.3/6.3.2)는 이것이 가능한 경우가 정확히 결정론적 시스템임을 보인다. |
| bounded rationality | 유계 합리성. 최적 정책이 확률적일 수 있는 상황(예: absent-minded driver). 경로 접합(trajectory splicing)에 대해 닫혀 있으면 좋은 성질이 유지되지만, 그렇지 않으면 깨질 수 있다. |
| success / ⊥ / ⊤ | teleo-environment가 내는 성패 신호. ⊤는 목표 달성 사건, ⊥는 미달성. ‘성공’은 ⊤가 한 번이라도 발생하는 사건으로 정의되며, 그 확률 최대화가 합리성 기준이다(효용이론과 구별됨). |
관련 연구
- Interpreting dynamical systems as Bayesian reasoners (Virgo/Biehl/McGregor, 2021) — 동역학계를 베이즈 추론자로 해석하는 선행 작업. 본 논문의 normative-epistemic 해석에서 ‘믿음’ 축의 직접적 토대.
- Interpreting systems as solving POMDPs (Biehl & Virgo, 2022) — 시스템을 POMDP 풀이자로 보는 틀. teleo-environment·value-laden filtering이 POMDP·consistent Bayesian interpretation과 잇닿는 지점.
- Agents and devices (Orseau/McGregor McGill/Legg, 2018) — ‘에이전트 대 장치’ 구분 문제. 어떤 시스템을 에이전트로 볼지를 묻는 본 논문 명세(specification) 논의의 인접 작업.
- The Intentional Stance (Dennett, 1981) — 본 논문 전체가 형식화하려는 철학적 원천. ‘as-if’ 행위성과 지향적 자세 개념의 출처.
태그
paper #2024 Theory agency intentional-stance Bayesian POMDP cognitive-science
BibTeX
@misc{mcgregor2024formalising,
title={Formalising the intentional stance 1: attributing goals and beliefs to stochastic processes},
author={McGregor, Simon and timorl and Virgo, Nathaniel},
year={2024},
eprint={2405.16490},
archivePrefix={arXiv},
primaryClass={math.OC},
url={https://arxiv.org/abs/2405.16490}
}