Moral Problem — 메타윤리 삼각 허브 (Smith 1994)
Digest: 메타윤리의 “도덕 문제(moral problem)“란 현대 윤리학자 대부분이 직관적으로 수용하는 세 가지 명제가 공동으로 양립 불가능하다는 구조적 사실이다: (C) Cognitivism — 도덕 판단은 참거짓을 가질 수 있는 믿음이다; (I) Internalism — 누군가 X가 옳다고 판단하면, 다른 조건이 동일할 때 X를 할 동기를 자동으로 가진다; (H) Humean Theory of Motivation — 믿음만으로는 동기가 생기지 않는다(욕구가 필요). Smith의 핵심 통찰은 이 셋이 개별로는 매력적이지만 (C ∧ H → 도덕 판단은 내재적 동기력 없음), (I)와 충돌한다는 것이다. 해결책으로 Smith(1994)는 **“완전 합리적 행위자가 갖는 욕구”**를 도덕 판단의 내용으로 정의해, 도덕적 믿음이 합리적 행위자에겐 필연적으로 관련 욕구를 수반한다고 주장 — (C)(I)(H)를 약한 형태로 조화시킴. 근거: 완전 합리적 자아(fully rational self)는 일관성·정보 완비성을 만족, 실제 자아가 이를 “닮아가는 경향”이 ceteris paribus 조건을 구성. 한계(저자 명시): “praticality requirement”는 reliable/strong 한 내재성만 요구하지 논리적 필연은 아님 → 심리적 이상(psychopath, amoralist) 반례를 약화된 형태로만 수용. 누락된 한계: **Sinhababu(2009)의 DODI(욕구는 욕구에서만 나온다)**를 받아들이면 “합리적 욕구”는 결국 또 다른 배경 욕구에 의존하게 되어 Smith의 해결이 작동하지 않음. 열린 질문: 완전 합리적 행위자의 욕구는 개인간 수렴하는가(도덕적 실재론의 핵심), 아니면 우연적으로 분기하는가?; amoralist를 단순한 “약화된 동기” 사례로 수용하면 Internalism의 실질적 내용이 희석되지 않는가? 이 노트는 The Humean Theory of Motivation (Smith 1987)에서 정립된 Humean 방어가 어떻게 1994년의 삼각 퍼즐로 이어지고, 다시 The Humean Theory of Motivation Reformulated and Defended (Sinhababu 2009)의 강한 Humean(DBTA+DODI)에 의해 Smith 자신의 해결책이 위협받는 궤적을 연결하는 허브다.
섹션별 요약
Introduction
- 배경: 분석 윤리학의 1990년대 초 정체 상태. 도덕 실재론(cognitivism) vs 비인지주의(expressivism/emotivism) 논쟁이 각자 중대한 비용을 치르고 있음.
- 기여점: 논쟁의 구조를 **세 명제의 비양립 삼각(trilemma)**로 정식화함으로써 이후 20년 metaethics 프로그램의 공통 문제 설정을 제공. Smith 자신의 해결(“rational desires”)보다 문제 정식화가 더 영향력 있음.
Methods (논증 전략)
- 개념 분석: 세 명제 각각의 매력을 독립적으로 논증, 그런 다음 공동 불가능성을 도출.
- 해결 구성: “합리적 욕구”를 도덕 판단의 내용으로 정의하는 analytic 환원 제안.
- 사례/반례 대응: amoralist, 우울증 환자, 심리적 일탈 사례를 “약화된 내재성(weak internalism)“으로 흡수.
Results (삼각 퍼즐과 해결 시도)
- 삼각 불가능성: (C)와 (H)가 결합하면 도덕 판단은 내재적 동기력을 가질 수 없음 → (I) 위반.
- 해결: 도덕 판단 “X는 옳다” ≡ “완전 합리적 자아가 실제 상황에서 X를 욕구할 것이다”라는 믿음. 완전 합리적 자아에 대한 믿음 + 실제 자아가 그를 닮아가는 성향 → 판단이 동기를 수반.
- 세 명제 조화:
- (C) 살아남음: 도덕 판단은 합리적 욕구에 관한 믿음, 따라서 참거짓 가능.
- (I) 약화 수용: “완전 합리적이지 않은” 행위자는 동기 부족 가능(amoralist).
- (H) 온건 버전 수용: desire가 필요, 하지만 합리성이 필연적으로 관련 desire를 동반.
Discussion
- 저자 명시 한계: practicality requirement는 “reliable하고 strong”한 내재성이지 논리적 필연 내재성 아님. 약화된 internalism임을 자인.
- 반응 진영: 강한 내재주의자(Shafer-Landau 등)는 Smith의 약화가 (I)의 실질 내용을 희석한다고 비판. 강한 Humean(Sinhababu)은 “합리적 욕구”가 결국 배경 욕구를 전제한다고 지적.
Insights
- 주목할 점: 삼각 구조의 정식화 자체가 Smith의 장기적 기여. 이후 metaethics는 “어느 변을 자를 것인가”의 선택지로 분기 — expressivism(C 부정), externalism(I 부정), 비-Humean(H 부정), Smith식 조화(약화 조합).
- 연결 고리: The Humean Theory of Motivation (Smith 1987)의 P1/P2 분리, direction of fit 정식화가 (H)의 명료화로 직결. Sinhababu(2009)의 DBTA+DODI는 (H)를 더 강하게 만들어 Smith 해결책을 흔듬.
- 시사점: AI alignment에서 “규범 판단 → 행동 동기” 전이 구조의 철학적 원형. 언어 모델이 “X는 해로워” 판단을 할 때, 이것이 실제 회피 행동으로 이어질지 여부는 (I)에 대응.
- 비판적 코멘트: “완전 합리적 자아”의 수렴성(convergence)은 경험적 주장이 아닌 개념적 약정에 가까움. 개인간 합리적 욕구가 발산하면 도덕 실재론은 지탱되지 않음.
Discussion Points
- 논쟁점: amoralist(옳다고 판단해도 동기 없는 자)가 실재하는가? Smith는 “perverse” 사례로 처리; Brink 등은 “정상 현상”으로 externalism 지지.
- 검증 필요 가정: ceteris paribus 조항의 범위 — 얼마나 많은 것이 “동일 조건”에서 제외되면 (I)가 실질적으로 공허해지는가.
- 후속 연구: Sinhababu(2009)의 DODI는 Smith의 “합리적 욕구” 개념에 직접 도전; Arruda·Milevski 등은 우울증·무기력 사례로 DBTA 자체를 공격.
메타데이터
| 항목 | 내용 |
|---|---|
| 제목 | The Moral Problem |
| 저자 | Michael Smith |
| 소속 | Monash → Princeton University |
| 연도 | 1994 |
| 발표 | Wiley-Blackwell (Philosophical Theory series). 200여 쪽 단행본. APA Book Prize (2001). |
| 링크 | PhilPapers, Amazon, Smith의 ‘Refined Moral Problem’ PDF |
| 키워드 | moral problem, trilemma, cognitivism, internalism, Humean theory, rational desires, metaethics |
왜 이 연구를 하는가?
핵심 질문
도덕 판단의 객관성(C), 동기적 실효성(I), 그리고 동기 이론의 표준 그림(H)—이 셋은 개별적으로 모두 직관적으로 수용 가능하지만, 동시에 참일 수 있는가?
기존 접근법의 한계
| 입장 | 해결책 | 한계 |
|---|---|---|
| Expressivism (Ayer, Stevenson, Blackburn) | (C) 포기: 도덕 판단은 감정·태도 표출 | 도덕적 오류·진전·실재론적 직관 상실 |
| Externalism (Brink, Shafer-Landau) | (I) 포기: 도덕 판단과 동기는 우연적 연결 | 도덕 판단의 실천적 성격 약화 |
| 비-Humean (Nagel, McDowell, Scanlon) | (H) 포기: 믿음만으로도 동기 가능 | The Humean Theory of Motivation (Smith 1987)에서 Smith 자신이 논파 |
| 상대주의·주관주의 | (C) 약화 | 도덕 비판의 보편성 상실 |
핵심 통찰
- 각 명제 개별 매력 + 공동 양립 불가능성 = 본질적 삼각 구조.
- 해결은 “어느 변을 어떻게 약화해서 조합하는가”의 전략 선택 문제.
- Smith의 제안: (H)의 약한 버전 + (I)의 약한 버전을 “완전 합리적 자아가 욕구하는 것”이라는 분석으로 매개.
방법 (Method)
프레임워크 개요: 삼각 퍼즐 + Smith의 해결 + Sinhababu의 재위협
graph TB subgraph Triangle["메타윤리 삼각 (Smith 1994)"] C["C. Cognitivism<br/>도덕 판단 = 참거짓 가능한 믿음"] I["I. Internalism<br/>판단 → 동기 (ceteris paribus)"] H["H. Humean Theory<br/>믿음만으론 동기 불가"] C -.양립 불가.- H H -.양립 불가.- I I -.양립 불가.- C end Triangle --> S["Smith의 해결:<br/>Rational Desires 분석"] S --> S1["판단 'X는 옳다' ≡<br/>'합리적 자아가 X를 욕구한다'는 믿음"] S --> S2["(H) 약화: 욕구는 필요하지만<br/>합리성이 그것을 수반"] S --> S3["(I) 약화: 비합리 상태엔<br/>동기 부족 허용"] H2["[[Smith 1987]]<br/>P1 방어 (direction of fit)"] --> H H3["[[Sinhababu 2009]]<br/>DBTA + DODI (강한 Humean)"] --> W["⚠ Smith 해결 위협<br/>DODI: 욕구는 욕구에서만<br/>→ '합리적 욕구'는<br/>배경 욕구에 의존"] style S fill:#ffe4b5 style W fill:#ffb6b6 style Triangle fill:#e6f3ff
핵심 구성요소
- C. Cognitivism (인지주의): 도덕 판단은 세계의 도덕적 사실에 대한 믿음이며 진리치를 가진다. “살인은 나쁘다”는 참 또는 거짓이다.
- I. Internalism (내재주의) — Practicality Requirement: 누군가 X가 옳다고 진지하게 판단하면, ceteris paribus 그 판단은 X를 할 동기를 수반한다. 판단과 동기의 개념적·신뢰성 있는 연결.
- H. Humean Theory: 동기는 욕구 + 수단-목적 믿음이며, 믿음 단독으로는 동기가 생기지 않는다.
- 삼각 모순 도출:
- C → 도덕 판단은 믿음.
- H → 믿음 단독으로는 동기 생성 불가.
- ∴ 도덕 판단은 내재적 동기 없음.
- 그러나 I → 도덕 판단은 내재적 동기 수반.
- 모순.
- Smith의 해결 전략:
- “X는 옳다” = “완전 합리적 자아가 실제 상황에서 X를 욕구할 것이다”라는 믿음으로 분석.
- 완전 합리적 자아(fully rational self) = 정보 완비 + 일관 + 안정 선호 구조를 가진 이상적 자아.
- 실제 자아는 합리성을 “닮아가는 경향”을 가지므로, 도덕 판단은 신뢰성 있게(reliably) 욕구를 촉발 → (I) 약화 만족.
- 믿음의 내용이 “합리적 자아의 욕구”를 참조하므로, 합리적 행위자에겐 필연적으로 해당 욕구 수반 → (H) 약화 만족.
- 판단은 여전히 믿음이고 참거짓 가능 → (C) 유지.
발견 (Findings)
Smith의 약화된 삼각 조화
| 명제 | 원본 강도 | Smith 1994 버전 |
|---|---|---|
| Cognitivism (C) | 도덕 판단 = 진리치 있는 믿음 | 유지 (analytic reduction to “rational self의 욕구” 믿음) |
| Internalism (I) | 판단 → 필연적으로 동기 | 약화: reliable·strong한 연결, amoralist는 perverse 예외 |
| Humean (H) | 믿음만으론 절대 동기 불가 | 약화: 욕구가 필요하지만, 합리성이 필연적으로 욕구 수반 |
반응 지도
| 논자 | 삼각의 어느 변 | 결과 |
|---|---|---|
| Blackburn (quasi-realism) | C 약화 | 비인지주의 + 실재론적 말투 보존 |
| Brink, Shafer-Landau | I 약화/거부 | 도덕 실재론 + externalism |
| McDowell, Scanlon | H 거부 | 믿음 단독의 동기력 인정 |
| Smith (1994) | I·H 동시 약화 | rational desire 분석 |
| Sinhababu (2009) | H 강화 (DBTA+DODI) | Smith 해결 비판 — 양립 불가 심화 |
핵심 발견
- Smith 해결의 아킬레스건: (I)의 약화가 너무 크면 “도덕 판단과 동기의 연결”이라는 본래 직관을 상실. 너무 작으면 삼각은 여전히 모순.
- Sinhababu의 반격: DODI(“욕구는 욕구에서만 나온다”)가 참이라면, “완전 합리적 자아”의 욕구도 또 다른 선행 배경 욕구에서 도출되어야 함 → Smith의 분석은 순환 or 회귀. 즉 강한 Humean은 Smith의 (H) 약화를 허용하지 않는다.
- 메타 구조: 이 허브 노트에서 보이는 전개는 Smith 1987 → Smith 1994 → Sinhababu 2009가 단순 연대기가 아니라 Humean을 강화할수록 metaethics 조화가 어려워지는 긴장의 증폭임.
이론적 의의
메타윤리 연구 프로그램의 구조화
Smith 이전엔 “인지주의 vs 비인지주의”, “실재론 vs 반실재론” 같은 이분법이 주류. Smith의 삼각 정식화는 이 논쟁들이 단일한 구조적 문제의 다른 면임을 드러냄. 이후 metaethics는 사실상 “어느 변을 어느 강도로 약화할 것인가”의 선택 공간에서 진행.
Motive/ 폴더 허브로서의 역할
- The Humean Theory of Motivation (Smith 1987)이 (H)를 어떻게 방어하는지 정리.
- The Humean Theory of Motivation Reformulated and Defended (Sinhababu 2009)이 (H)를 더 강하게 만들어 삼각을 풀기 더 어렵게 만드는 궤적 제시.
- 반-Humean(Nagel/McDowell/Scanlon)은 (H) 거부 시도로, 이 허브에서 보면 “삼각의 한 변을 통째로 자르는 가장 급진적 전략”.
AI Alignment / Agent 동기 설계 함의
삼각 구조는 언어 모델·에이전트 설계에서 재현된다:
| 메타윤리 | AI 에이전트 |
|---|---|
| C. Cognitivism | 에이전트가 규범적 판단을 표상하는가? (policy의 가치 함수, constitutional rules) |
| I. Internalism | 규범 판단이 행동에 실효적으로 영향을 미치는가? (alignment tax, sycophancy vs honesty) |
| H. Humean | 판단(인지 상태)만으로 행동이 변하는가, 아니면 별도 선호/보상 신호가 필요한가? (RLHF의 보상 모델 vs pure prompting) |
- Externalism 경향: 순수 prompting으로 “X는 해로워”를 학습시켜도 회피 행동이 신뢰성 있게 따라오지 않으면 → (I) 위반.
- Smith식 조화: 판단의 내용을 “합리적 에이전트의 선호”로 두고 모델이 그 선호를 내재화하면 (I)가 자동 성립 — Constitutional AI의 근본 베팅과 구조적으로 유사.
- Sinhababu식 비판: DODI가 참이면, 에이전트의 “합리적 선호”도 사전 학습 분포의 **선행 편향(pre-existing preferences)**에서 나옴 → alignment의 궁극 문제는 “어떤 선행 선호가 주어졌는가”.
재현성 및 신뢰도 평가
| 항목 | 등급 | 비고 |
|---|---|---|
| 코드/데이터 | N/A | 철학 단행본 |
| 논증 명료성 | ✅ | 삼각 구조의 명시적 정식화가 논리적으로 투명 |
| 인용/전거 완전성 | ✅ | Hume, Nagel, McDowell, Platts, Davidson, Williams, Parfit 전반 커버 |
| 이론적 생산성 | ✅ | 이후 20년 metaethics 프로그램의 공통 언어 제공 |
| 종합 등급 | A | 현대 metaethics의 landmark |
주장별 신뢰도
| # | 주장 | 근거 | 신뢰도 |
|---|---|---|---|
| 1 | C·I·H 셋이 공동 양립 불가 | 단순 논리적 귀결, 일반 수용 | 🟢 |
| 2 | ”Rational desire 분석”이 삼각 조화 | 개념 분석에 의존; 반론 다수 | 🟡 |
| 3 | 완전 합리적 자아의 욕구가 개인간 수렴 | 경험적 뒷받침 없음; Williams internal reason 비판 | 🔴 |
| 4 | amoralist는 perverse 주변 사례 | 직관적 논증; Brink 등 반박 | 🟡 |
| 5 | Humean 약화가 실질적으로 (H)를 보존 | Sinhababu(2009)가 반대 주장 | 🟡 |
읽기 난이도: ⭐⭐⭐
배경지식 요구: The Humean Theory of Motivation (Smith 1987) 선독 강력 권장, Williams의 Moral Luck (internal/external reasons), Nagel The Possibility of Altruism, 메타윤리 기본기 (cognitivism/non-cognitivism, realism/anti-realism). 대학원 수준.
관련 연구 비교 매트릭스
| 축 | Smith (1994) | Smith (1987) | Sinhababu (2009) | Blackburn quasi-realism | Brink (externalism) | McDowell (비-Humean) |
|---|---|---|---|---|---|---|
| 핵심 입장 | C∧I∧H 약화 조화 (rational desire) | H 방어 | 강한 H (DBTA+DODI) | C 포기 (표현주의) | I 포기 | H 거부 |
| Cognitivism | 유지 (analytic) | 무관 | 무관 (함의상 양립 어려움) | 거부 | 유지 | 유지 |
| Internalism | 약화 수용 | 무관 | 함의상 양립 불가 | 유지 (태도 표출) | 거부 | 유지 |
| Humean | 약화 수용 | 강하게 방어 | 강화 (DBTA+DODI) | 양립 | 강한 버전 수용 | 거부 |
| amoralist 처리 | perverse 예외 | 무관 | Hedonic 2차 욕구 부재 | 실패한 태도 | 정상 현상 | 덕 결여 |
| 메타윤리 위치 | 온건 도덕 실재론 | 메타윤리 중립 (동기 이론) | 메타윤리 중립 (동기 이론) | quasi-realism | 실재론 + externalism | 덕 실재론 |
| 핵심 약점 | 합리적 욕구 수렴 증명 부재 | 완전 functional theory 부재 | 삼각 해결책 자체 미제시 | 도덕 오류·진전 설명 빈약 | 실천성 직관 상실 | belief 단독 동기 입증 부담 |
관련 연구
- The Humean Theory of Motivation (Smith 1987) — 이 허브의 (H) 변의 이론적 기반. P1/P2 분리, direction of fit, 3단 논증.
- The Humean Theory of Motivation Reformulated and Defended (Sinhababu 2009) — (H)를 강화하여 Smith 1994 해결을 위협. DBTA+DODI + 5 aspects.
- Williams (1981) “Internal and External Reasons” (Moral Luck) — internalism 원형. Smith 1994의 내재성 분석의 출발점.
- Nagel (1970) The Possibility of Altruism — 비-Humean 정전. (H) 거부 전략.
- Blackburn (1993) Essays in Quasi-Realism — (C) 약화 전략의 대표.
- Brink (1989) Moral Realism and the Foundations of Ethics — (I) 거부 전략의 대표.
원자적 인사이트 (Zettelkasten)
💡 메타윤리 논쟁은 본질적으로 C·I·H 삼각 중 어느 변을 약화할지의 선택 공간이다
출처: The Moral Problem - Metaethics Triangle (Smith 1994) (Michael Smith, 1994)
유형: 이론적·구조적
1990년대 이전의 “인지주의 vs 비인지주의”, “실재론 vs 반실재론” 같은 이분법적 구도는 Smith의 삼각 정식화 이후 C(도덕 판단=믿음) / I(판단→동기) / H(믿음만으론 동기 불가) 세 명제 중 어느 것을 어느 강도로 약화하느냐의 선택 공간으로 재구성된다. 모든 주요 metaethics 입장은 이 공간의 한 점이다.
핵심 조건/맥락: 세 명제 각각의 직관적 매력 강도가 전제. 아주 급진적 입장(예: 오류 이론)은 다수의 변을 동시에 자른다.
연결: Mackie 오류 이론, Blackburn quasi-realism, The Humean Theory of Motivation (Smith 1987).
활용 가능성: AI alignment의 “규범 → 행동” 설계 공간도 동일 삼각 구조로 분석 가능. Constitutional AI는 Smith식 조화, RLHF는 externalism적, pure prompting은 비-Humean 베팅에 대응.
💡 강한 Humean(DBTA+DODI)은 Smith의 “합리적 욕구 분석”을 무너뜨린다
출처: The Moral Problem - Metaethics Triangle (Smith 1994) + The Humean Theory of Motivation Reformulated and Defended (Sinhababu 2009)
유형: 연결 (두 논문 대립)
Smith 1994의 해결은 “합리적 자아의 욕구”가 배경 욕구의 도움 없이 합리성만으로 결정된다고 전제한다. 그러나 Sinhababu의 DODI(“욕구는 욕구에서만 나온다”)가 참이면, 이 합리적 욕구조차 또 다른 선행 배경 욕구에서 도출되어야 한다. 즉 강한 Humean을 받아들이면 Smith식 조화는 순환 또는 무한 회귀에 빠진다.
핵심 조건/맥락: DODI의 타당성이 결정적. Sinhababu는 DODI가 Hume 원전 정신에 더 충실하다고 논증.
연결: 두 논문이 이 허브의 핵심 긴장을 만듬.
활용 가능성: AI alignment에서 “에이전트의 규범적 선호”가 사전 학습 분포의 선행 편향 없이 합리성만으로 정해질 수 있는지의 질문 — 구조적으로 동일. DODI 관점에서는 불가능.
💡 Internalism의 “ceteris paribus” 조항이 미로의 관문이다
출처: The Moral Problem - Metaethics Triangle (Smith 1994) (Michael Smith, 1994)
유형: 방법론적
(I)의 강도는 “ceteris paribus 조항에서 무엇을 제외하는가”에 전적으로 달려있다. 조항이 너무 좁으면 amoralist 같은 반례가 (I)를 무너뜨리고, 너무 넓으면 (I)가 공허해진다. Smith는 “완전 합리성”을 조항의 최대 범위로 설정해 amoralist를 “비합리의 perverse 사례”로 배제. 그러나 이 조항 설정 자체가 규범적 선택이라는 점이 논쟁의 핵심.
핵심 조건/맥락: 내재주의 vs 외재주의 논쟁은 사실상 ceteris paribus 범위 협상.
연결: Brink externalism, Shafer-Landau 강한 internalism.
활용 가능성: AI 평가에서 “모델이 X를 해롭다고 알면 회피하는가” 테스트 설계 — 어떤 조건을 “정상”으로 간주할지 결정할 때 동형 문제.
핵심 용어 정리
| 용어 | 정의 |
|---|---|
| Moral Problem (Trilemma) | (C) Cognitivism, (I) Internalism, (H) Humean Theory of Motivation 세 명제의 공동 양립 불가능성. |
| C. Cognitivism (인지주의) | 도덕 판단은 세계에 관한 참거짓 가능한 믿음이라는 입장. 실재론과 호환. |
| I. Internalism (내재주의) / Practicality Requirement | 도덕 판단이 ceteris paribus 조건에서 동기를 수반한다는 명제. “X가 옳다”고 판단하는 사람은 X를 할 경향을 자동으로 가진다. |
| H. Humean Theory of Motivation | 동기는 desire + means-end belief로 구성되며, 믿음 단독으로는 동기 생성 불가. The Humean Theory of Motivation (Smith 1987) 참조. |
| Externalism | (I) 거부 입장. 도덕 판단과 동기의 연결이 우연적·경험적. Brink, Shafer-Landau. |
| Expressivism / Non-cognitivism | (C) 거부 입장. 도덕 판단은 태도·감정 표출이며 참거짓 없음. Ayer, Blackburn. |
| Rational Desires (Smith 1994) | 완전 합리적 자아가 실제 상황에서 가질 욕구. 도덕 판단의 분석 내용으로 기능. |
| Amoralist | 도덕 판단을 진심으로 하면서도 동기를 전혀 갖지 않는 가상 행위자. 강한 internalism의 반례 후보. |
| Practicality Requirement | Smith가 정식화한 (I)의 다른 이름. 도덕 판단의 실천적 성격에 대한 요구. |
| Fully Rational Self | 정보 완비 + 논리 일관 + 안정적 선호 구조를 가진 이상적 자아. Smith의 rational desire 분석의 기준점. |
태그
paper #1994 philosophy metaethics moral-problem cognitivism internalism Humean hub-note Smith