Introduction
- 의식 이론이 충족해야 할 엄격한 기준: falsifiability와 non-triviality
- 많은 현대 의식 이론(인과 구조 기반, 기능 기반)이 이 기준을 통과하지 못함을 논증
- “Proximity Argument”를 통한 LLM 의식 불가능성의 형식적 증명
- Integrated Information Theory (Tononi)
- Global Workspace Theory
- Functionalism 기반 의식 이론
- Chalmers (2023) - Could a Large Language Model be Conscious?
Methods
- Proximity Argument: LLM과 기능적으로 동등한 시스템 중 어떤 비자명(non-trivial) 이론도 의식을 판정할 수 없는 시스템이 존재함을 증명
- 의식 이론의 형식적 요건 (falsifiability, non-triviality) 정의
- Continual learning 기반 이론이 이 형식적 제약을 만족함을 긍정적으로 증명
Results
- 인과 구조 기반 및 기능 기반 의식 이론들이 형식적 기준 미달
- Continual learning 기반 이론만이 형식적 요건 충족
- 현재 LLM은 continual learning 능력이 부재하므로 의식 불가
Discussion
- LLM의 현재 한계(continual learning 부재)가 의식 부재와 밀접히 연결
- 향후 continual learning이 가능한 AI에서는 의식 논의가 달라질 수 있음
- 의식 이론의 형식화에 대한 중요한 기여