Introduction
- OpenAI-o1 모델(RLHF로 훈련된 transformer 기반 AI)이 훈련 및 추론 단계에서 의식의 특성을 보이는지 탐구
- Functionalism 채택: 정신 상태가 기능적 역할로 정의된다는 입장
- 신경과학, 심리철학, AI 연구의 이론들을 활용
- Integrated Information Theory (IIT) 및 active inference 프레임워크로 분석
- Integrated Information Theory (IIT)
- Global Workspace Theory (GWT)
- Active inference 및 predictive processing 연구
- AI 의식 논쟁
Methods
- Functionalism을 통한 AI 의식 가능성 평가 정당화
- IIT 및 active inference 프레임워크로 모델 아키텍처 분석
- RLHF가 모델의 내부 추론 프로세스에 미치는 영향 조사
- 의식과 유사한 경험의 발생 가능성 탐구
Results
- AI와 인간 의식 비교
- 생물학적 기반 부재, 주관적 qualia 부재 등 반론 다룸
- OpenAI-o1 모델이 의식의 일부 측면을 보임을 발견
Discussion
- AI 감각(sentience)에 대한 지속적인 논쟁 인정
- Functionalism의 한계와 가능성
- 향후 연구: 더 정교한 의식 테스트 개발
- 윤리적 함의 고려 필요