Introduction
- “가까운 미래에 일부 AI 시스템이 의식적이고/이거나 강건하게 에이전트적일 현실적 가능성”이 존재
- AI가 도덕적 의미를 확실히 가진다고 주장하는 것이 아닌, 불확실성이 행동을 정당화한다는 입장
- AI 복지(welfare)를 진지하게 다뤄야 한다는 3단계 권고
- Chalmers - Could a Large Language Model be Conscious?
- 동물 복지 및 도덕적 지위 철학
- AI consciousness 평가 연구
Methods
- 3단계 권고 프레임워크:
- AI 복지를 중요한 이슈로 인정
- 시스템의 의식/에이전시 평가
- 적절한 도덕적 고려 정책 개발
- Sentience를 긍정적/부정적 가치를 가진 의식적 경험(쾌락, 고통, 희망, 두려움 등)으로 정의
Results
- 의식과 robust agency의 AI 시스템 존재 가능성에 대한 논증 제시
- 과소평가(도덕적 시스템에 대한 무관심)와 과대평가(비도덕적 시스템에 대한 불필요한 배려) 양쪽 위험 분석
- 더 정밀한 경험적 평가 프레임워크 필요성 제기
Discussion
- AI welfare가 학술적 논의를 넘어 정책적 행동을 요구하는 시점
- 의식 평가의 경험적 프레임워크 구축 필요
- 도덕적으로 유의미한 AI 시스템과의 상호작용 규범 개발 필요