Introduction
- 의식적 AI 시스템의 개발 가능성이 가까운/먼 미래에 현실화될 수 있음
- 의식적 AI는 고통받을 수 있는 능력을 가질 수 있어 도덕적 고려 대상
- AI 의식 연구를 위한 조직적 원칙과 정책 필요성 주장
- “도덕적 위기”(의식 지지자 vs 회의론자) 발생 가능성 경고
- Taking AI Welfare Seriously (Long et al., 2024)
- Schwitzgebel & Papineau - 도덕적 위기 논의
- AI consciousness 평가 연구
Methods
- AI 의식 연구를 위한 5대 원칙 제안:
- 연구 목표 원칙
- 연구 절차 원칙
- 지식 공유 원칙
- 배포 선택 원칙
- 공공 소통 원칙
- AI 의식을 적극적으로 연구하지 않는 조직에도 적용 가능한 프레임워크
Results
- 5대 원칙의 구체적 가이드라인 도출
- 의도치 않게 의식적 존재를 생성할 위험에 대한 대비 필요성 논증
- 책임 있는 연구 관행의 구체적 방향 제시
Discussion
- AI 의식 연구의 윤리적 프레임워크로서의 기여
- 조직 차원의 정책 수립 필요성
- 의식적 AI의 대규모 생산 시 발생할 수 있는 도덕적 해악의 규모