Introduction
- Metacognition(자신의 인지 과정에 대한 인식과 조절)이 human adaptability의 핵심
- 현재 autonomous agent는 novel environment에서 적응력이 제한적
- MUSE 프레임워크: self-assessment + self-regulation을 agent에 통합
- Cognitive science의 metacognition 연구
- LLM agent 연구
Methods
- 두 가지 구현: (1) world modeling 기반, (2) LLM 기반
- 주어진 task에 대한 competence를 지속적으로 self-assess
- Self-assessment를 기반으로 iterative strategy selection
Results
- 높은 competence awareness 달성
- Novel, out-of-distribution task에서 model-based RL 및 순수 prompt 기반 LLM agent 대비 유의미한 self-regulation 개선
Discussion
- Cognitive/neural system에서 영감받은 metacognition 접근법의 가능성
- Extensive training data와 large model에 대한 의존도 감소