Summary
RAG의 Vector-DB 대신 graph-based 접근을 하겠다.
“Lost-in-the-middle”같은 이슈에 대한 solution이 될 수도 있다.
by Moonlight
- 💡 GraphReader는 LLM의 긴 컨텍스트 처리 한계를 극복하기 위해 긴 텍스트를 그래프로 구조화하고 에이전트가 이를 자율적으로 탐색하는 시스템입니다.
- ⚙️ 이 시스템은 텍스트를 청크로 분할하여 핵심 요소와 원자적 사실(atomic facts)로 그래프 노드를 구성하고, 에이전트는 합리적인 계획과 사전 정의된 함수를 통해 노드와 이웃을 탐색하며 관련 정보를 기록합니다.
- 📊 GraphReader는 4k 컨텍스트 윈도우를 사용하여 16k부터 256k까지의 긴 컨텍스트에서 GPT-4-128k 및 기타 최신 Agent-based 모델들을 크게 능가하며, 복잡한 QA 작업에서 뛰어난 효율성과 리콜율을 보여줍니다.