[논문 리뷰] A Comprehensive Survey of Retrieval-Augmented Generation (RAG): Evolution, Current Landscape and Future Directions

Shailja Gupta, Rajesh Ranjan외 1명|arXiv (Cornell University)|2024. 10. 03.

Topic Modeling인용 수 18

한 줄 요약

이 조사에서는 Retrieval-Augmented Generation(RAG)의 진화를 추적하고, 현재 최첨단 접근법을 요약하며, 강건성, 확장성 및 윤리적 배치를 위한 향후 방향을 개략한다.

ABSTRACT

This paper presents a comprehensive study of Retrieval-Augmented Generation (RAG), tracing its evolution from foundational concepts to the current state of the art. RAG combines retrieval mechanisms with generative language models to enhance the accuracy of outputs, addressing key limitations of LLMs. The study explores the basic architecture of RAG, focusing on how retrieval and generation are integrated to handle knowledge-intensive tasks. A detailed review of the significant technological advancements in RAG is provided, including key innovations in retrieval-augmented language models and applications across various domains such as question-answering, summarization, and knowledge-based tasks. Recent research breakthroughs are discussed, highlighting novel methods for improving retrieval efficiency. Furthermore, the paper examines ongoing challenges such as scalability, bias, and ethical concerns in deployment. Future research directions are proposed, focusing on improving the robustness of RAG models, expanding the scope of application of RAG models, and addressing societal implications. This survey aims to serve as a foundational resource for researchers and practitioners in understanding the potential of RAG and its trajectory in natural language processing.

연구 동기 및 목표

• RAG에서 검색과 생성이 지식 집약적 작업을 다루기 위해 어떻게 통합되는지 설명한다.
• RAG의 기초 개념과 주요 아키텍처 변형을 조사한다.
• 검색-강화 언어 모델의 주요 기술 발전, 응용 및 돌파구를 요약한다.
• 확장성, 편향성, 윤리 등 지속적 도전과제를 식별하고 향후 연구 방향을 제시한다.

제안 방법

• RAG 아키텍처와 검색-생성 통합에 대한 문헌을 검토하고 합성한다.
• 검색 기법과 언어 모델의 발전을 분류한다.
• QA, 요약 및 지식 기반 작업 전반에 걸친 응용을 논의한다.
• 검색 효율성과 강건성에 초점을 맞춘 최근 돌파구를 강조한다.

실험 결과

연구 질문

• RQ1 Retrieval-Augmented Generation에서 핵심 아키텍처 구성요소 및 통합 전략은 무엇인가?
• RQ2 검색 효율성과 생성 모델과의 통합에서 어떤 발전이 있었나?
• RQ3 확장성, 편향 및 배치 윤리에 대해 RAG 시스템에서 남아 있는 도전과제는 무엇인가?
• RQ4 RAG의 견고성과 광범위한 적용 가능성을 향상시킬 미래 방향은 무엇인가?
• RQ5 QA 및 지식 기반 작업과 같은 영역에서 RAG를 어떻게 활용할 수 있는가?

주요 결과

• RAG는 지식 집약적 작업의 출력 강화를 위해 검색과 생성 모델을 결합한다.
• QA, 요약 및 지식 기반 작업 전반에 걸친 검색-강화 언어 모델과 그 응용에 상당한 발전이 있다.
• 최근 연구는 검색 효율성과 시스템 강건성을 개선하는 방법을 강조한다.
• 이 조사에서는 확장성, 편향 및 배치 윤리 고려를 포함한 지속적 도전과제를 다룬다.
• 향후 방향은 견고성, 더 넓은 적용 범위 및 사회적 영향 고려를 강조한다.