[論文レビュー] Adaptive-RAG: Learning to Adapt Retrieval-Augmented Large Language Models through Question Complexity

Soyeong Jeong, Jinheon Baek+3 more|arXiv (Cornell University)|Mar 21, 2024

Topic Modeling被引用数 6

ひとこと要約

この論文は、クエリの複雑さに基づいて最も適切な取得戦略を選択する方法を学ぶ適応型QAフレームワークを提案します。軽量な分類器を用いて、単純・単一步・適応的取得・多段階アプローチ間を切り替え、QAの効率と精度を向上させます。

ABSTRACT

Retrieval-Augmented Large Language Models (LLMs), which incorporate the non-parametric knowledge from external knowledge bases into LLMs, have emerged as a promising approach to enhancing response accuracy in several tasks, such as Question-Answering (QA). However, even though there are various approaches dealing with queries of different complexities, they either handle simple queries with unnecessary computational overhead or fail to adequately address complex multi-step queries; yet, not all user requests fall into only one of the simple or complex categories. In this work, we propose a novel adaptive QA framework, that can dynamically select the most suitable strategy for (retrieval-augmented) LLMs from the simplest to the most sophisticated ones based on the query complexity. Also, this selection process is operationalized with a classifier, which is a smaller LM trained to predict the complexity level of incoming queries with automatically collected labels, obtained from actual predicted outcomes of models and inherent inductive biases in datasets. This approach offers a balanced strategy, seamlessly adapting between the iterative and single-step retrieval-augmented LLMs, as well as the no-retrieval methods, in response to a range of query complexities. We validate our model on a set of open-domain QA datasets, covering multiple query complexities, and show that ours enhances the overall efficiency and accuracy of QA systems, compared to relevant baselines including the adaptive retrieval approaches. Code is available at: https://github.com/starsuzi/Adaptive-RAG.

研究の動機と目的

• 多様なクエリの複雑さに対処するため、QAにおける取得戦略間の動的適応を動機づけ、実現する。
• モデル予測とデータセットのバイアスから派生したラベルを用いて訓練された軽量な複雑さ分類器を開発する。
• クエリの複雑さに基づいて、取得なし、単一步取得、マルチステップの適応的取得間のシームレスな切り替えを可能にする。
• ベースラインよりも効率と精度の向上を示すため、オープンドメインQAベンチマークでアプローチを検証する。

提案手法

• クエリの複雑さに基づいて、最も単純なものから最も高度なものへと取得戦略を選択する適応型QAフレームワークを提案する。
• モデル予測とデータセットのバイアスから自動的に収集されたラベルを用いてクエリの複雑さを予測する軽量分類器を訓練する。
• 複数の取得戦略（取得なし、単一步取得、適応取得、マルチステップ取得）と比較のためのベースラインオラクルを統合する。
• 簡単なクエリと複雑なクエリの両方に対して、オープンドメインQAデータセット（例：SQuAD、Natural Questions、TriviaQA、MuSiQue、HotpotQA、2WikiMultiHopQA）で評価する。
• 非適応取得、単一步アプローチ、およびオラクル/適応ベースラインを含むベースラインと比較し、効率と精度の向上を実証する。

実験結果

リサーチクエスチョン

• RQ1 軽量分類器は、QAタスクにおける入力クエリの複雑さレベルを正確に予測できるだろうか。
• RQ2 固定戦略と比較して、単純・複雑なクエリを通じて取得戦略の適応的選択がQAの精度と効率を向上させるか。
• RQ3 Adaptive-RAGは、多様なオープンドメインQAデータセットにおいて静的ベースラインおよびオラクルベースラインと比べてどのように機能するか。

主な発見

• Adaptive-RAGは、複数のデータセットとクエリの複雑さを跨いで、関連するベースラインよりエンドツーエンドのQA精度と効率を向上させる。
• このフレームワークは、反復的取得法と単一步取得法、さらには取得なしを組み合わせ、各クエリにより適合させる。
• 非適応および単一步のベースラインと比較して、Adaptive-RAGは単純問と複雑問の双方で総合的な性能が高いことを示す。