[論文レビュー] Large Language Models Struggle to Learn Long-Tail Knowledge

Nikhil Kandpal, Haikang Deng+3 more|arXiv (Cornell University)|Nov 15, 2022

Topic Modeling被引用数 96

ひとこと要約

論文は、LLMの事実知識が、事前学習データ内の関連文書の普及度にどう依存するかを調べ、エンティティ連携ドキュメント数を用いて相関と因果効果を示し、retrieval augmentationを解決策として検討する。

ABSTRACT

The Internet contains a wealth of knowledge -- from the birthdays of historical figures to tutorials on how to code -- all of which may be learned by language models. However, while certain pieces of information are ubiquitous on the web, others appear extremely rarely. In this paper, we study the relationship between the knowledge memorized by large language models and the information in pre-training datasets scraped from the web. In particular, we show that a language model's ability to answer a fact-based question relates to how many documents associated with that question were seen during pre-training. We identify these relevant documents by entity linking pre-training datasets and counting documents that contain the same entities as a given question-answer pair. Our results demonstrate strong correlational and causal relationships between accuracy and relevant document count for numerous question answering datasets (e.g., TriviaQA), pre-training corpora (e.g., ROOTS), and model sizes (e.g., 176B parameters). Moreover, while larger models are better at learning long-tail knowledge, we estimate that today's models must be scaled by many orders of magnitude to reach competitive QA performance on questions with little support in the pre-training data. Finally, we show that retrieval-augmentation can reduce the dependence on relevant pre-training information, presenting a promising approach for capturing the long-tail.

研究の動機と目的

• 関連するエンティティを含む事前学習データの量が、LMの事実ベースの質問に答える能力とどのように関係するかを調べる。
• エンティティリンクを用いて関連する事前学習文書を特定し、巨大コーパス全体での知識露出を定量化する。
• モデルサイズと事前学習データのスケールが長尾知識の学習を説明できるか評価する。
• 希少な事前学習情報への依存を減らす手段として、retrieval augmentationを検討する。

提案手法

• The Pile, ROOTS, C4, OpenWebText, Wikipediaなどの事前学習データセット内の重要な質問/回答エンティティを文書へマップする、スケーラブルなエンティティリンクパイプラインを構築する。
• 質問エンティティと回答エンティティが共起する文書をカウントし、各QAペアの「関連文書」を特定する。
• オープンドメインQAモデル（GPT-Neo、BLOOM、GPT-3）を4-shot設定で TriviaQА と Natural Questions に対して Ex-Act マッチを用いて評価し、関連文書数と正確性を分析する。
• 質問のサンプルについてすべての関連文書を除去し、因果関係を検証する反事実再訓練を実施する。
• 希少な事実に対する影響として、スケーリング効果（モデルサイズ、データ規模）とretrieval augmentation（オラクル検索と BM25 検索）を検討する。

実験結果

リサーチクエスチョン

• RQ1 ある質問に関連する事前学習文書の数と、LMのQA精度の相関はどのようになるか？
• RQ2 観測された相関は因果か、すなわち関連する事前学習文書を削除するとQA性能が低下するか？
• RQ3 モデルサイズと事前学習データのスケールは長尾知識の学習をどの程度改善するか？
• RQ4 retrieval augmentation は希少な事実に対する事前学習データへの依存を緩和できるか？
• RQ5 関連文書を識別する代替の軽量手法は、共起ベースのアプローチと同様にQA性能を説明できるか？

主な発見

• QA精度は、データセットやモデル全体で関連する事前学習文書の数と強く相関する（例：TriviaQA で BLOOM-176B）。
• 反事実再訓練は、多くの関連文書を持つ質問で関連文書を削除すると精度が低下することを示し、因果関係を示唆している。
• モデルサイズは希少事実QA性能と強い対数線形関係を持ち、長尾の質問で強力なベースラインに匹敵するには非常に大きなパラメータ数が必要であることを示唆する。
• retrieval augmentation は特に希少な質問で性能を大幅に向上させ、事前学習データへの依存を減らせる。
• オラクル検索は希少事例で精度を劇的に向上させ、BM25ベースの検索は文書数の残存依存を緩やかに残しつつ改善を提供する。