[論文レビュー] Propagating Knowledge Updates to LMs Through Distillation

Shankar Padmanabhan, Yasumasa Onoe+3 more|arXiv (Cornell University)|Jun 15, 2023

Topic Modeling被引用数 4

ひとこと要約

本稿では、大規模言語モデル（LLMs）に知識の更新を注入・伝達するための文脈 distillation 法を提案する。これにより、新しい事実に基づいた推論が可能になる。エンティティ定義からの継続生成を行い、それを教師モデルの定義条件付き出力分布に合わせてモデルを distillation することで、ファインチューニングや勾配ベースの編集手法に比べ、知識伝達性とスケーラビリティの面で優れる。150個のエンティティを注入しても、性能の低下が最小限に抑えられる。

ABSTRACT

Modern language models have the capacity to store and use immense amounts of knowledge about real-world entities, but it remains unclear how to update such knowledge stored in model parameters. While prior methods for updating knowledge in LMs successfully inject atomic facts, updated LMs fail to make inferences based on injected facts. In this work, we demonstrate that a context distillation-based approach can both impart knowledge about entities and propagate that knowledge to enable broader inferences. Our approach consists of two stages: transfer set generation and distillation on the transfer set. We first generate a transfer set by prompting a language model to generate continuations from the entity definition. Then, we update the model parameters so that the distribution of the LM (the student) matches the distribution of the LM conditioned on the definition (the teacher) on the transfer set. Our experiments demonstrate that this approach is more effective at propagating knowledge updates than fine-tuning and other gradient-based knowledge-editing methods. Moreover, it does not compromise performance in other contexts, even when injecting the definitions of up to 150 entities at once.

研究の動機と目的

• 既存の知識編集手法が事実を注入するが、推論にまでその知識を伝達できないという限界を解決すること。
• 推論を可能にするリtrieval-augmented prompting（リtrieバル拡張プロンプティング）と、推論能力に欠けるパラメータベースの知識注入の間のギャップを埋めること。
• 他のタスクの性能を損なわせることなく、注入されたエンティティ定義から一般化できる、スケーラブルでパラメータ効率の良い手法を開発すること。
• distillationが、多様なモデルやエンティティセット、特に大規模な更新に対しても、知識を効果的に伝達できるかどうかを評価すること。

提案手法

• エンティティ定義文の継続を生成するように言語モデルにプロンプトすることで、トランスファー集合を生成する。
• 知識 distillation を用い、学生モデルの次トークン分布を、エンティティ定義に条件づけた教師モデルの分布に一致させる。トランスファー集合上でKLダイバージェンスを最小化する。
• 同じコンテキストに対して、学生モデルの非条件付き出力と教師モデルの条件付き出力の間のKL損失を用いて、学生モデルを訓練する。
• 生成モデルを用いてトランスファー集合を構築し、ベースモデルとGPT-3.5のような大規模モデルの出力を比較するアブレーションスタディを実施する。
• 広範な分布シフトを避けるために、ターゲットに特化した方法でモデルパラメータを更新するdistillationプロセスを適用する。
• 同時に最大150個のエンティティを注入できるようにスケーリングし、複数のベンチマークで性能と特異性を評価する。

Figure 1 : Overview of our distillation approach. Our goal is to inject the entity definition ( $\mathbf{d}_{e}$ ) into the student model ( $M_{s}$ ) and propagate it to make inferences based on the injected knowledge. This example uses ChatGPT as a new entity. We first generate a set of continuatio

実験結果

リサーチクエスチョン

• RQ1 知識 distillation は、LLMsにおける原子的事実を超えた推論を可能にするために、注入された知識を効果的に伝達できるか？
• RQ2 ファインチューニングや勾配ベースの編集法（例：MEND、MEMIT）と比較して、知識伝達性と性能保持性の面で、このdistillationベースの手法はどのように差をつけるか？
• RQ3 本手法は、100個以上のエンティティを同時に注入できるか？また、関連のないタスクの性能は維持されるか？
• RQ4 生成モデルの選択（例：ベースモデル対大規模モデル）が、トランスファー集合の品質および最終的なモデル性能にどのように影響するか？
• RQ5 CounterFactベンチマークで、反事実的または誤った知識を注入する際、distillationアプローチは特異性を保持できるか？

主な発見

• distillation手法は、3つの言語モデルすべてにおいて、Entity Inferences および Entity Cloze by Date ベンチマークで、ファインチューニングおよび先行編集手法（MEND、MEMIT）を顕著に上回った。
• 最大150個のエンティティを同時に定義を注入しても、関連のないタスクでの性能は高く維持され、最小限の低下に抑えられた。
• ベースモデル自身から生成されたトランスファー集合を用いたdistillationは、GPT-3.5から生成されたものと同等の性能を示し、より大きな教師モデルを必要としないことを示した。
• CounterFactベンチマークでは、MEND や MEMIT よりも高い特異性（neighbourhood score +）を達成したが、効果性や一般化性は低く、誤った事実の処理においてトレードオフがあることが示唆された。
• 本手法はスケーラビリティに優れており、25個を超えるエンティティの注入でパープレキシティが上昇するMEMITよりも優れた性能を示した。
• GPT-Neoでは特異性の低下が観察されたが、GPT2-XLでは観察されず、特異性の低下はモデルに依存する行動であることが示された。