[論文レビュー] Information Association for Language Model Updating by Mitigating LM-Logical Discrepancy

Pengfei Yu, Heng Ji|arXiv (Cornell University)|May 29, 2023

Topic Modeling被引用数 4

ひとこと要約

本論文は、自己プロンプトベースの質疑応答生成と連想 distillation を用いて、言語モデルと論理的不整合を軽減する、新規の自己情報更新（SIU）フレームワークを提案する。この手法により、LLM の更新における事実整合性と一般化性能が向上し、最大 0.16 の事実整合性スコアの向上と、元のトレーニングトークンの 2.3% にまで削減されたリプレイバッファサイズを達成することで、災難的忘却を効果的に低減する。

ABSTRACT

Large Language Models~(LLMs) struggle with providing current information due to the outdated pre-training data. Existing methods for updating LLMs, such as knowledge editing and continual fine-tuning, have significant drawbacks in generalizability of new information and the requirements on structured updating corpus. We identify the core challenge behind these drawbacks: the LM-logical discrepancy featuring the difference between language modeling probabilities and logical probabilities. To evaluate and address the core challenge, we propose a new task formulation of the information updating task that only requires the provision of an unstructured updating corpus and evaluates the performance of information updating on the generalizability to question-answer pairs pertaining to the updating information. We further propose a novel and effective pipeline approach for the task, highlighting a self-prompting-based question-answer generation process and a associative distillation methods to bridge the LM-logical discrepancy. We develop two datasets for evaluation, one sourced from news articles published in March and April 2023, and the other from the Natural Questions benchmark. Experimental results demonstrate the superiority of our approach, significantly increasing the factual consistency score (on a scale from 0 to 1) by up to 0.16. Furthermore, our method effectively mitigates forgetting utilizing a compact replay buffer with only 2.3% of the training tokens.

研究の動機と目的

• 既存の LLM 更新手法が構造化されたコーパスを必要とする中で、一般化性能を制限する根本的課題である LM-論理的不整合を解消すること。
• ニュース記事などの非構造的コーパスのみで更新可能な、新たなタスク定式化である自己情報更新（SIU）を提案すること。
• 構造化された知識トリプルに依存せずに、質問-回答ペアにおける更新情報の事実整合性と一般化性能を向上させること。
• 連想 distillation を用いて再生成された回答から得られるコン pact リプレイバッファを活用することで、継続的学習における災難的忘却を軽減すること。
• 非構造的更新コーパス上での手法の有効性と、多様なテキストドメインにわたる耐性を評価すること。

提案手法

• 非構造的更新コーパスから QA ペアを生成する自己プロンプトベースの質疑応答生成プロセスを導入し、新しい情報が関連する文脈とより強く結びつくようにする。
• 言語モデルの確率を論理的確率と一致させるために、連想 distillation を採用し、事前学習データへの露出バイアスを低減する。
• 更新済みコーパスから再生成された回答を distillation することで、元のトークンの 2.3% にまで縮小されたコンパクトなリプレイバッファを活用し、過去の知識を保持する。
• QA 生成と distillation を統合した二段階のファインチューニングプロセスを採用：最初にニュースデータで、次に Wikipedia で、両方の新旧情報の評価を実施。
• 事実整合性は Zhong 他 (2022) の指標を用い、好みの整合性よりも情報取得を重視する。
• 既存の知識編集および継続的ファインチューニングフレームワークと互換性を持たせ、それらの一般化性能と効率性を向上させることを意図している。

実験結果

リサーチクエスチョン

• RQ1 非構造的コーパスを用いて言語モデルを効果的に更新する方法は何か？ その際、高い事実整合性を維持できるか？
• RQ2 LM-論理的不整合は、LLM における更新情報の一般化をどの程度制限するか？
• RQ3 連想 distillation は、露出バイアスを効果的に低減し、新しい情報が関連する文脈と適切に結びつくようにするか？
• RQ4 過去の知識を保持し、災難的忘却を防ぐために、リプレイバッファはどの程度小さくできるか？
• RQ5 本手法は、構造化された編集入力が不要な状態で、ニュースや Wikipedia といった異なるテキストドメインに一般化可能か？

主な発見

• 提案手法は、0 から 1 のスケールで最大 0.16 の事実整合性スコアの向上を達成し、情報一般化性能においてベースライン手法を顕著に上回る。
• 連想 distillation を通じて、リプレイバッファサイズを 97.7% 削減（919,624 トークンから 21,124 トークンへ）したが、過去の知識のパフォーマンスは維持された。
• 元のトレーニングトークンの 2.3% のみをリプレイバッファに使用しても、NQ 開放検証セットでのパフォーマンス低下はわずかであり、忘却の抑制が強く示された。
• 訓練データに明示的に含まれない質問-回答ペアに対しても、更新された情報を効果的に一般化でき、事前学習データへの依存度が低下した。
• ニュースと Wikipedia の二つの異なる更新段階においても、強い性能を維持しており、ドメインシフトに対して高い耐性を示した。
• 中程度のサイズの更新コーパスでも本手法は有効であり、既存の編集およびファインチューニングフレームワークへの統合の可能性を示した。