[論文レビュー] Calibrating Factual Knowledge in Pretrained Language Models

Qingxiu Dong, Damai Dai+4 more|arXiv (Cornell University)|Oct 7, 2022

Topic Modeling被引用数 4

ひとこと要約

本稿では、再訓練を伴わずに事実知識を効率的に補正する軽量でタスクに依存しない手法CaliNetを提案する。対照的知識評価（CKA）を用いて誤った事実を検出し、メモリスロットを備えた補正された全結合ネットワーク（FFN）を統合することで、プローブおよび質問応答タスクにおいて高い正確性と一般化性能を達成する。

ABSTRACT

Previous literature has proved that Pretrained Language Models (PLMs) can store factual knowledge. However, we find that facts stored in the PLMs are not always correct. It motivates us to explore a fundamental question: How do we calibrate factual knowledge in PLMs without re-training from scratch? In this work, we propose a simple and lightweight method CaliNet to achieve this goal. To be specific, we first detect whether PLMs can learn the right facts via a contrastive score between right and fake facts. If not, we then use a lightweight method to add and adapt new parameters to specific factual texts. Experiments on the knowledge probing task show the calibration effectiveness and efficiency. In addition, through closed-book question answering, we find that the calibrated PLM possesses knowledge generalization ability after fine-tuning. Beyond the calibration performance, we further investigate and visualize the knowledge calibration mechanism.

研究の動機と目的

• 事実知識が誤って格納されていることで、知識集約型タスクの性能が低下する問題に対処すること。
• 再訓練なしに、PLM内の事実的誤りを検出し修正する手法を開発すること。
• 同じ事実の多様な表現形にわたり、補正された知識が一般化されることを保証すること。
• 神経ネットワークのニューロンレベルにおける知識補正の内部メカニズムを調査すること。

提案手法

• 対照的知識評価（CKA）を提案し、正しくない事実と複数の誤った事実を対照的に比較することで、PLMの予測スコアを評価する。
• 穴埋め形式のプロンプトを用いて、事実の三項組みを自然言語入力に変換し、プローブに使用する。
• CaliNetを導入し、特定の全結合ネットワーク（FFN）に補正用メモリスロットを追加することで、正しい事実を格納・適応可能にする。
• 元のPLM重みを変更せずにFFN層に新しいパラメータを統合し、微調整によって知識補正を実現する。
• パラフレーズされた自然文を補正信号として用い、PLMの意味的モデリング能力を活用する。
• モデルの予測の変化を追跡することで、ネットワーク内での補正の発生タイミングと場所を分析する。

実験結果

リサーチクエスチョン

• RQ1 従来の順位ベースのメトリクスが失敗する状況において、PLMに格納された事実知識の正しさを信頼性高く評価する方法は何か？
• RQ2 再訓練なしに、軽量でパrameter効率的な手法がPLM内の事実的誤りを是正できるか？
• RQ3 CaliNetによる知識補正は、同じ事実の未観測な表現形に対しても一般化するか？
• RQ4 ニューロンレベルでの知識補正の内部メカニズムは何か？また、補正用メモリスロットはどのように寄与しているか？

主な発見

• CKAの結果、T-RExデータセットから抽出された事実の約50％がPLMに誤って格納されていることが判明し、事実的誤りの広範な存在が示された。
• CaliNetは、実際の人間がアノテートしたテストデータにおいて、偽陽性率を35.61％削減し、強力な補正効果を示した。
• 補正済みPLMは、閉形式の質問応答タスクにおいても良好に一般化され、下流の知識集約型タスクで元のモデルを上回る性能を示した。
• 補正用メモリスロットは、特定の事実的誤りを的確に補正するために活性化され、選択的で効果的な知識適応を示した。
• 補正対象でない事実についても、元のモデルの挙動が保持されており、最小限の悲観的忘れ（catastrophic forgetting）が発生した。
• 予測の変化の可視化により、事実知識が格納されているFFN層で主に補正が発生していることが確認された。