[論文レビュー] Negated LAMA: Birds cannot fly

Nora Kassner, Hinrich Schütze|arXiv (Cornell University)|Nov 8, 2019

Topic Modeling被引用数 17

ひとこと要約

本稿では、事前学習言語モデル（PLM）における事実的知識の保持状態を評価するための2つのプロービングタスク—否定と誤誘導（mispriming）—を導入する。PLMが否定文と非否定文のクローズ形式の質問を区別できず、無関係な誤誘導要因によって簡単にだますことができることを示しており、人間のような事実的知識の学習に著しい制限があることを示している。

ABSTRACT

Building on Petroni et al. (2019), we propose two new probing tasks analyzing factual knowledge stored in Pretrained Language Models (PLMs). (1) Negation. We find that PLMs do not distinguish between negated (Birds cannot [MASK]) and non-negated (Birds can [MASK]) cloze questions. (2) Mispriming. Inspired by priming methods in human psychology, we add misprimes to cloze questions (Talk? Birds can [MASK]). We find that PLMs are easily distracted by misprimes. These results suggest that PLMs still have a long way to go to adequately learn human-like factual knowledge.

研究の動機と目的

• 事前学習言語モデル（PLM）が、否定されたとされない事実的文を正確に表現し、区別できるかどうかを調査すること。
• クローズ形式の質問において、無関係または誤解を招く文脈的ヒントによってPLMがどの程度影響を受けるかを検討すること。
• PLMが人間の推論や耐性に類似した方法で事実的知識を内部に統合している程度を評価すること。
• PLMの事実的知識表現における根本的な弱みを露呈するプロービングタスクを開発すること。

提案手法

• クローズ形式の質問を否定形（例：'Birds cannot [MASK]'）と非否定形（例：'Birds can [MASK]'）の両方で提示する否定プロービングタスクを設計する。
• 両形式で同じ事実的知識（例：正解は 'fly'）を用いることで、モデルの否定処理能力を孤立して評価する。
• クローズ形式の質問の前に、無関係または誤解を招く語（例：'Talk?）を挿入して、モデルの耐性をテストする。
• マスクされたトークンのモデル予測を測定し、否定や誤誘導がモデルの出力を理解に基づいて変化させるかどうかを評価する。
• 標準的、否定的、誤誘導付きのクローズ形式質問における予測の正確性と信頼度を比較する。
• LAMAベンチマーク（Petroni et al., 2019）に基づくプロービングフレームワークを、否定および誤誘導バリエーションを追加することで拡張する。

実験結果

リサーチクエスチョン

• RQ1 文が否定されている場合、PLMはクローズ形式の質問において正解を正しく特定できるか？
• RQ2 誤誘導語がクローズ形式の質問に存在すると、モデルの予測が顕著に変化するか？
• RQ3 否定的および誤誘導付きのクローズ形式質問におけるモデルのパフォーマンスは、標準的な事実的クローズ形式質問におけるパフォーマンスと比べてどの程度異なるか？
• RQ4 構文的および文脈的摂動の下で、PLMはどの程度人間の認識に類似した事実的知識の理解を反映しているか？

主な発見

• PLMは否定形と非否定形のクローズ形式質問を区別できず、両方の状況で正解の確率が類似した値を示すことが多い。
• 文が否定されても、モデルの信頼度や正確性に顕著な低下が見られないことから、否定の処理が不十分であることが示唆される。
• 「Talk?」のような誤誘導語が、モデルの予測に顕著に影響を与え、誤ったまたは一貫性のない出力を引き起こす。
• モデルの予測は、意味的に無関係な文脈によって簡単に誘導され、推論力や注視制御が弱いことが示唆される。
• これらの結果から、PLMは強固で構造化された事実としてではなく、壊れやすく文脈に依存する形で事実的知識を保持していることがわかる。
• これらの発見は、PLMが人間の認知に類似した方法で事実的知識を学習・適用する能力に、深刻なギャップがあることを強調している。