[論文レビュー] Modular Representation Underlies Systematic Generalization in Neural Natural Language Inference Models

Atticus Geiger, Kyle Richardson+1 more|arXiv (Cornell University)|Apr 30, 2020

Topic Modeling参考文献 40被引用数 4

ひとこと要約

本稿では、ニューラルNLIモデル内の内部状態を調べ、モジュラー表現を同定する手法として「インターチanged Intervention（入れ替え干渉）」を導入する。新たな敵対的NLIデータセットを用いて、密度的なアーキテクチャを有するBERTが、その学習にかかわらず、意味的含意の一般化可能理論を学習しており、推論タスクにおける体系的一般化を可能にしていることを示している。

ABSTRACT

In adversarial testing, we pose hard generalization tasks in order to gain insights into the solutions found by our models. What properties must a system have in order to succeed at these hard behavioral tasks? We argue that an essential factor is modular internal structure. Our central contribution is a new experimental method called 'interchange interventions', in which systematic manipulations of model-internal states are related to causal effects on their outputs, thereby allowing us to identify modular structure. Our work is grounded empirically in a new challenge Natural Language Inference dataset designed to assess systems on their ability to reason about entailment and negation. We find that a BERT model is strikingly successful at the systematic generalization task we pose using this dataset, and our active manipulations of model-internal vectors help us understand why: despite the densely interconnected nature of the BERT architecture, the learned model embeds modular, general theories of lexical entailment relations.

研究の動機と目的

• トレーニング分布を超えて体系的に一般化できる神経ネットワークモデルの内部メカニズムを理解すること。
• モデル内部表現におけるモジュラー構造を特定する因果的プローブ手法を開発すること。
• BERTが敵対的一般化タスク下で、意味的含意および否定に関する一般化可能理論を学習しているかどうかを評価すること。
• モジュラー構造が分布外推論タスクにおける頑健なパフォーマンスを実現する役割を評価すること。

提案手法

• 内部モデル状態を体系的に操作し、モデル出力に与える因果的影響を観察するための「インターチェンジ干渉」を導入する。
• 含意および否定における体系的一般化をテストするため、新たな敵対的自然言語推論（NLI）データセットを設計する。
• 推論中に制御された操作を施す対象として、BERTのアテンションおよび表現ベクトルを用いる。
• 内部表現を入れ替えたり変更したりした後の出力変化を測定し、モジュラー機能ユニットを同定する。
• 内部状態の構造的変化と予測行動の変化を相関させ、モジュラーコンポonentを特定する。
• 特定の内部表現が特定の推論行動（例：含意対照説）にどのように関連しているかを因果分析で結びつける。

実験結果

リサーチクエスチョン

• RQ1 ニューラルNLIモデルがトレーニングデータを超えて体系的に一般化できる内部構造的性質は何か？
• RQ2 BERTのような密接に接続されたアーキテクチャにおいても、モジュラー表現を同定・プローブすることは可能か？
• RQ3 BERTはどの程度、意味的含意および否定に関する一般化可能理論を学習しているか？
• RQ4 特定の内部状態の操作が、体系的推論タスクにおけるモデル予測にどのように影響するか？
• RQ5 モジュラー構造は、敵対的NLIベンチマークにおける一般化パフォーマンスの向上と因果的に関連しているか？

主な発見

• BERTは、新たな敵対的NLIベンチマークにおいて、含意と否定の未観測な組み合わせに対しても、強力な体系的一般化を示している。
• 密度的なアーキテクチャであるにもかかわらず、BERTは意味的含意関係に対応するモジュラーで解釈可能な表現を学習している。
• インターチェンジ干渉により、含意と否定の意思決定を制御する特定の内部表現を効果的に同定できた。
• 内部ベクトルを操作することで、予測可能な因果的変化がモデル出力に現れ、モジュラー機能ユニットの存在が裏付けられた。
• モデルの一般化能力は、記憶されたパターンではなく、学習された再利用可能なコンポーネントが一般論理ルールをエンコードすることで支えられている。
• これらの発見は、モジュラー内部構造がニューラルNLIモデルにおける体系的一般化の主要因である可能性を示唆している。