[論文レビュー] Interpreting and improving natural-language processing (in machines) with natural language-processing (in the brain)

Mariya Toneva, Leila Wehbe|arXiv (Cornell University)|May 28, 2019

Topic Modeling参考文献 45被引用数 142

ひとこと要約

この論文はニューラルネットワークの単語表現を人間の脳活動と整合させることでNLPモデルを解釈する方法を提案し（ELMo、USE、BERT、Transformer-XL）、脳と一致する改変が統語理解を向上させることを示す。文脈長、層の深さ、注意機構が脳の予測性にモデル間でどう影響するかを分析し、脳ガイドの変更からNLPタスクへの転移を示す。

ABSTRACT

Neural networks models for NLP are typically implemented without the explicit encoding of language rules and yet they are able to break one performance record after another. This has generated a lot of research interest in interpreting the representations learned by these networks. We propose here a novel interpretation approach that relies on the only processing system we have that does understand language: the human brain. We use brain imaging recordings of subjects reading complex natural text to interpret word and sequence embeddings from 4 recent NLP models - ELMo, USE, BERT and Transformer-XL. We study how their representations differ across layer depth, context length, and attention type. Our results reveal differences in the context-related representations across these models. Further, in the transformer models, we find an interaction between layer depth and context length, and between layer depth and attention type. We finally hypothesize that altering BERT to better align with brain recordings would enable it to also better understand language. Probing the altered BERT using syntactic NLP tasks reveals that the model with increased brain-alignment outperforms the original model. Cognitive neuroscientists have already begun using NLP networks to study the brain, and this work closes the loop to allow the interaction between NLP and cognitive neuroscience to be a true cross-pollination.

研究の動機と目的

• 自然発話的な読み取り中の人間の脳活動を用いて、ニューラルNLP表現の解釈を動機づける。
• ネットワーク表現をfMRI/MEGデータと整合させるデータ駆動型手法を開発し、モデルが何をエンコードしているかを評価する。
• 4つのモデル（ELMo、USE、BERT、T-XL）における単語表現と文脈長表現を脳の観点で比較する。
• 文脈長、層の深さ、注意タイプが脳に整合した予測性にモデル間でどのように影響するかを特定する。
• 脳に整合したBERTの改変が統語タスクのパフォーマンス向上へ転移できることを示す。

提案手法

• 同じテキストと語彙ウィンドウについて、4つのNLPモデル（ELMo、BERT、USE、T-XL）から中間層表現 x_{l,k} を抽出する。
• x_{l,k} から MEG/ fMRI 活動を予測するためにリッジ正則化を用いた線形エンコーディングモデルを適合させ、予測精度を評価する。
• 4分割交差検証とホールドアウトテスト Scheme を用いて、ボクセルとセンサー全体で語彙集合分類タスクを通じて脳予測性を評価する。
• 事前文献に基づいて脳言語ネットワークをグループ1とグループ2の2つのグループに分け、それが表現とどこが整合するかを解釈する。
• 1語埋め込みと多語（例: 10語）表現を比較して文脈長の影響を調べ、層ごとの効果を分析する。
• BERT の注意パターンを変更（ある層での一様な注意など）して、脳予測性の変化とNLP統語タスクへの転移を評価する。
• ファインチューニングなしで Marvin & Linzen の統語タスクで改変した BERT を評価し、統語理解を test する。

実験結果

リサーチクエスチョン

• RQ1 自然発話的な読み取り中における ELMo、BERT、USE、Transformer-XL の中間表現は脳活動とどの程度整合するか？
• RQ2 層の深さ、文脈長、注意タイプはこれらのモデルの脳に整合した予測性にどのような影響を与えるか？
• RQ3 脳に整合した BERT の改変は追加のトレーニングなしで統語理解を改善できるか？

主な発見

• 中間の変換器層は他の層よりも脳活動をよく予測する。
• Transformer-XL は長い文脈でパフォーマンスが低下せず、他のモデルとは異なる挙動を示す。
• 浅い BERT 層で一様な注意を導入すると、文脈が最大25語までの予測性を脳に対して改善するが、深い層ではこの変更が有害になる。
• 浅い層で前学習済みの注意を除去するよう改変した BERT は脳データとの整合性を高め、統語的プロービングタスクの性能を向上させる。
• ELMo、BERT、T-XL では長距離表現がグループ1およびグループ2の両方の脳領域の活動を予測する一方、USE は長距離情報とグループ1領域が少なくなる傾向を示す。
• モデル間で、中央の層は15語以上の文脈を最適に統合することが多く、BERT の第一層はトークン埋め込みを異なる形で組み合わせ、文脈保持に影響を与える。