[論文レビュー] How Does BERT Answer Questions? A Layer-Wise Analysis of Transformer Representations

Betty van Aken, Benjamin Winter+2 more|arXiv (Cornell University)|Sep 11, 2019

Topic Modeling参考文献 37被引用数 42

ひとこと要約

要約: 本論文は層を跨ぐBERTの隠れ状態を分析し、QA推論がどのように出現するかを理解する。位相のような変換を示し、ファインチューニングが意味的能力に与える影響は限られている。

ABSTRACT

Bidirectional Encoder Representations from Transformers (BERT) reach state-of-the-art results in a variety of Natural Language Processing tasks. However, understanding of their internal functioning is still insufficient and unsatisfactory. In order to better understand BERT and other Transformer-based models, we present a layer-wise analysis of BERT's hidden states. Unlike previous research, which mainly focuses on explaining Transformer models by their attention weights, we argue that hidden states contain equally valuable information. Specifically, our analysis focuses on models fine-tuned on the task of Question Answering (QA) as an example of a complex downstream task. We inspect how QA models transform token vectors in order to find the correct answer. To this end, we apply a set of general and QA-specific probing tasks that reveal the information stored in each representation layer. Our qualitative analysis of hidden state visualizations provides additional insights into BERT's reasoning process. Our results show that the transformations within BERT go through phases that are related to traditional pipeline tasks. The system can therefore implicitly incorporate task-specific information into its token representations. Furthermore, our analysis reveals that fine-tuning has little impact on the models' semantic abilities and that prediction errors can be recognized in the vector representations of even early layers.

研究の動機と目的

• BERTがQAタスク中に層 across 層でトークン表現をどのように変換するかを調べる。
• 異なる層がQAで異なる推論ステップを実行するかを明らかにする。
• QAのためのファインチューニングが内部層表現に与える影響を評価する。
• 隠れ状態を用いてQA予測が失敗する理由と場所を特定するツールを提供する。

提案手法

• 次元削減とクラスタリングを用いたトークンベクトルの層別定性的可視化を実施する。
• 各層に対して一連のプロービングタスク（Named Entity Labeling, Coreference Resolution, Relation Classification）とQA固有タスク（Question Type Classification, Supporting Fact Identification）を適用する。
• Edge Probingを用いてコアNLPタスクを層別分類問題へ変換する。
• SQuAD, HotpotQA, and bAbI のファインチューニング済みモデルを事前学習済みモデルと比較する。
• GPT-2を定性的な比較として組み込み、他のTransformersへの知見の転用可能性を評価する。

実験結果

リサーチクエスチョン

• RQ1 Transformerモデルは人間のように分解的に質問に答えるのか。
• RQ2 多層Transformerの特定の層はQA中に異なるタスクを解くのか。
• RQ3 ファインチューニングはネットワークの内部状態と層の機能にどのような影響を与えるのか。
• RQ4 層別分析はモデルが正しい回答を予測できない理由を説明するのに役立つのか。

主な発見

• 隠れ状態には、従来のNLPタスクに似た phase の進行を示す解釈可能な情報が含まれている。
• 初期層は一般的な言語特性をエンコードし、後半の層はQAのタスク特有の情報を取り込む。
• Named Entity Labelingは最も早い段階で改善される一方、Coreference ResolutionとRelation Classificationは後半層でピークを迎える；Question Type情報はタスク依存。
• QuestionとSupporting Factsは層を跨いでベクトル空間で一致し、回答抽出のために高層が関連トークンを整列させる。
• Fine-tuningはコアNLP能力に対する影響が限定的であり、ほとんどの情報は事前学習時に既に存在し、ファインチューニング時には小さな重みの変化に留まる。
• Positional embeddingsは後方の層にも影響を維持し、Transformer表現における連続情報を支持する。