[論文レビュー] Whatcha lookin' at? DeepLIFTing BERT's Attention in Question Answering

Ekaterina Arkhangelskaia, Sourav Dutta|arXiv (Cornell University)|Oct 14, 2019

Topic Modeling参考文献 17被引用数 6

ひとこと要約

この論文では、質問-応答タスクにおけるBERTのマルチヘッドアテンションメカニズムを解釈するためにDeepLIFTが用いられ、初期層では句構造に注目するのに対し、深層に近づくにつれて回答に関連するトークンに注目するようになることが明らかになった。BERTが入力特徴の一般化から正確な回答スパンへの注目を段階的に絞り込むプロセスを示しており、層ごとのアテンションクラスタリングと帰属分析を通じて、人間の推論様式に類似したパターンを示している。

ABSTRACT

There has been great success recently in tackling challenging NLP tasks by neural networks which have been pre-trained and fine-tuned on large amounts of task data. In this paper, we investigate one such model, BERT for question-answering, with the aim to analyze why it is able to achieve significantly better results than other models. We run DeepLIFT on the model predictions and test the outcomes to monitor shift in the attention values for input. We also cluster the results to analyze any possible patterns similar to human reasoning depending on the kind of input paragraph and question the model is trying to answer.

研究の動機と目的

• BERTのマルチヘッドアテンションメカニズムが質問-応答タスクにおける高い性能を発揮する仕組みを調査すること。
• 解釈可能性を得るために、DeepLIFTを用いてBERTの層を跨いでアトリビューションスコアを逆伝播させ、アテンション値の変化を分析すること。
• アテンション表現のクラスタリングを通じて、人間の推論に類似した行動パターンを特定すること。
• BERTが文脈内の関連情報の局所化をどのように行い、答えの予測に繋げているかを理解すること。
• 事前学習されたトランスフォーマー、特にBERTがNLPベンチマークで従来モデルを上回る理由を解明すること。

提案手法

• SQuaD 2.0データセットに対してBERT-baseを微調整し、[CLS]question[SEP]paragraph[SEP]トークン化を用いた質問-応答タスクに適用。
• 最終予測層から入力トークンへとアトリビューションスコアを逆伝播させるためにDeepLIFTを適用し、正または負の寄与を割り当てた。
• PyTorchの制限を考慮し、BERTの複雑なマルチヘッド・マルチレイヤー・アテンションモジュールに対応するため、DeepLIFTのバックワードパスを変更した。
• 各レイヤーのアテンションスコアを抽出し、異なる入力タイプ間で類似したアテンションパターンをクラスタリングした。
• 色分けされたトークンを用いてアテンションのシフトを可視化し、赤は高い注目度、青は低い注目度を示した。
• アトリビューションのターゲットニューロンとして、開始および終了トークンの予測を重点的に扱い、最も確率の高いスパンを基準とした。

実験結果

リサーチクエスチョン

• RQ1 質問-応答推論中にBERTのアテンションはどのように層を跨いで進化するか？
• RQ2 初期層と後続層において、どの入力トークンが最も高い注目度を獲得するか、そしてそれが答えの予測とどのように関連するか？
• RQ3 異なる入力タイプ間で、推論に類似した行動を示すようにアテンションパターンがクラスタリングされるか？
• RQ4 BERTのアテンションヘッドは、句読点や区切り記号を含む構文的・意味的・構造的キューにどの程度注目しているか？
• RQ5 アテンションのシフトは、質問-応答タスクにおける人間の推論様式とどの程度相関しているか？

主な発見

• 初期層では、[CLS]、[SEP]トークンおよび句読点に主に注目しており、初期の構文処理を示している。
• レイヤー4では、質問キーワード「beyonce」に注目が移り、以降のレイヤー5以降では完全に無視されるようになる。これは動的な注目集中を示している。
• 深層に近づくと、再び「beyonce」のような質問キーワードに注目が向くことで、答えの文脈を意味的に検証していることが示され、二段階の推論プロセスが存在することが明らかになった。
• 最終レイヤーでは、アテンションが完全に答えスパン「late 1990s」に集中しており、正しい答えへの注目が明確に絞り込まれている。
• 質問タイプに応じてアテンションパターンが明確にクラスタリングされ、異なる入力タイプ間で構文的から意味的注目へとシフトする一貫性が確認された。
• モデルのアテンション行動は、構文的構造の認識から意味的検証への進行を示しており、質問-応答における人間の推論様式に類似している。