[論文レビュー] Understanding Multi-Head Attention in Abstractive Summarization

Joris Baan, Maartje ter Hoeve+3 more|arXiv (Cornell University)|Nov 10, 2019

Topic Modeling参考文献 37被引用数 9

ひとこと要約

本稿は、抽象的要約モデルにおけるマルチヘッドアテンションの解釈可能性を調査し、ヘッドの特化度やスパarsity（sparsemaxを用いて）およびプルーニングの評価に用いるメトリクスを導入している。結果として、アテンションヘッドは相対的位置、固有表現、文法構造の面で特化しているが、全体的に見て冗長であることが判明した。sparsemaxは解釈可能性メトリクスを改善するが、より多くのプルーニングを可能にし、強制的なスパarsityが真に透明性を向上させているのかという疑問を呈する。

ABSTRACT

Attention mechanisms in deep learning architectures have often been used as a means of transparency and, as such, to shed light on the inner workings of the architectures. Recently, there has been a growing interest in whether or not this assumption is correct. In this paper we investigate the interpretability of multi-head attention in abstractive summarization, a sequence-to-sequence task for which attention does not have an intuitive alignment role, such as in machine translation. We first introduce three metrics to gain insight in the focus of attention heads and observe that these heads specialize towards relative positions, specific part-of-speech tags, and named entities. However, we also find that ablating and pruning these heads does not lead to a significant drop in performance, indicating redundancy. By replacing the softmax activation functions with sparsemax activation functions, we find that attention heads behave seemingly more transparent: we can ablate fewer heads and heads score higher on our interpretability metrics. However, if we apply pruning to the sparsemax model we find that we can prune even more heads, raising the question whether enforced sparsity actually improves transparency. Finally, we find that relative positions heads seem integral to summarization performance and persistently remain after pruning.

研究の動機と目的

• 抽象的要約におけるマルチヘッドアテンションが信頼できる解釈可能性メカニズムとして機能するかどうかを評価すること。
• 要約処理中にアテンションヘッドが特定の言語的・構造的パターン（文法、固有表現、相対的位置など）にどのように特化しているかを同定すること。
• sparsemaxによるスパarsityの強制が、アテンションヘッドの解釈可能性と忠実性を向上させるかどうかを評価すること。
• プルーニングがsoftmaxおよびsparsemaxモデルにおけるアテンションヘッドのパフォーマンスと解釈可能性に与える影響を調査すること。
• アテンションヘッドがモデル性能に本当に必要なのか、それとも冗長なのかを特定し、それらの透明性に関する仮定に疑問を呈すること。

提案手法

• POS-KL（文法的特化度）、NE-Ratio（固有表現への注目度）、相対的位置アテンションスコアリングの3つの新しい解釈可能性メトリクスを提案。
• アブレーションとプルーニングを適用し、トランスフォーマー・モデルにおける個々のアテンションヘッドを削除した際のパフォーマンスへの影響を評価。
• 標準的なソフトマックス活性化関数をsparsemaxに置き換えることで、よりスパースなアテンション分布を強制し、解釈可能性を向上させる。
• sparsemaxベースのトランスフォーマー（Sparse-TL）を訓練・評価し、ROUGEメトリクスを用いてベースラインのソフトマックスモデルと比較。
• プルーニングやアブレーション後のヘッドの特化度とパフォーマンス安定性を評価する定量的メトリクスを用いる。
• エンコーダーおよびデコーダー層におけるヘッド行動を分析し、プルーニング後の特化ヘッドの持続性に注目する。

実験結果

リサーチクエスチョン

• RQ1 抽象的要約モデルにおける個々のマルチヘッドアテンションヘッドが、文法、固有表現、相対的位置といった特定の言語的パターンにどの程度特化しているか。
• RQ2 ソフトマックスをsparsemaxに置き換えることで、アテンションヘッドの解釈可能性と忠実性にどのような影響があるか。
• RQ3 アテンションヘッドのプルーニングが顕著なパフォーマンス低下を引き起こすか。もし起こらない場合、これはアテンションヘッドの冗長性を示唆するのか。
• RQ4 プルーニング後に要約パフォーマンスにおいて最も重要なアテンションヘッドの種類（例：相対的位置、文法的、意味的）は何か。
• RQ5 sparsemaxによる強制的スパarsityは真に透明性を向上させるのか、それとも信頼性の向上なしに単により積極的なプルーニングを可能にするにとどまるのか。

主な発見

• 提案された解釈可能性メトリクスにより、抽象的要約におけるアテンションヘッドは相対的位置、特定の品詞タグ、固有表現に特化していることが測定された。
• 個々のヘッドをアブレーションしても顕著なパフォーマンス低下が見られず、モデル内でのアテンションヘッドの冗長性が顕著に示された。
• ソフトマックスをsparsemaxに置き換えることで、解釈可能性メトリクスが向上し、パフォーマンスに影響を与えないヘッドの数も減少した。
• 解釈可能性が向上したにもかかわらず、sparsemaxモデルでは64個中43個のヘッドをプルーニング可能であり、ベースラインより多い。これは、強制的スパarsityが透明性を真に向上させているとは限らない可能性を示唆する。
• 両モデルにおいて、相対的位置ヘッドはプルーニング後も持続的に存在し、パフォーマンスに一貫して不可欠な役割を果たしている。これは、そのヘッドが要約処理において根幹的な役割を果たしていることを示している。
• プルーニングに耐えた文法的ヘッドは主に「the」という語に注目しており、一部の生存ヘッドが意味的な要約パターンを表していない可能性がある。