[論文レビュー] Understanding Convolutional Neural Networks for Text Classification

Alon Jacovi, Oren Sar Shalom+1 more|arXiv (Cornell University)|Sep 21, 2018

Explainable Artificial Intelligence (XAI)参考文献 23被引用数 24

ひとこと要約

この論文は、1次元畳み込みニューラルネットワーク（CNN）がテキストを処理し、分類する方法を調査し、フィルタが均一なn-gram検出器として機能するとする一般的な仮定に挑戦する。フィルタが複数の意味的n-gramファミリーを、異なる活性化パターンを通じて検出すること、マックスプーリングが不要なn-gramを除外するしきい値処理を引き起こすこと（性能低下なしに40％のプール済みn-gramを除去可能）、フィルタが否定されたn-gramを能動的に抑制することを明らかにする。これらの知見により、フィルタレベルの分析としきい値に配慮した説明手法を通じて、モデルおよび予測の解釈性が向上する。

ABSTRACT

We present an analysis into the inner workings of Convolutional Neural Networks (CNNs) for processing text. CNNs used for computer vision can be interpreted by projecting filters into image space, but for discrete sequence inputs CNNs remain a mystery. We aim to understand the method by which the networks process and classify text. We examine common hypotheses to this problem: that filters, accompanied by global max-pooling, serve as ngram detectors. We show that filters may capture several different semantic classes of ngrams by using different activation patterns, and that global max-pooling induces behavior which separates important ngrams from the rest. Finally, we show practical use cases derived from our findings in the form of model interpretability (explaining a trained model by deriving a concrete identity for each filter, bridging the gap between visualization tools in vision tasks and NLP) and prediction interpretability (explaining predictions). Code implementation is available online at github.com/sayaendo/interpreting-cnn-for-text.

研究の動機と目的

• テキスト分類におけるCNNの内部的挙動を理解し、フィルタが均一なn-gram検出器として機能するとする仮定に挑戦すること。
• グローバルマックスプーリングが、テキストCNNにおける関連のあるn-gramと関係のないn-gramをどのように分離するかを調査すること。
• フィルタが意味的ファミリーだけでなく、否定的なキーワード（例：否定されたn-gram）を検出するかを検討すること。
• 実証的フィルタ分析に基づいた、より優れたモデルレベルおよび予測レベルの解釈性技術の開発

提案手法

• 複数のテキスト分類データセットにおけるフィルタ応答を分析し、スコアの高いn-gramの活性化パターンと意味的クラスタを同定する。
• スロット活性化ベクトルに基づいて、高活性化n-gramをクラスタリングし、各フィルタごとに明確な言語的パターンを明らかにする。
• しきい値処理分析を用いて、マックスプーリングによってどのn-gramが実際に無視されているかを特定し、40％のプール済みn-gramが性能低下なしに削除可能であることを示す。
• 語彙全体で最大化することで、フィルタ活性化を語レベルの寄与に分解する手法を導入し、非均一なフィルタ行動を明らかにする。
• フィルタしきい値を通過するn-gramのみを強調し、スロット活性化分析による否定的n-gramパターンのマークを含む予測解釈手法を提案する。
• 解釈性の向上を示すために、10個のフィルタを備えた小型CNNモデルを用い、Amazon Electronics（Elec）データセットで検証する。

実験結果

リサーチクエスチョン

• RQ1 テキスト分類におけるCNNフィルタは、1つのn-gramファミリーに対して均一に反応する検出器として機能するのか、それとも複数の意味的クラスに反応するのか？
• RQ2 グローバルマックスプーリングは、予測の最終段階で不要なn-gramを除外するしきい値処理をどの程度引き起こすのか？
• RQ3 フィルタは肯定的n-gramパターンだけでなく、関連する否定的または否定されたn-gramを能動的に抑制するのか？
• RQ4 スロット活性化ベクトルの分析とスコアの高いn-gramのクラスタリングを通じて、各フィルタに対してより情報量が多く構造的な要約を導けるか？
• RQ5 フィルタしきい値を通過するn-gramに限定し、n-gram構成における否定的キューを特定することで、予測の解釈性を向上させられるか？

主な発見

• テキストCNNにおけるマックスプーリングは、しきい値処理を引き起こす。40％のプール済みn-gramは性能に影響を与えずに削除可能であり、これはn-gramのうち一部しか機能的に関連していないことを示唆している。
• フィルタは均一ではない。1つのフィルタが複数の明確に異なる意味的n-gramファミリーを検出することが、スロット活性化パターンに基づくn-gramのクラスタリングによって明らかになった。
• フィルタは、n-gram内の他の語が強く活性化されていても、特定の語に負の値を割り当てて、その全体のn-gramを抑制することが多く、能動的な否定行動を示している。
• フィルタは自然に発生するn-gramに敏感であり、非自然なn-gramには著しく誤解を招かれやすい。これは、フィルタが実際の言語的パターンに学習されていることを示している。
• スロット活性化ベクトルの分析とスコアの高いn-gramのクラスタリングにより、フィルタに明確な意味的アイデンティティを割り当てられ、モデルの解釈性が向上する。
• フィルタしきい値を通過するn-gramに限定し、否定的n-gramパターンを特定することで、予測の解釈性が向上し、より簡潔で正確な説明が得られる。