[論文レビュー] LS-Tree: Model Interpretation When the Data Are Linguistic

Jianbo Chen, Michael I. Jordan|arXiv (Cornell University)|Feb 11, 2019

Topic Modeling参考文献 25被引用数 5

ひとこと要約

LS-Tree は、構文解析木を用いて最小二乗法に基づく重要度スコアを語に割り当てることで、NLP モデルのモデルに依存しない解釈手法を導入する。この手法は、協力ゲーム理論における Banzhaf 値と結びつけ、語の相互作用の検出や非線形性、逆説的関係、過学習の診断を、BERT、LSTM、CNN、線形モデルなど複数のモデルで可能にする。

ABSTRACT

We study the problem of interpreting trained classification models in the setting of linguistic data sets. Leveraging a parse tree, we propose to assign least-squares based importance scores to each word of an instance by exploiting syntactic constituency structure. We establish an axiomatic characterization of these importance scores by relating them to the Banzhaf value in coalitional game theory. Based on these importance scores, we develop a principled method for detecting and quantifying interactions between words in a sentence. We demonstrate that the proposed method can aid in interpretability and diagnostics for several widely-used language models.

研究の動機と目的

• 構文構造を活用して解釈性を向上させる、モデルに依存しない NLP モデルの解釈手法の開発。
• 協力ゲーム理論に根ざした最小二乗法を用いて、構文解析木のノード上で語レベルの重要度スコアを定量化する。
• 線形回帰における Cook の距離を用いて、構文解析木の兄弟ノード間の相互作用を定量化する。
• 相互作用スコアを用いて、非線形性、逆説的語の感受性、過学習などのモデル行動を診断する。
• 訓練データとテストデータにおける相互作用スコアの分散差に基づく、過学習の診断ツールの提供。

提案手法

• 各構文解析木内の語の部分集合 S に対して、f(S) - f(∅) を特徴関数 v(S) として定義し、語の部分集合がモデル出力に与える寄与を表す。
• すべての構文解析木の部分集合 S に対して ∑[v(S) - ∑_{i∈S} ψ_i]² を最小化するように、語の重要度スコア ψ を最小二乗最適化問題として解く。
• この最小二乗問題の解として LS-Tree 値を定義し、協力ゲーム理論における Banzhaf 値と正式に結びつける。
• 線形回帰における Cook の距離を用いて、構文解析木の兄弟ノード間の相互作用を定量化し、影響力のある語のペアを特定する。
• 訓練データとテストデータ間の相互作用スコア分散の順列検定を実施し、過学習を検出する。
• SST、IMDB、Yelp の3つのデータセットで、線形モデル、CNN、LSTM、BERT の4つのモデルを対象に、解釈性と診断性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 構文的構成構造を活用することで、モデルに依存しない解釈手法が、語の重要度スコアを効果的に割り当てられるか。
• RQ2 構文解析木の構造と回帰診断を用いて、文内の語の相互作用を体系的に定量化できるか。
• RQ3 LS-Tree は、BERT、LSTM、CNN などの深層学習モデルにおける非線形性をどの程度検出できるか。
• RQ4 異なるモデルは、文脈における逆説的関係（例：'not'、'while'）をどのように処理するか。LS-Tree はその感受性を定量化できるか。
• RQ5 訓練データとテストデータにおける LS-Tree 相互作用スコアの分散差が、過学習の信頼できる診断指標として機能するか。

主な発見

• BERT は、すべてのデータセットで平均的な相互作用スコアが最も高く、他のモデルよりも語の相互作用に対して感受性が強いことが示された。
• SST および IMDB データセットでは、BERT が他のモデルよりも逆説的関係をよりよく捉えている。これは、大規模なテキストで事前学習されているためと考えられる。
• Yelp データセットはより多くの訓練データを有するため、CNN および LSTM モデルが BERT と同等に逆説的関係を検出していた。
• 'while' の相互作用スコアは、逆説的意味を有する場合に顕著に高くなり、特に BERT で最も明確な差が観察された。
• 過学習したモデルでは、テストデータにおける相互作用スコアの平均分散が訓練データよりも大きくなる傾向が、CNN、LSTM、BERT で共通して観察された。
• 訓練データとテストデータ間の相互作用スコア分散に対する順列検定では、過学習段階で p 値が 0.05 未満となった。これは、早期停止基準としての有効性を示唆している。