[論文レビュー] Multi-Layer Attention-Based Explainability via Transformers for Tabular Data

Andrea Treviño Gavito, Diego Klabjan+1 more|arXiv (Cornell University)|Feb 28, 2023

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本稿では、トランスフォーマーを用いた表形式データ向けのマルチレイヤー注意力に基づく解釈可能性手法を提案する。全レイヤーの注目行列をグラフ構造にマッピングすることで、影響力のある特徴量グループを同定する。本手法は、個々の特徴量の重要度を越えて特徴量の集合的影響を捉えることで解釈性を向上させ、データセット全体で一貫性と合意度の面でベースライン手法を上回る。

ABSTRACT

We propose a graph-oriented attention-based explainability method for tabular data. Tasks involving tabular data have been solved mostly using traditional tree-based machine learning models which have the challenges of feature selection and engineering. With that in mind, we consider a transformer architecture for tabular data, which is amenable to explainability, and present a novel way to leverage self-attention mechanism to provide explanations by taking into account the attention matrices of all heads and layers as a whole. The matrices are mapped to a graph structure where groups of features correspond to nodes and attention values to arcs. By finding the maximum probability paths in the graph, we identify groups of features providing larger contributions to explain the model's predictions. To assess the quality of multi-layer attention-based explanations, we compare them with popular attention-, gradient-, and perturbation-based explanability methods.

研究の動機と目的

• 表形式データ向けトランスフォーマー・モデルにおける包括的でマルチレイヤーの解釈可能性の欠如に対処すること。
• 特に高次元の表形式データにおいて、個々の特徴量ではなく意味のある特徴量グループを特定することで、モデルの解釈性を向上させること。
• 全トランスフォーマー・レイヤーからの注目情報を統合するグラフベースの手法を開発し、モデル予測に最も影響を与える概念を同定すること。
• 一貫性、安定性、およびデータセット間の合意度の観点から、提案手法を既存の注目、勾配、および摂動に基づく解釈可能性手法と比較すること。
• 複数回のランダム実行とペアワイズ合意度指標を用いて、説明の安定性と信頼性を評価すること。

提案手法

• 本手法は表形式データ上でマルチヘッド・トランスフォーマーを学習し、全レイヤーの注目パターンを保持するように、単一ヘッドでマルチレイヤーのトランスフォーマーに知識蒸留する。
• 全レイヤーからの注目行列を集約し、特徴量グループをノード、注目値を重み付きエッジとするグラフに変換する。
• グラフ内を最大確率パスとして計算し、モデル予測に最も寄与する影響力のある特徴量グループを同定する。
• 注目情報の維持と効率的なグラフベースの説明抽出を両立させるために、学生・教師フレームワークを用いる。
• 説明は、トップ1およびトップ2の概念グループの合意度を含む、異なる手法間のペアワイズ合意度指標を用いて評価される。
• 安定性は、同じトップ概念グループを特定するモデル実行の割合を測定することで評価される。

実験結果

リサーチクエスチョン

• RQ1 全トランスフォーマー・レイヤーからの注目情報を組み込むことで、単一レイヤー注目と比較して説明品質がどのように向上するか？
• RQ2 マルチレイヤー注目に基づく説明は、勾配および摂動に基づく手法と比較して、どの程度重要な特徴量グループを同定する点で一致するか？
• RQ3 複数回のランダム訓練実行において、説明はどの程度安定しており、既存のアプローチと比較して変動が小さくなっているか？
• RQ4 注目行列に対するグラフベースのパス解析は、意味的に意味のある概念グループを効果的に同定でき、モデル意思決定を予測可能にできるか？
• RQ5 特に高次元の表形式データにおいて、個々の特徴量ではなく特徴量グループに焦点を当てることで、解釈性が向上するか？

主な発見

• 提案されたマルチレイヤー注目（MLA）手法は、2つの最良の概念グループを考慮した場合、他の手法と平均75％以上のペアワイズ合意度を達成し、高い一貫性を示した。
• MLAは注目ベース手法（SAおよびSH）と、ローカル解釈手法（LL）と比較して高い合意度を示し、注目メカニズムとの整合性が向上したことを示唆した。
• 2つの最良の概念グループについて、MLAは全ペアワイズ比較で92％のモード合意度を達成し、高い耐性と安定性を示した。
• 安定性分析から、MLAは特にCTおよびRWデータセットにおいて、ローカル解釈（LL）手法よりも実行間の変動が小さいことが判明した。
• 勾配および摂動に基づく手法（SAおよびSH）は、互いに高い類似性を示したが、注目ベース手法とは異なる傾向を示し、特徴量選択における共通のバイアスがあることを示唆した。
• 本手法は、特徴量グループ間の相関の影響を効果的に軽減し、単一の任意の選択に依存するのを減らすことで、複数の上位グループを同定することで実現した。