[論文レビュー] Triplot: model agnostic measures and visualisations for variable importance in predictive models that take into account the hierarchical correlation structure

Katarzyna Pȩkala, Katarzyna Woźnica+1 more|arXiv (Cornell University)|Apr 7, 2021

Explainable Artificial Intelligence (XAI)参考文献 6被引用数 5

ひとこと要約

本稿では、特徴量間の階層的相関を組み込んだ、モデルに依存しない変数重要度分析のためのフレームワークであるTriplotを紹介する。相関する変数を「アスペクト」としてグループ化し、ブロック順列とLIMEに類似した手法を用いることで、グローバルおよびローカルなモデル解釈における解釈可能性を向上させる。実世界のデータセットを用いた実証的検証により、多重共線性による誤解釈が低減することが示された。

ABSTRACT

One of the key elements of explanatory analysis of a predictive model is to assess the importance of individual variables. Rapid development of the area of predictive model exploration (also called explainable artificial intelligence or interpretable machine learning) has led to the popularization of methods for local (instance level) and global (dataset level) methods, such as Permutational Variable Importance, Shapley Values (SHAP), Local Interpretable Model Explanations (LIME), Break Down and so on. However, these methods do not use information about the correlation between features which significantly reduce the explainability of the model behaviour. In this work, we propose new methods to support model analysis by exploiting the information about the correlation between variables. The dataset level aspect importance measure is inspired by the block permutations procedure, while the instance level aspect importance measure is inspired by the LIME method. We show how to analyze groups of variables (aspects) both when they are proposed by the user and when they should be determined automatically based on the hierarchical structure of correlations between variables. Additionally, we present the new type of model visualisation, triplot, which exploits a hierarchical structure of variable grouping to produce a high information density model visualisation. This visualisation provides a consistent illustration for either local or global model and data exploration. We also show an example of real-world data with 5k instances and 37 features in which a significant correlation between variables affects the interpretation of the effect of variable importance. The proposed method is, to our knowledge, the first to allow direct use of the correlation between variables in exploratory model analysis.

研究の動機と目的

• 既存のモデル解釈手法が特徴量の相関を無視するという限界に対処し、誤解を招く解釈を回避すること。
• 特徴量間の階層的相関を考慮した、グローバルおよびローカルな変数重要度を統合するフレームワークの開発。
• 相関構造、特徴量グループ、予測寄与度を1つの高情報密度の図で統合する新しい可視化技術「トライプロット」の導入。
• 相関構造に基づいたユーザー定義および自動抽出による変数グループ化を可能とし、モデルの解釈可能性を向上させること。
• 相関する特徴量がモデル解釈に顕著に影響を与える実世界のデータセットにおいて、本手法の有効性を示すこと。

提案手法

• 相関する特徴量グループを考慮した、ブロック順列手順にインspiredされたグローバル変数重要度測定を提案。
• LIMEに基づくローカル変数重要度手法を提案し、個々の変数ではなく「アスペクト」としてグループ化された要因を用いて予測を説明するように適応。
• 特徴量相関の階層的クラスタリングを用いて、解釈に適した意味のある変数グループ（アスペクト）を自動で同定。
• 3つのパネル（特徴量相関構造、アスペクト重要度、予測寄与度）を表示するトライプロット可視化手法を開発。
• モデルに依存しない計算を採用することで、ブラックボックスモデルを含む多様な予測モデルとの互換性を確保。
• Rパッケージ「triplot」に実装し、GPL-3.0ライセンスでGitHubに公開し、再現可能性のある研究を支援。

実験結果

リサーチクエスチョン

• RQ1 予測モデルにおける特徴量の階層的相関を考慮するには、どのように変数重要度を再定義できるか？
• RQ2 特徴量の相関を無視することで、モデル解釈においてどの程度誤解を招くことになるか？
• RQ3 相関する特徴量の自動グループ化は、ローカルおよびグローバルなモデル解釈の安定性と解釈可能性を向上させられるか？
• RQ4 トライプロット可視化は、異なる分析レベルでのモデル挙動の伝達をどのように向上させるか？
• RQ5 高次元かつ相関の強いデータセットにおいて、特徴量グループ化はモデル解釈の精度と信頼性にどのような影響を与えるか？

主な発見

• 提案手法は、特に相関が高い特徴量を含むデータセットにおいて、多重共線性による変数重要度の誤解釈リスクを顕著に低減した。
• FIFAデータセットにおいて、「動き」、「スキル」、「メンタリティ」などのアスペクトが選手価値予測に強く正の寄与を示した一方、「ディフェンス」や「ゴールキーピング」はほとんどまたは負の影響を示した。
• トライプロット可視化は、相関構造、アスペクト重要度、予測寄与度を効果的に統合し、グローバルおよびローカル解釈の両方で一貫した解釈を可能にした。
• 相関構造に基づく自動グループ化により、「ボディパラメータ」や「攻撃的行動」などの一部の特徴量グループが予測にほとんど影響を与えないことが判明し、解釈の焦点が明確になった。
• 高相関特徴量を含む5,000件のインスタンス、37の特徴量を持つデータセットにおいて、標準的な変数重要度手法に比べて安定性と解釈可能性の向上が確認された。
• トライプロットRパッケージにより、相関を考慮した変数グループ化を備えた再現可能でオープンソースのモデル解釈分析が可能となり、手動および自動によるアスペクト作成をサポートする。