[論文レビュー] Explainable Artificial Intelligence and Multicollinearity : A Mini Review of Current Approaches

Ahmed Salih|arXiv (Cornell University)|Jun 17, 2024

Statistical and Computational Modeling被引用数 5

ひとこと要約

この論文は、現代のXAIアプローチをマルチコリレーションの文脈で調査し、特徴依存性に対処する7つの手法をレビューし、制限と今後の方向性を論じる。

ABSTRACT

Explainable Artificial Intelligence (XAI) methods help to understand the internal mechanism of machine learning models and how they reach a specific decision or made a specific action. The list of informative features is one of the most common output of XAI methods. Multicollinearity is one of the big issue that should be considered when XAI generates the explanation in terms of the most informative features in an AI system. No review has been dedicated to investigate the current approaches to handle such significant issue. In this paper, we provide a review of the current state-of-the-art approaches in relation to the XAI in the context of recent advances in dealing with the multicollinearity issue. To do so, we searched in three repositories that are: Web of Science, Scopus and IEEE Xplore to find pertinent published papers. After excluding irrelevant papers, seven papers were considered in the review. In addition, we discuss the current XAI methods and their limitations in dealing with the multicollinearity and suggest future directions.

研究の動機と目的

• 現実世界の相関特徴設定において、XAIの説明がマルチコリレーションの影響を受けることを理解する動機。
• 特徴が依存しているとき、特徴重要度を正しく評価する能力について現行のXAI手法を評価する。
• 特徴依存性を考慮するためにXAI手法を修正・拡張するアプローチを特定・要約する。
• マルチコリレーションに頑健な説明のサンプリング、分布推定、可視化の将来の研究方向を強調する。

提案手法

• SHAP、LIME、PDP、ALE、Anchorなど、情報豊かな特徴リストや依存性プロットを生成するXAI手法の総説。
• 特徴が相関している場合、マルチコリニアリティがあると説明が偏ったり誤解を招く可能性があることの議論。
• 依存性の影響を緩和する7つのアプローチの提示。グローバル/ローカル適用性、-method-specificか汎用か。
• 実装の入手性（例：Python/R Githubリポジトリ）と実用上の考慮事項の要約。
• 高次元設定と混合特徴タイプでの現在のアプローチの制限の評価。

Figure 1: Literature review search.

実験結果

リサーチクエスチョン

• RQ1 マルチコリニアリティは一般的なXAI説明の信頼性と解釈にどのように影響するか？
• RQ2 XAIにおける特徴依存性の影響を緩和する現在のアプローチは何か？それらはグローバル/ローカルで、手法特化/汎用か？
• RQ3 マルチコリレーションを扱う際の制限と未解決の課題は何か？
• RQ4 マルチコリレーション対応の説明の堅牢性と可視化を改善する将来の方向性は何か？

主な発見

手法	グローバルまたはローカル	特定か汎用
Modified Index Position : MIP	Global & Local	Agnostic
Extended Kernel SHAP	Local	Specific to SHAP
Normal ized Movement Rate (NMR)	Global & Local	Agnostic
SHAP Cohort Refinement (SCR)	Local	Specific to SHAP
Multi - collinearity Corrected (MCC)	Global	Specific to SHAP
Conditional Subgroups (CS)	Global	Agnostic
Conditional Inference Trees (CIT)	Local	Specific to SHAP

• SHAPの説明は特徴が共線的な場合、重要性を誤って帰属する可能性があり、依存性に対処する拡張が提案されている。
• SHAPや他のXAI技術を調整・補完するいくつかの手法があり、MIP、MCC、SCR、CS、CIT、および拡張SHAPバリアントを含む。
• いくつかの手法はグローバル、いくつかはローカル；SHAPに特化しているものもあれば、手法汎用のものもある。
• マルチコリリタリティを本質的に緩和するXAI手法は存在せず、条件分布とサンプリングの課題が高次元で現在のアプローチを制限している。
• 拡張は条件分布の推定や特徴重要度計算の調整に依存することが多く、適用性と入手性が様々。
• レビューは、マルチコリレーション下の特徴相互作用を反映する新しいプロットと可視化ツールの必要性を強調する。