[論文レビュー] Explainable Artificial Intelligence Approaches: A Survey

Sheikh Rabiul Islam, William Eberle+2 more|arXiv (Cornell University)|Jan 23, 2021

Explainable Artificial Intelligence (XAI)参考文献 54被引用数 88

ひとこと要約

この調査は、クレジットデフォルト予測ケーススタディを用いて人気のXAI手法をレビューし、長所/制限を分析し、説明可能性を定量化する方法と人間中心 AIの道筋を論じる。

ABSTRACT

The lack of explainability of a decision from an Artificial Intelligence (AI) based "black box" system/model, despite its superiority in many real-world applications, is a key stumbling block for adopting AI in many high stakes applications of different domain or industry. While many popular Explainable Artificial Intelligence (XAI) methods or approaches are available to facilitate a human-friendly explanation of the decision, each has its own merits and demerits, with a plethora of open challenges. We demonstrate popular XAI methods with a mutual case study/task (i.e., credit default prediction), analyze for competitive advantages from multiple perspectives (e.g., local, global), provide meaningful insight on quantifying explainability, and recommend paths towards responsible or human-centered AI using XAI as a medium. Practitioners can use this work as a catalog to understand, compare, and correlate competitive advantages of popular XAI methods. In addition, this survey elicits future research directions towards responsible or human-centric AI systems, which is crucial to adopt AI in high stakes applications.

研究の動機と目的

• 相互のローンデフォルト予測タスクを用いて人気のXAI手法を実演する
• 複数の視点からXAI手法の長所、短所、競争優位性を比較する
• XAIの下で説明可能性を定量化し、人間中心AIを評価する洞察を提供する
• 説明可能性を媒介として責任あるAIに向けた方向性を推奨する

提案手法

• XAI手法を内在的に解釈可能、モデル非依存、例ベースの説明に分類・整理する
• Freddie Macデータセットを用いた共通のテストケース（credit default prediction）を用いて手法の動作を示す
• グローバル対ローカル、 ante-hoc 対 post-hoc、固有の説明性対模倣的な説明性の観点から手法を分析する
• ケーススタディの説明を生成・比較するためにRのimlパッケージを適用する
• 分析を補強するために最近の調査の知見を参照・統合する
• 説明を比較するための枠組みを提示し、未解の問題と今後の研究方向を議論する

実験結果

リサーチクエスチョン

• RQ1 人気のXAI手法の競争優位性と制限は、異なる説明（local/global、ante/post-hoc、固有/模倣）のそれぞれでどうか？
• RQ2 説明可能性をどのように定量化・評価できるか、ヒューマン・イン・ザ・ループ評価や代理指標を含めて？
• RQ3 credit default predictionのような現実の高リスクタスクにおいて、XAI手法はどのように機能し、どのように伝達されるか？
• RQ4 XAIを媒介として、責任あるAIまたは人間中心AIに向けてどの方向性が有望か？

主な発見

• XAI手法は、解釈性、忠実度、適用性の幅広いトレードオフをモデルやタスク全体に提供する
• グローバル手法（例：PDP、ALE）はモデルの全体的な挙動を提供する一方、ローカル手法（例：LIME、SHAP）はインスタンスレベルの予測を説明する
• 特徴量重要度、相互作用分析、代替モデルは役立つが、特徴量の相関や相互作用の影響を受ける可能性がある
• 反事実、プロトタイプ、および例ベースの説明は人間にとって理解しやすい洞察を提供するが、Rashomon効果や代表的なインスタンスの選択といった課題に直面する
• 責任ある人間中心AIを支援するため、方法に依存しない、ローカルで実際の（幻影でない）説明の必要性が特定されている