[論文レビュー] Explainable AI: current status and future directions

Prashant Gohel, Priyanka Singh+1 more|arXiv (Cornell University)|Jul 12, 2021

Explainable Artificial Intelligence (XAI)参考文献 55被引用数 78

ひとこと要約

マルチメディアデータ（テキスト、画像、音声、映像）全体にわたるExplainable AI（XAI）技術の調査で、透明な手法と事後的手法を比較し、信頼できるAIアプリケーションの利点・限界・将来の方向性を論じる。

ABSTRACT

Explainable Artificial Intelligence (XAI) is an emerging area of research in the field of Artificial Intelligence (AI). XAI can explain how AI obtained a particular solution (e.g., classification or object detection) and can also answer other "wh" questions. This explainability is not possible in traditional AI. Explainability is essential for critical applications, such as defense, health care, law and order, and autonomous driving vehicles, etc, where the know-how is required for trust and transparency. A number of XAI techniques so far have been purposed for such applications. This paper provides an overview of these techniques from a multimedia (i.e., text, image, audio, and video) point of view. The advantages and shortcomings of these techniques have been discussed, and pointers to some future directions have also been provided.

研究の動機と目的

• AIの信頼と透明性のためのExplainabilityの必要性を動機づける。
• マルチメディアデータ（テキスト、画像、音声、映像）全体にわたる既存のXAI技術を要約する。
• XAI手法の利点と欠点を論じ、今後の研究方向への指針を提供する。
• 透明なXAIアプローチと事後XAIアプローチを区別する分類フレームワークを提示する。
• 防衛、医療、法、産業などの応用を強調し、実践的な関連性を示す。

提案手法

• XAI技術を透明（intrinsically interpretable）と事後（post-hoc）カテゴリーに分類する。
• モデル非依存型およびモデル特異的な説明と、それらがさまざまなデータタイプに適用可能かをレビューする。
• 顕著性マップ、LIME、SHAP、LRP、起源ベースのアプローチの長所と短所を論じる。
• データタイプ（テキスト、画像、映像、音声）に関するXAI手法の分類ツリーを概説する。
• 現実世界の分野でXAIを展開する際のケーススタディと実用的考慮事項を提供する。

実験結果

リサーチクエスチョン

• RQ1 マルチメディアデータ（テキスト、画像、音声、映像）に提案された主なXAI手法は何で、それらはどう比較されるか？
• RQ2 透明なXAI手法と事後XAI手法の長所と短所は、異なるデータモダリティを横断してどのように異なるか？
• RQ3 XAIは医療、防衛、法執行などの重要な応用で信頼性、透明性、公正性にどう寄与できるか？
• RQ4 マルチモーダルAIシステムの説明性を向上させるための将来の方向性と研究機会は何か？

主な発見

• XAI手法は、透明（内在的に解釋可能）と事後的（事実の後で説明）アプローチに分類される。
• 顕著性ベースの説明、LIME、SHAP、LRP、そして起源/分類法（provenance/taxonomy）手法は、解釈可能性の度合いに差があり、忠実度と複雑さのトレードオフを伴う。
• モデル非依存型手法（例：LIME、SHAP）は幅広い適用性を提供するが、不安定さや特徴量依存性などの課題に直面する。
• 反事実的説明（SEDC/SEDC-T）は、人間中心で、比較対照的な正当化を提供し、規制文脈に有用である。
• 説明性の概念はテキスト、画像、音声、映像へと拡張され、それぞれのモダリティに特有の課題と機会がある。