[論文レビュー] OmniXAI: A Library for Explainable AI

Wenzhuo Yang, Hung Lê+3 more|arXiv (Cornell University)|Jun 1, 2022

Explainable Artificial Intelligence (XAI)被引用数 23

ひとこと要約

OmniXAI は、統一インターフェースと GUI ダッシュボードを備え、さまざまなデータタイプとモデル向けのオムニウェイ explainability を提供するオープンソースの Python ライブラリです。

ABSTRACT

We introduce OmniXAI (short for Omni eXplainable AI), an open-source Python library of eXplainable AI (XAI), which offers omni-way explainable AI capabilities and various interpretable machine learning techniques to address the pain points of understanding and interpreting the decisions made by machine learning (ML) in practice. OmniXAI aims to be a one-stop comprehensive library that makes explainable AI easy for data scientists, ML researchers and practitioners who need explanation for various types of data, models and explanation methods at different stages of ML process (data exploration, feature engineering, model development, evaluation, and decision-making, etc). In particular, our library includes a rich family of explanation methods integrated in a unified interface, which supports multiple data types (tabular data, images, texts, time-series), multiple types of ML models (traditional ML in Scikit-learn and deep learning models in PyTorch/TensorFlow), and a range of diverse explanation methods including "model-specific" and "model-agnostic" ones (such as feature-attribution explanation, counterfactual explanation, gradient-based explanation, etc). For practitioners, the library provides an easy-to-use unified interface to generate the explanations for their applications by only writing a few lines of codes, and also a GUI dashboard for visualization of different explanations for more insights about decisions. In this technical report, we present OmniXAI's design principles, system architectures, and major functionalities, and also demonstrate several example use cases across different types of data, tasks, and models.

研究の動機と目的

• データタイプとモデルを横断して explainable AI のためのワンストップで使いやすいライブラリを提供する。
• 統一インターフェースの下で、モデル非依存・モデル固有・反事実の豊富な説明手法を統合する。
• 表形式データ、画像、テキスト、および時系列データをサポートして包括的な XAI 分析を行う。
• GUI ダッシュボードを提供し、手法間の説明を可視化・比較できる。
• 一般的な ML フレームワーク（scikit-learn、PyTorch、TensorFlow）との容易な拡張と統合を促進する。

提案手法

• OmniXAI の設計原則（統一インターフェース、容易な拡張、容易な可視化）を導入する。
• データクラス、前処理、説明手法、説明、可視化ツールの5つの中核コンポーネントを説明する。
• データ分析、表形式、ビジョン、NLP（Timeseries は別の explainer で扱う）という4つの explainer グループを提供する。
• explainer をモデル非依存・モデル固有・反事実のいずれかに分類し、その適用性と限界を説明する。
• 適用可能な explainer を選択し ExplainerBase へルーティングする統一 AutoExplainerBase アーキテクチャを提示する。
• データタイプ全体で人気の手法（LIME、SHAP、PDP、MACE、Grad-CAM、IG、Polyjuice など）の統合を実演する。
• GUI ダッシュボード（Plotly Dash）と説明を生成・可視化するコード例を提供する。
• Tabular/NLP/ Vision/Timeseries explainer の初期化とローカル/グローバル explanations の取得に関する実践的な使用パターンを提供する。

実験結果

リサーチクエスチョン

• RQ1 さまざまなデータタイプとモデルに対して、単一のライブラリが包括的な XAI 手法を提供するにはどうすればよいか。
• RQ2 複数の説明を容易に拡張・比較・可視化できる設計上の決定は何か。
• RQ3 モデル非依存とモデル固有の説明を one API にどれだけ効果的に統一できるか。
• RQ4 タブ形式、画像、時系列データに対する反事実説明を単一フレームワーク内で効率的に統合できるか。
• RQ5 OmniXAI が実世界の ML ワークフロー（データ探索、特徴量エンジニアリング、モデル評価、意思決定）に与える影響はあるか。

主な発見

• OmniXAI は、統一インターフェースを備え、表形式、画像、テキスト、時系列などの幅広いデータタイプと ML フレームワーク（例: scikit-learn、PyTorch、TensorFlow）をサポートする。
• 多くの人気の説明手法（LIME、SHAP、PDP、Morris、L2X、Gradient-based methods、Grad-CAM、CEM、MACE、Polyjuice など）を、モデル非依存およびモデル固有のカテゴリを含めて統合している。
• ライブラリはローカルおよびグローバルな説明を提供するだけでなく、反事実の説明コンポーネント（タブ形式/時系列には MACE、画像には CE、テキストには Polyjuice）も備える。
• GUI ダッシュボードは、同じインスタンスまたはデータセットに対して複数の説明を視覚的に比較・探索できる。
• 実験は4つのデータ領域（表形式の所得予測、画像分類、NLP の感情分析、時系列異常検知）における説明可能性を示している。
• 設計は使いやすさ、拡張性、可視化に重点を置き、実務的な AI デバッグと監査を支援する。