[論文レビュー] Synthetic Benchmarks for Scientific Research in Explainable Machine Learning

Yang Liu, Sujay Khandagale+2 more|arXiv (Cornell University)|Jun 23, 2021

Explainable Artificial Intelligence (XAI)参考文献 73被引用数 14

ひとこと要約

本稿では、構成可能なデータセットと、説明可能AIにおける特徴の寄与度を評価するためのライブラリを備えた合成ベンチマークスイート、XAI-Benchを紹介する。既知のデータ分布を用いることで、真値Shapley値やその他のメトリクスの正確な計算が可能となり、SHAP、LIME、L2Xなどの説明技術を、特徴相関やモデルタイプといった多様な設定において、効率的かつ再現可能にベンチマーク化できる。これにより、人間による評価の前段階で開発を加速し、障害の検出を促進する。

ABSTRACT

As machine learning models grow more complex and their applications become more high-stakes, tools for explaining model predictions have become increasingly important. This has spurred a flurry of research in model explainability and has given rise to feature attribution methods such as LIME and SHAP. Despite their widespread use, evaluating and comparing different feature attribution methods remains challenging: evaluations ideally require human studies, and empirical evaluation metrics are often data-intensive or computationally prohibitive on real-world datasets. In this work, we address this issue by releasing XAI-Bench: a suite of synthetic datasets along with a library for benchmarking feature attribution algorithms. Unlike real-world datasets, synthetic datasets allow the efficient computation of conditional expected values that are needed to evaluate ground-truth Shapley values and other metrics. The synthetic datasets we release offer a wide variety of parameters that can be configured to simulate real-world data. We demonstrate the power of our library by benchmarking popular explainability techniques across several evaluation metrics and across a variety of settings. The versatility and efficiency of our library will help researchers bring their explainability methods from development to deployment. Our code is available at https://github.com/abacusai/xai-bench.

研究の動機と目的

• 説明可能AIにおける特徴の寄与度を評価・比較する課題に対処すること。これは、しばしば信頼性が高く、効率的で、客観的なメトリクスが欠如している。
• 現実世界のデータセットの制限を克服すること。ここでは、真値の説明が通常不明であり、Shapley値のようなメトリクスの計算が計算的に非現実的である。
• 人間による評価の前段階で、スケーラブルで再現可能かつ構成可能な環境を提供し、説明可能性アルゴリズムのベンチマーク化を可能にすること。
• 高相関特徴下での性能低下といった、微妙な失敗モード（例：高相関下での性能低下）を、実世界の応用に導入する前段階で検出できるようにすること。
• 迅速で自動化された評価パイプラインを提供することで、説明可能手法の開発から実用化への移行を加速すること。

提案手法

• 著者らは、Shapley値の計算に必要な条件付き期待値を正確に計算できるように、既知の真値データ分布を持つ合成データセットを生成する。
• このライブラリは、特徴相関（ρ）、データ分布タイプ（正規分布、ベルヌーイ分布など）、特徴スケール、ターゲット生成関数といった、構成可能なデータセットパラメータをサポートする。
• 距離（真値Shapley値との差）、ROAR（削除して再訓練）、忠実性、単調性、不忠実性といった、主な評価メトリクスの正確な計算を可能にする。
• 共分散と分布マッチングを用いて、現実世界のデータセットを合成アナログに変換するフレームワークを提供し、現実的ではあるが真値の解釈が可能なデータをシミュレートする。
• 主要な説明ツール（例：SHAP、LIME、L2X）と統合され、モデルタイプ、特徴相関、データ分布といった複数の軸にわたるベンチマークが可能になる。
• APIアクセス、ドキュメント、実験結果を提供し、再現性とコミュニティの貢献を支援する。

実験結果

リサーチクエスチョン

• RQ1 さまざまな合成データ分布（真値Shapley値が既知）において、異なる特徴の寄与度手法はどのように性能を発揮するか？
• RQ2 特徴相関が説明可能性手法の性能に与える影響はどの程度で、合成ベンチマークを用いてこれを体系的に検出できるか？
• RQ3 合成データセットは、真値評価メトリクスの正確な計算を可能にしつつ、現実世界のデータ特性を効果的にシミュレートできるか？
• RQ4 忠実性、単調性などの評価メトリクスのうち、説明アルゴリズムの失敗モードに対して最も感受性が高いのはどれか？
• RQ5 合成ベンチマークは、人間による評価の前段階で、新しい説明可能手法の開発と洗練をどのように支援できるか？

主な発見

• XAI-Benchライブラリは、既知のデータ分布を持つ合成データセットを活用することで、真値Shapley値やその他のメトリクスの正確な計算を可能にする。
• SHAPとLIMEは、低～中程度の特徴相関（ρ ≤ 0.5）において一貫した性能を示したが、高相関設定では性能低下が観察された。
• ROARメトリクスは、L2XとMAPLEが特徴削除に対して高い感受性を示しており、説明の信頼性に不安定さがある可能性を示した。
• 忠実性と単調性メトリクスは、高相関下でSHAPRとL2Xに体系的な失敗を検出しており、SHAPRはSHAPと比較して不忠実性が1.8倍に増加した。
• このライブラリは、高相関下で説明可能手法がしばしば失敗することを効果的に同定した。これは、真値ラベルが不明な現実世界のデータセットでは検出が困難な失敗モードである。
• 著者らは、共分散と分布マッチングを用いて、現実データから合成データに効果的にマッピングできることを実証した。これにより、現実的ではあるが解釈可能なデータを用いたベンチマークが可能になった。