[論文レビュー] Extended Empirical Validation of the Explainability Solution Space

Antoni Mestre, Manoli Albert+2 more|arXiv (Cornell University)|Mar 1, 2026

Explainable Artificial Intelligence (XAI)被引用数 0

ひとこと要約

論文は Explainability Solution Space (ESS) をリアルタイムの銀行不正検知システムに適用し、5つの XAI ファミリーを比較し、規制と待機遅延の制約下で段階的なハイブリッド推奨（SHAP の常時適用、紛争時の Counterfactuals、オフラインの Rule Extraction）を提案する。

ABSTRACT

This technical report provides an extended validation of the Explainability Solution Space (ESS) through cross-domain evaluation. While initial validation focused on employee attrition prediction, this study introduces a heterogeneous intelligent urban resource allocation system to demonstrate the generality and domain-independence of the ESS framework. The second case study integrates tabular, temporal, and geospatial data under multi-stakeholder governance conditions. Explicit quantitative positioning of representative XAI families is provided for both contexts. Results confirm that ESS rankings are not domain-specific but adapt systematically to governance roles, risk profiles, and stakeholder configurations. The findings reinforce ESS as a generalizable operational decision-support instrument for explainable AI strategy design across socio-technical systems.

研究の動機と目的

• ESS のリアルタイムで規制適合な不正検知ドメインへの適用性を実証する。
• 運用制約下での遵守性、ユーザー理解性、開発者の有用性の軸における異なる XAI ファミリーの性能を評価する。
• 200 ms のレイテンシ予算を想定した置換展開での説明可能性のハイブリッド・階層的推奨を提供する。
• ESS の成果が以前の HR 離職のインスタンス化と整合することを示し、フレームワークの一般化可能性を支持する。

提案手法

• 不正データ表形式に適した five XAI ファミリーを用いて ESS をインスタンス化する：SHAP TreeExplainer、LIME Tabular、DiCE 風 Counterfactuals、グローバル Rule Extraction、k-NN Prototypes。
• 7 次元の内在特性ベクトルを各手法について算出する：Audit., Trace., Compr., Action., Fidelity, Debug., Eff.。
• 利害関係者の軸に合わせて特性を加重式で集約し C_t, U_t, D_t を取得する。
• 置換コンテキスト乗数を適用し、定性的レベルへ離散化して最終 ESS 座標（C', U', D'）とレベルを得る。
• 組み合わせた有用性 U_t とコスト代理指標 R_t を用いたリソース配分を意識した多目的最適化を実施し、展開可能性を評価する。
• 多目的結果に基づいて階層的なハイブリッド推奨を導出する。

実験結果

リサーチクエスチョン

• RQ1 リアルタイムの不正検知環境において、異なる XAI ファミリーは遵守性、ユーザー理解、開発者の有用性をどのようにバランスするか？
• RQ2 置換コンテキスト乗数が説明手法のランキングと選択にどのような影響を与えるか？
• RQ3 規制要件、ユーザーニーズ、リアルタイム制約を最も満たす階層的ハイブリッド説明戦略はどれか？
• RQ4 ESS の推奨はドメイン文脈（不正検知 vs HR 離職）間で一貫性があり、一般化可能性を示すか？

主な発見

Technique	U_t	R_t	U_t / R_t	Efficiency/Latency Note
SHAP	3.82	0.25	15.3	< 50 ms (✓)
LIME	3.56	0.33	10.8	~ 80 ms (✓)
Counterfactuals	3.80	0.33	11.5	~ 100 ms (≈)
Rule Extraction	3.90	0.50	7.8	Offline only (×)
Prototypes	3.52	0.33	10.7	~ 60 ms (✓)

• SHAP は遵守性と開発者有用性のバランスが最も良く、遅延予算内に収まる（< 50 ms）。
• Counterfactual 説明はブロック後の復権においてユーザー理解性を最大化するが、遵守の安定性は低く、遅延は約 100 ms 程度。
• Rule Extraction は遵守性を支配的に高めるが、オフライン性と低遅延時の実装性の点でリアルタイム展開には不適。
• LIME は軽量な代替案を提供し、適度な遵守性と高いユーザー有用性を示す。
• Prototypes はユーザー直感に強いが遵守性と開発者価値は限定的。
• 階層的 ESS 推奨（SHAP 常時適用、紛争対応は CF を選択、Rule Extraction はオフライン） は遅延とガバナンスの要件に適合しつつ全体的な有用性を最大化する。