[論文レビュー] Counterfactual Explanations Using Optimization With Constraint Learning

Donato Maragno, Tabea E. Röber+1 more|UvA-DARE (University of Amsterdam)|Sep 22, 2022

Explainable Artificial Intelligence (XAI)被引用数 7

ひとこと要約

本稿では、複数の実用的基準を同時に満たすために制約学習を用いた最適化ベースのフレームワークであるCE-OCLを提案する。信頼領域とインシデント解を統合することで、近接性、多様性、データ多様体への近接性、実行可能性の観点で、ドイツ信用データを含むベンチマークデータセットにおいて最先端の手法を上回る優れた性能を達成した。

ABSTRACT

To increase the adoption of counterfactual explanations in practice, several criteria that these should adhere to have been put forward in the literature. We propose counterfactual explanations using optimization with constraint learning (CE-OCL), a generic and flexible approach that addresses all these criteria and allows room for further extensions. Specifically, we discuss how we can leverage an optimization with constraint learning framework for the generation of counterfactual explanations, and how components of this framework readily map to the criteria. We also propose two novel modeling approaches to address data manifold closeness and diversity, which are two key criteria for practical counterfactual explanations. We test CE-OCL on several datasets and present our results in a case study. Compared against the current state-of-the-art methods, CE-OCL allows for more flexibility and has an overall superior performance in terms of several evaluation metrics proposed in related work.

研究の動機と目的

• 近接性、多様性、実行可能性、データ多様体への近接性といった主要な実用的基準を同時に満たせない既存の対向説明手法のギャップを埋めること。
• 複数の解釈可能性基準を統一された最適化モデルに体系的に統合できる汎用的で柔軟なフレームワークを構築すること。
• 具体的には信頼領域とインシデントベースの多様性という新たなモデリング技術を導入し、生成された対向説明の現実性と多様性を向上させること。
• ドイツ信用データのような標準データセットを用いた包括的な指標で評価することで、対向説明の質の新基準を確立すること。
• 最適化による制約学習（OCL）が、実行可能で現実的かつ多様な対向説明を生成するためのスケーラブルで効果的なパラダイムであることを示すこと。

提案手法

• CE-OCLは、事実例からの距離、スパarsity、および目的予測からの逸脱を最小化する目的関数を有する制約付き最適化問題として対向説明生成を定式化する。
• 特徴量の値を観測された訓練データの近傍内に制約することで、信頼領域アプローチを用い、生成された対向説明がデータ多様体に近くなるように保証する。
• 直前の最適化反復で得られたインシデント解を用いることで、複数の対向説明における同一の特徴量変更を回避し、多様性を促進する。
• 制約学習により、データやドメイン知識から得られる暗黙の制約を学習することで、実行可能性や因果関係といった複雑な基準を統合する。
• カテゴリカルおよび連続的特徴量の両方をサポートし、最適化中における適切なエンコーディングとデコーディング機構により一貫性を維持する。
• 段階的な最適化モデルを用い、スパarsity、実行可能性、因果関係などの制約を段階的に追加することで、構造的に対向説明を洗練させる。

実験結果

リサーチクエスチョン

• RQ1 制約学習を用いた最適化フレームワークは、統一的な枠組みで主な対向説明基準を効果的に満たすことができるか？
• RQ2 信頼領域の使用は、生成された対向説明のデータ多様体への近接性と現実性をどのように向上させるか？
• RQ3 反復的最適化におけるインシデント解は、対向説明の多様性をどの程度向上させるか？
• RQ4 有効性、近接性、スパarsity、多様性、実行可能性という指標において、CE-OCLは最先端の手法と比較してどのように差をつけるか？
• RQ5 提案されたフレームワークは、因果関係や一貫性といった追加基準を柔軟に統合できるか？

主な発見

• すべての評価部で1.00の有効性スコアを達成し、生成されたすべての対向説明が望ましい結果を正しく予測していることを確認した。
• 因果関係とデータ多様体への近接性を含むPart Fでは、近接性指標が0.77（正規化スケール）に達し、事実例に強く近接していることを示した。
• 特徴量ごとの差異に基づく多様性指標はPart Fで0.10に達し、最適化の制約にもかかわらず、多様な対向説明が効果的に生成されたことを示した。
• ドイツ信用データの事例研究において、CE-OCLは実行可能性および因果関係の制約を満たしながら、スパarsity（0.78）と近接性（0.77）の両方を改善した対向説明を生成した。
• 先行手法と比較して、特にすべての基準が適用された状況下で、多様性およびデータ多様体への近接性といった複数の評価指標で優れた性能を示した。
• 「貯蓄」や「雇用期間」などの特徴量の変更を有効範囲内に制限するなど、実行可能性制約を適切に尊重した対向説明を効果的に生成した。