[論文レビュー] CounteRGAN: Generating Realistic Counterfactuals with Residual Generative Adversarial Nets

Daniel Nemirovsky, Nicolas Thiébaut+2 more|arXiv (Cornell University)|Sep 10, 2020

Explainable Artificial Intelligence (XAI)被引用数 11

ひとこと要約

CounteRGANは、機械学習モデルのための現実的で実行可能かつ低遅延の反事実を生成するための新しい残差的生成対抗ネットワーク（RGAN）を提案する。生成器が入力データの残差摂動を学習し、識別器がデータ分布の現実性を保証することで、従来手法に比べ最大90,000倍の高速な推論を達成し、実世界のデータセットにおいて反事実の現実性と実行可能性を向上させる。

ABSTRACT

The prevalence of machine learning models in various industries has led to growing demands for model interpretability and for the ability to provide meaningful recourse to users. For example, patients hoping to improve their diagnoses or loan applicants seeking to increase their chances of approval. Counterfactuals can help in this regard by identifying input perturbations that would result in more desirable prediction outcomes. Meaningful counterfactuals should be able to achieve the desired outcome, but also be realistic, actionable, and efficient to compute. Current approaches achieve desired outcomes with moderate actionability but are severely limited in terms of realism and latency. To tackle these limitations, we apply Generative Adversarial Nets (GANs) toward counterfactual search. We also introduce a novel Residual GAN (RGAN) that helps to improve counterfactual realism and actionability compared to regular GANs. The proposed CounteRGAN method utilizes an RGAN and a target classifier to produce counterfactuals capable of providing meaningful recourse. Evaluations on two popular datasets highlight how the CounteRGAN is able to overcome the limitations of existing methods, including latency improvements of >50x to >90,000x, making meaningful recourse available in real-time and applicable to a wide range of domains.

研究の動機と目的

• 既存の反事実生成手法が直面する現実性の欠如、実行可能性の低さ、高遅延といった限界を是正すること。
• 医療、金融、刑事司法など高リスク分野におけるユーザーに対してリアルタイムで意味のある是正措置を提供すること。
• データ分布の忠実度を保ちながら実行可能な入力摂動を提示するGANベースのフレームワークを用いて、現実性と実行可能性を分離すること。
• モデル勾配に依存しない手法を設計することで、ブラックボックスおよび非微分可能な分類器に対応すること。
• 反事実の生成によって、訓練済みモデルに潜在するバイアス（例えば再犯予測における人種や性別関連の不平等な特徴依存）を特定すること。

提案手法

• 本手法は、反事実を直接生成するのではなく、入力データに対する残差摂動を出力するように学習する残差的GAN（RGAN）を採用する。
• 識別器は、実際のデータサンプルと生成された反事実を区別するように訓練され、生成出力を元のデータ分布に一致させることで現実性を保証する。
• 固定されたターゲット分類器が摂動を加えた入力の予測結果を評価し、反事実が望ましいモデル出力に至ることを保証する。
• 生成器の損失関数は、識別器からの敵対的損失とターゲット分類器からの予測損失を組み合わせており、エンドツーエンドの学習を可能にする。
• 本フレームワークはブラックボックスモデルと互換性がある。これは、ターゲット分類器の勾配を必要としないため、実際の生産環境システムへの適用が可能である。
• 本手法は、識別器によって保証される現実性（realism）と、特徴摂動のスパarsityと近接性によって導かれる実行可能性（actionability）、および分類器フィードバックによる予測ゲイン最適化を分離する。

実験結果

リサーチクエスチョン

• RQ1 勾配ベースの最適化に依存せずに、現実的で実行可能な反事実を生成できるGANベースのフレームワークは存在するか？
• RQ2 残差的生成器アーキテクチャは、標準的なGANや勾配ベース手法と比較して、反事実の現実性をどの程度向上させ得るか？
• RQ3 提案手法は、RGD や CSGP といった最先端のアプローチと比較して、反事実生成の遅延をどの程度低減できるか？
• RQ4 本手法は、再犯予測における人種や性別関連の潜在的バイアスを特定できるか？
• RQ5 エンドユーザーにとって実行可能で解釈可能な反事実を生成する際、本フレームワークは高い予測ゲインを維持できるか？

主な発見

• CounteRGANは、RGD や CSGP と比較して、50倍から90,000倍以上の遅延改善を達成し、リアルタイムでの反事実生成を可能にする。
• COMPASデータセットにおいて、GANおよびCounteRGANが生成した反事実では、人種を「Black」から「Caucasian」に、性別を「Male」から「Female」に変更するよう提案しており、モデルバイアスの兆候を示している。
• MNISTおよび他のデータセットを用いた定性的・定量的分析により、ベースライン手法よりも高い反事実の現実性が裏付けられている。
• CounteRGANが生成した反事実は、すべてのテストケースで望ましいクラスにモデル出力を反転させる強力な予測ゲインを達成している。
• 本手法は高い実行可能性を維持しており、スパースで解釈可能な摂動を生成し、前科の数が負数になるような現実的でない変更を回避している。
• ブラックボックス分類器に対しても反事実を効果的に生成でき、モデル勾配が入手不可な実世界システムへの適用可能性を示している。