[論文レビュー] On the Connections between Counterfactual Explanations and Adversarial Examples.

Martin Pawelczyk, Shalmali Joshi+3 more|arXiv (Cornell University)|Jun 18, 2021

Adversarial Robustness in Machine Learning参考文献 33被引用数 5

ひとこと要約

本稿は、反事後的説明と adversarial examples の間の理論的・実験的関係を形式的に確立し、Wachter らや Carlini & Wagner（MSE 損失を用いる場合）といった代表的な手法が特定の条件下で数学的に同等であることを示している。さらに、線形モデルにおける反事後的説明と adversarial examples の間の距離を上限づけ、合成データおよび実世界のデータセットを用いてその妥当性を検証している。

ABSTRACT

Counterfactual explanations and adversarial examples have emerged as critical research areas for addressing the explainability and robustness goals of machine learning (ML). While counterfactual explanations were developed with the goal of providing recourse to individuals adversely impacted by algorithmic decisions, adversarial examples were designed to expose the vulnerabilities of ML models. While prior research has hinted at the commonalities between these frameworks, there has been little to no work on systematically exploring the connections between the literature on counterfactual explanations and adversarial examples. In this work, we make one of the first attempts at formalizing the connections between counterfactual explanations and adversarial examples. More specifically, we theoretically analyze salient counterfactual explanation and adversarial example generation methods, and highlight the conditions under which they behave similarly. Our analysis demonstrates that several popular counterfactual explanation and adversarial example generation methods such as the ones proposed by Wachter et. al. and Carlini and Wagner (with mean squared error loss), and C-CHVAE and natural adversarial examples by Zhao et. al. are equivalent. We also bound the distance between counterfactual explanations and adversarial examples generated by Wachter et. al. and DeepFool methods for linear models. Finally, we empirically validate our theoretical findings using extensive experimentation with synthetic and real world datasets.

研究の動機と目的

• 機械学習の解釈可能性と耐性という2つの主要分野である反事後的説明と adversarial examples の間の理論的関係を体系的かつ体系的に探求すること。
• 広く用いられている反事後的説明および adversarial example 生成手法が同等の結果を生じる条件を同定すること。
• 線形モデルに対して、反事後的説明と adversarial examples の間の距離を形式的に上限づけること。
• 合成データおよび実世界のデータセットを用いて、理論的発見を実証的に検証すること。

提案手法

• 顕著な反事後的説明および adversarial example 生成手法の理論的分析を行い、最適化目的関数と制約に焦点を当てる。
• Wachter らと Carlini & Wagner（MSE 損失を用いる場合）の間の同等性、および Zhao らによる C-CHVAE と自然な adversarial examples の間の同等性を形式的に導出する。
• 線形モデルに対して、Wachter らが生成する反事後的説明と DeepFool 法による adversarial examples の間の距離に対する理論的上限を導出する。
• 理論的同等性および上限の妥当性を検証するため、合成データおよび実世界のデータセットを用いた実証的評価を実施する。
• 理論的分析における手法同等性の統一的目的関数として、平均二乗誤差損失を用いる。
• 共通の制約下で勾配に基づく最適化手法を用いて、反事後的説明および adversarial examples の両方を生成する。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下で、反事後的説明生成手法が adversarial example 生成手法と同等となるのか？
• RQ2 線形モデルにおいて、生成された反事後的説明と adversarial examples の間の摂動距離はどのように比較されるのか？
• RQ3 Wachter らや Carlini & Wagner（MSE 損失を用いる場合）といった手法が、同一または同等の出力を生成する割合はどの程度か？
• RQ4 C-CHVAE と Zhao らによる自然な adversarial examples は、同じ定式化下で理論的に同等とみなせるか？
• RQ5 理論的同等性および上限は、多様なデータセットにおいて実際の状況でもどの程度成立するのか？

主な発見

• Wachter らや Carlini & Wagner（平均二乗誤差損失を用いる場合）といった広く用いられている反事後的説明および adversarial example 生成手法は、特定の条件下で理論的に同等である。
• C-CHVAE を用いた反事後的説明生成法は、同じ最適化フレームワーク下で Zhao らが生成する自然な adversarial examples と同等である。
• 線形モデルに対して、Wachter らが生成する反事後的説明と DeepFool 法による adversarial examples の間の距離に対する理論的上限が導出された。
• 実証的結果により、合成データおよび実世界のデータセットにおいて理論的同等性が確認され、発見の一貫性が裏付けられた。
• 本研究では、損失関数の選択、特に平均二乗誤差が、反事後的説明と adversarial examples の目的関数を統合する上で極めて重要な役割を果たすことが明らかになった。
• 研究結果から、耐性と帰属可能性（recourse）は、共通の最適化ダイナミクスを有する統一的枠組みを通じて統合的に研究可能であると示唆された。