[論文レビュー] Diffusion Visual Counterfactual Explanations

Maximilian Augustin, Valentyn Boreiko+2 more|arXiv (Cornell University)|Oct 21, 2022

Adversarial Robustness in Machine Learning被引用数 15

ひとこと要約

本稿では、任意の ImageNet クラス分類器に対して、生成的変換モデルを用いて現実的で最小限の変更かつ意味的に意味のある反事実的画像を生成する方法である Diffusion Visual Counterfactual Explanations (DVCEs) を提案する。適応的再パrameter化、距離正則化、敵対的に頑健なモデルによるコーン正則化を組み合わせることで、元の画像に視覚的に近く、高信頼度の反事実的画像を生成し、モデル固有の再訓練を必要とせず、頑健なモデルに限定されない。

ABSTRACT

Visual Counterfactual Explanations (VCEs) are an important tool to understand the decisions of an image classifier. They are 'small' but 'realistic' semantic changes of the image changing the classifier decision. Current approaches for the generation of VCEs are restricted to adversarially robust models and often contain non-realistic artefacts, or are limited to image classification problems with few classes. In this paper, we overcome this by generating Diffusion Visual Counterfactual Explanations (DVCEs) for arbitrary ImageNet classifiers via a diffusion process. Two modifications to the diffusion process are key for our DVCEs: first, an adaptive parameterization, whose hyperparameters generalize across images and models, together with distance regularization and late start of the diffusion process, allow us to generate images with minimal semantic changes to the original ones but different classification. Second, our cone regularization via an adversarially robust model ensures that the diffusion process does not converge to trivial non-semantic changes, but instead produces realistic images of the target class which achieve high confidence by the classifier.

研究の動機と目的

• 標準的な画像分類器に対して、モデルに依存しない、現実的で意味的に意味のある反事実的説明が不足している問題に対処すること。
• 敵対的に頑健なモデルに依存する既存手法の制限を克服し、非現実的なアーティファクトを生成するか、少数クラスのデータセットに限定される問題を解決すること。
• 最小限の摂動と意味的に整合性のある反事実的画像（VCEs）を生成する汎用的手法を開発すること。
• 高信頼度の反事実的画像を生成することで、分類器が学習した誤った特徴（スプライス・フィーチャー）を発見すること。

提案手法

• 分類器と距離正則化によってガイドされた拡散プロセスを用い、元の画像からの最小限で人間が認識しにくい変更を保証する。
• 固定されたハイパーパrameterを用いて画像やモデルに依存しない適応的再パラメータ化を実施し、一般化性を向上させる。
• 生成の初期段階で元の画像の意味的性質を保持できるよう、拡散プロセスの開始時を遅らせる。
• 敵対的頑健なモデルを用いたコーン正則化を導入し、拡散プロセスを現実的でターゲットクラスの画像へと誘導し、意味のない単純な変更を防ぐ。
• 分類器の信頼度を重要な信号として用い、生成された反事実的画像がターゲットクラスとして高確率で正しく分類されることを保証する。
• 生成モデルの再訓練を分類器ごとに必要とせず、任意の ImageNet クラス分類器に広く適用可能である。

実験結果

リサーチクエスチョン

• RQ1 拡散モデルは、モデル固有の再訓練を必要とせずに、任意の ImageNet クラス分類器に対して、現実的で最小限かつ意味的に意味のある視覚的反事実的画像を生成できるか？
• RQ2 拡散プロセスをどのように変更すれば、反事実的画像が元の画像に視覚的に近く、かつターゲットクラスの分類器信頼度が高くなるように保証できるか？
• RQ3 敵対的頑健なモデルによるコーン正則化は、反事実的画像に意味のないまたは単純な摂動を生成するのをどの程度防げるか？
• RQ4 DVCEは、ImageNet のような複雑なデータセットにおいて、分類器が学習した誤った特徴を明らかにする点で、先行手法と比べてどの程度優れているか？
• RQ5 提案手法は、異なるアーキテクチャ（例：ResNet, Swin, ConvNeXt）に一般化可能であり、既知のものだけでなく新しい誤った特徴を検出できるか？

主な発見

• DVCEは、非頑健なモデルを含む多様な ImageNet クラス分類器に対して、現実的で最小限かつ高信頼度の反事実的画像を成功裏に生成した。
• 既知の誤った特徴（例：「tench」クラスでは人間の手、「white shark」クラスではケージ）が、先行研究の結果と整合的に発見された。
• 新たな誤った特徴も発見された。例えば「bee」クラスでは花が分類器の信頼度を上昇させ、「tiger cat」クラスではトラの顔が信頼度を高めるなど、非意味的特徴に依存していることが示された。
• ユーザー評価では、$l_{1.5}$-SVCE や BDVCE といったベースライン手法と比較して、DVCEはより意味的で現実的かつ繊細であると評価された。
• 固定されたハイパーパrameterを用いてもモデル間で一貫した性能を維持し、一般化性とスケーラビリティ、頑健性を示した。
• 失敗事例として、拡散モデルのアーティファクトによるぼやけや、元のクラスとターゲットクラスの意味的距離が遠い場合に現実的な変更を生成するのが難しいことが判明した。