[論文レビュー] Fast Real-time Counterfactual Explanations

Yunxia Zhao|arXiv (Cornell University)|Jul 11, 2020

Adversarial Robustness in Machine Learning参考文献 27被引用数 10

ひとこと要約

本稿では、starGANを用いて訓練されたGANベースの残差生成器を用いて、1回の順伝播でクラス固有の画像変換を学習することにより、最適化を必要とせず、リアルタイムに実現可能な画像分類の反事後解釈を提供するFRACEを提案する。FRACEは、最適化ベースの手法と比較して最大100倍速く、解釈性と品質の面で最先端の性能を達成する。

ABSTRACT

Counterfactual explanations are considered, which is to answer {\it why the prediction is class A but not B.} Different from previous optimization based methods, an optimization-free Fast ReAl-time Counterfactual Explanation (FRACE) algorithm is proposed benefiting from the development of multi-domain image to image translation algorithms. Built from starGAN, a transformer is trained as a residual generator conditional on a classifier constrained under a proposal perturbation loss which maintains the content information of the query image, but just the class-specific semantic information is changed. The transformer can transfer the query image to any counterfactual class, and during inference, our explanation can be generated by it only within a forward time. It is fast and can satisfy the real-time practical application. Because of the adversarial training of GAN, our explanation is also more realistic compared to other counterparts. The experimental results demonstrate that our proposal is better than the existing state of the art in terms of quality and speed.

研究の動機と目的

• インタラクティブAIアプリケーションにおけるディープラーニングの分野で、リアルタイムかつ現実的な反事後解釈が不足している問題に対処すること。
• リアルタイム利用に不適切なほど遅い最適化ベースの手法の限界を克服すること。
• 摂動法や画像置換法に依存する手法よりも、より現実的で解釈可能な反事後画像を生成すること。
• ランダムな画像選択に依存しないことで、解釈の一貫性と信頼性を向上させること。
• 軽量な推論メカニズムにより、モバイルデバイスなどの低複雑性プラットフォームへのデプロイを可能にすること。

提案手法

• FRACEは、クエリ画像を反事後クラスに画像変換するための、starGANで訓練された残差生成器を用いる。
• 生成器は分類器の予測結果と、目的の反事後クラスに条件付けられており、クラス固有の意味的変更を保証する。
• 摂動損失により、生成器が入力画像に対して最小限で、コンテンツを保持する変更を生成することを制約する。
• 判別器を用いた敵対的訓練により、生成された反事後画像が現実の画像と区別がつかないほど現実的であることを保証する。
• 分類器を訓練プロセスに統合することで、生成画像がモデルの意思決定境界と整合するようにする。
• 推論時には、単一の順伝播のみを必要とし、リアルタイムの解釈生成を可能にする。

実験結果

リサーチクエスチョン

• RQ1 反復的最適化を必要とせず、GANベースのアプローチが画像分類のための現実的な反事後画像を生成できるか？
• RQ2 リアルタイムアプリケーションにおいて、FRACEの速度は最適化ベースの反事後解釈手法と比べてどの程度優れているか？
• RQ3 画像を反事後クラスに変換する際、FRACEはコンテンツアイデンティティをどの程度保持しているか？
• RQ4 解釈性と品質の観点から、FRACEの性能は最先端の手法と比べてどの程度優れているか？
• RQ5 微細な視覚的差が重要な細分化分類タスクにおいて、FRACEは一般化性能を示せるか？

主な発見

• FRACEは1回の順伝播で反事後解釈を生成するため、Search や CEM といった最適化ベースの手法と比べて顕著に高速である。
• SCOUT、Search、CEM との定性的比較により、解釈の現実性において最先端の性能を達成していることが確認された。
• 摂動法や画像置換法に依存する手法とは異なり、手書き数字の特定のストロークの削除や追加といった、より解釈可能で意味的に明確な変更を生成する。
• 敵対的訓練により、生成された反事後画像は視覚的に自然で妥当なものとなり、摂動ベースの手法がしばしば生じる不自然なアーチファクトとは異なっている。
• FRACEはSCOUTよりも解釈性に優れており、その理由は説明が抽象的なアトリビューションマップではなく、直接的な視覚的変換であるためである。
• 速度ベンチマークにおいて、FRACEは最も高速であり、GANの事前学習を考慮しても、最適化ベースの代替手法と比べて推論時間が著しく短い。