[論文レビュー] On the Benefits of Attributional Robustness.

Mayank Singh, Nupur Kumari+4 more|arXiv (Cornell University)|Nov 29, 2019

Bayesian Modeling and Causal Inference被引用数 7

ひとこと要約

本論文は、ソフトマージン三重損失を用いて入力画像とそのsalienyマップを整合させる手法を提案し、機械学習モデルにおける帰属の堅牢性を向上させる新しいトレーニング手法を提示する。このアプローチは、SVHN、CIFAR10、GTSRBで帰属の堅牢性を6–18%向上させ、CUB-200における弱教師付きオブジェクト検出で新たなSOTAを樹立する。

ABSTRACT

Interpretability is an emerging area of research in trustworthy machine learning. Safe deployment of machine
 learning system mandates that the prediction and its explanation be reliable and robust. Recently, it was shown that one could craft perturbations that produce perceptually indistinguishable inputs having the same prediction, yet very different interpretations. We tackle the problem of attributional robustness (i.e. models having robust explanations) by maximizing the alignment between the input image and its saliency map using soft-margin triplet loss. We propose a robust attribution training methodology that beats the stateof-the-art attributional robustness measure by a margin of≈ 6-18 % on several standard datasets, ie. SVHN, CIFAR10 and GTSRB. We further show the utility of the proposed robust model in the domain of weakly supervised object localization and segmentation. Our proposed robust model also achieves a new state-of-the-art object localization accuracy on the CUB-200 dataset.

研究の動機と目的

• 微小な入力摂動下でのモデル解釈（帰属）の欠如する堅牢性を是正すること。
• 敵対的または人間が感知できない摂動が加えられた場合でも、salienyマップが入力画像と一貫して整合していることを保証すること。
• 信頼できる機械学習の展開のための説明の信頼性を向上させること。
• 堅牢な説明を用いて弱教師付きオブジェクト検出およびセグメンテーションタスクのパフォーマンスを向上させること。
• 帰属の堅牢性およびオブジェクト検出の正確性において、新たなSOTAを確立すること。

提案手法

• 入力画像とそれに対応するsalienyマップの整合性を最大化するために、ソフトマージン三重損失を用いる。
• 入力がわずかに摂動されても人間が感知できない場合でも、一貫したsalienyマップを生成できるようにモデルを訓練する。
• 三重損失を対照的三重組に適用する：アングラ（元の画像）、ポジティブ（同じ予測を持つ摂動済み画像）、ネガティブ（異なる予測を持つ画像）。
• トレーニング中に帰属の堅牢性を向上させるために、モデルをエンドツーエンドで最適化する。
• 学習された堅牢なsalienyマップを、弱教師付きオブジェクト検出などの下流タスクに活用する。
• 分布シフト下でも忠実で安定した説明を重視するトレーニング目的関数を導入する。

実験結果

リサーチクエスチョン

• RQ1 微小で人間が感知できない入力摂動下でも、モデルの説明の堅牢性を向上させることは可能か？
• RQ2 入力画像とsalienyマップの整合性が帰属の堅牢性に与える影響は何か？
• RQ3 堅牢な帰属は、弱教師付きオブジェクト検出のパフォーマンスを向上させられるか？
• RQ4 提案手法は、標準ベンチマーク上で既存の帰属の堅牢性ベースラインを上回るか？
• RQ5 堅牢な説明は、CUB-200におけるオブジェクト検出でSOTAパフォーマンスを達成できるか？

主な発見

• 提案手法は、SVHN、CIFAR10、GTSRBでSOTAベースライン比6–18%の帰属の堅牢性向上を達成した。
• 本モデルはCUB-200データセットにおける弱教師付きオブジェクト検出で、新たなSOTA精度を達成した。
• 敵対的摂動下でも、堅牢なsalienyマップは常に入力画像と整合している。
• 予測精度を損なうことなく、説明の正確性が向上した。
• 多様なビジョンデータセットおよびタスクにわたり、本手法は効果的に一般化した。
• ソフトマージン三重損失は、追加の推論時処理を必要とせずに、帰属の堅牢性を効果的に強化した。