[論文レビュー] Robust Out-of-distribution Detection via Informative Outlier Mining.

Jiefeng Chen, Yixuan Li+3 more|arXiv (Cornell University)|Jun 26, 2020

Adversarial Robustness in Machine Learning参考文献 19被引用数 7

ひとこと要約

本論文では、敵対的摂動に対して堅牢性を向上させるために、敵対的訓練中にラベルなしデータから情報量の多い外れ値を選択的に抽出する手法であるATOMを提案する。ATOMは、最も識別的な外れ値を戦略的に訓練に用いることで、自然な分布外（OOD）および摂動を加えたOODベンチマークの両方で最先端の性能を達成し、従来手法を著しく上回る。

ABSTRACT

Detecting out-of-distribution (OOD) inputs is critical for safely deploying deep learning models in an open-world setting. However, existing OOD detection solutions can be brittle under small adversarial perturbations. In this paper, we propose a simple and effective method, Adversarial Training with informative Outlier Mining (ATOM), to robustify OOD detection. Our key observation is that while unlabeled data can be used as auxiliary OOD training data, the majority of these data points are not informative to improve the decision boundary of the OOD detector. We show that, by carefully choosing which outliers to train on, one can significantly improve the robustness of the OOD detector, and somewhat surprisingly, generalize to some adversarial attacks not seen during training. We provide additionally a unified evaluation framework that allows future research examining the robustness of OOD detection algorithms. ATOM achieves state-of-the-art performance under a broad family of natural and perturbed OOD evaluation tasks, surpassing previous methods by a large margin. Finally, we provide theoretical insights for the benefit of auxiliary unlabeled data and outlier mining.

研究の動機と目的

• 微小な敵対的摂動下における既存のOOD検出手法の脆さを解消すること。
• 訓練時に敵対的データに依存せずにOOD検出器の堅牢性を向上させること。
• ラベルなしデータから最も情報量の多い外れ値を特定・活用し、意思決定境界の学習を強化すること。
• OOD検出アルゴリズムの堅牢性を評価する統一された評価フレームワークの構築。
• 改善された外れ値選択および訓練戦略により、訓練中に見られなかった新たな敵対的攻撃に対しても一般化を可能にすること。

提案手法

• 敵対的訓練とラベルなしデータからの選択的外れ値抽出を組み合わせた新しい訓練パラダイムを導入する。
• 不確実性または異常スコアを用いて、ラベルなしデータから最も情報量の多い外れ値を特定し、OOD訓練データに含める。
• 分布内データ、ラベル付きOODデータ、および選択された情報量の多い外れ値の組み合わせを用いてOOD検出器を訓練する。
• 訓練プロセス中に摂動を適用してOOD検出器に敵対的訓練を施し、堅牢性を向上させる。
• 複数の自然な分布外および摂動を加えたOOD設定において、OOD検出の堅牢性をベンチマークする統一された評価フレームワークを設計する。
• 理論的分析を用いて、補助的なラベルなしデータの有効性および外れ値選択の意思決定境界への影響を正当化する。

実験結果

リサーチクエスチョン

• RQ1 ラベルなしデータから情報量の多い外れ値を選択的に抽出することは、敵対的摂動下でのOOD検出の堅牢性を顕著に向上させ得るか？
• RQ2 ラベルなし外れ値のサブセットで訓練されたOOD検出器は、訓練時に見られなかった新たな敵対的攻撃に対してどの程度一般化可能か？
• RQ3 外れ値選択戦略の選択が意思決定境界および全体的なOOD検出性能に与える影響はいかほどか？
• RQ4 統一された評価フレームワークは、異なるOOD検出手法の堅牢性を効果的に捉え、比較可能か？
• RQ5 補助的なラベルなしデータの有効性について、理論的根拠は存在するか？

主な発見

• ATOMは、自然な分布外および摂動を加えたOOD設定を含む広範なOOD検出ベンチマークで最先端の性能を達成している。
• 特に敵対的摂動下において、従来手法を著しく上回る堅牢性を示しており、優れた性能を発揮している。
• 全ラベルなしデータを用いるのではなく、選択的外れ値抽出により、より優れた意思決定境界の学習が可能となり、検出精度が向上した。
• 訓練時に見られなかった敵対的攻撃に対してもモデルが一般化できており、強力な堅牢性と適応性を示している。
• 理論的分析により、情報量の多い外れ値抽出がOOD検出器の識別力向上に寄与することが確認された。
• 統一された評価フレームワークにより、OOD検出の堅牢性を一貫的かつ包括的にベンチマーク可能となった。