[論文レビュー] A Survey on Assessing the Generalization Envelope of Deep Neural Networks: Predictive Uncertainty, Out-of-distribution and Adversarial Samples

Julia Lust, Alexandru Paul Condurache|arXiv (Cornell University)|Aug 21, 2020

Adversarial Robustness in Machine Learning被引用数 4

ひとこと要約

本サーベイは、深層ニューラルネットワーク（DNN）の信頼性における3つの重要な側面——予測不確実性、分布外検出、敵対的例検出——を、DNNの一般化領域を評価する共通の枠組みの下で統合する。これら3つの問題は、すべて同じ根本的原因に起因する：特徴空間の分離性が不十分なために一般化がうまくいかないこと。本稿は、これらの分野における評価と手法論の統合的アプローチを提唱し、推論時におけるDNNの信頼性を高めることを目的とする。

ABSTRACT

Deep Neural Networks (DNNs) achieve state-of-the-art performance on numerous applications. However, it is difficult to tell beforehand if a DNN receiving an input will deliver the correct output since their decision criteria are usually nontransparent. A DNN delivers the correct output if the input is within the area enclosed by its generalization envelope. In this case, the information contained in the input sample is processed reasonably by the network. It is of large practical importance to assess at inference time if a DNN generalizes correctly. Currently, the approaches to achieve this goal are investigated in different problem set-ups rather independently from one another, leading to three main research and literature fields: predictive uncertainty, out-of-distribution detection and adversarial example detection. This survey connects the three fields within the larger framework of investigating the generalization performance of machine learning methods and in particular DNNs. We underline the common ground, point at the most promising approaches and give a structured overview of the methods that provide at inference time means to establish if the current input is within the generalization envelope of a DNN.

研究の動機と目的

• 推論時における未知の入力に対して深層ニューラルネットワーク（DNN）が正しく一般化するかどうかを特定するという、極めて重要な課題に取り組むこと。
• 予測不確実性、分布外検出、敵対的例検出という3つの独立した研究分野を、DNNの一般化領域を評価するという共通の目的の下に統合すること。
• 一般化失敗の共通の根本的要因（例：特徴空間の分離性の低さ、予測に対する過信）を同定すること。
• 推論時における一般化領域外の入力を検出する手法について、体系的かつ比較的な概要を提供すること。
• 特に、メトリックベースの手法が多タスク一般化領域検出に最も有望であるとして、分野間の評価と手法統合を提唱すること。

提案手法

• 推論時における既存の手法を、予測不確実性（意思決定境界付近）、分布外検出（学習データから離れた場所）、敵対的例検出（改ざんされた入力）の3つの分野に分類・マッピングする。
• 共通の根本的要因を分析：DNNは、入力の違いが大きくても特徴表現が有意に分離されていない場合、一般化に失敗する。
• 一般化検出を、入力が学習データの分布的・構造的範囲内にあるかどうかを判断することとして統一的なフレームワークを提案する。
• 一般化領域外の入力を検出できる能力に基づいて手法を評価し、特徴空間の距離を分析するメトリックベースの手法の重要性を強調する。
• ソフトマックス層からの信頼度スコアの過信傾向による限界を指摘し、特徴レベルの分析による代替的な不確実性推定を提唱する。
• 情報フロー解析と分布モデリングの知見を統合し、多様な失敗モードにわたる検出のロバスト性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 予測不確実性、分布外、敵対的例検出という3分野において、DNNの一般化失敗の共通の根本的要因は何か？
• RQ2 現在の推論時検出手法は、DNNの一般化領域外の入力を特定する能力において、どのように異なるか？
• RQ3 共通の根本的要因があるため、ある分野（例：敵対的例検出）で開発された手法が、他の分野（例：OOD検出）へ一般化できる程度はどの程度か？
• RQ4 DNNの従来の信頼度スコア（例：ソフトマックス確率）がなぜ一般化失敗を信頼性高く示さないのか？
• RQ5 特にメトリックベースまたは一貫性ベースの手法のうち、統一的な一般化領域検出に最も有望なのはどれか？

主な発見

• 予測不確実性、分布外検出、敵対的例検出という3つの研究分野は、共通の根本的要因——特徴空間の分離性が不十分なために一般化が失敗すること——を共有している。
• DNNからの従来の信頼度スコア（例：ソフトマックス確率）はしばしば過信しており、一般化性能の指標として信頼性が低い。
• 特徴空間内の距離を分析するメトリックベースの手法は、OOD検出および敵対的例検出を含む複数の検出タスクで優れた性能を示している。
• 一貫性ベースの手法も有望であるが、マルチタスク検出の場面ではメトリック手法に比べて効果が劣る。
• 顕著な進展にもかかわらず、現在のところ、3つの検出設定すべてで最適なパフォーマンスを達成する単一の手法は存在せず、分野間の評価は依然として限定的である。
• 本サーベイは、今後の研究において、統一された評価フレームワークと手法統合を優先すべきであり、特に敵対的例検出の知見を活用して、より広範な一般化監視を実現すべきだと結論づける。