[論文レビュー] One-vs-Rest Network-based Deep Probability Model for Open Set Recognition

Jaeyeon Jang, Chang Ouk Kim|arXiv (Cornell University)|Apr 17, 2020

Adversarial Robustness in Machine Learning参考文献 36被引用数 12

ひとこと要約

本稿では、CNN特徴抽出器と統合された1対restシグモイドネットワークアーキテクチャを提案し、非一致（未知）例からの特徴学習を強化することで、オープンセット認識を改善する。極値理論（EVT）を用いたスコアキャリブレーションにより、妥当なクラス所属確率が得られ、特に中程度のオープンネス水準において、最先端の手法を上回る性能を発揮する。

ABSTRACT

Unknown examples that are unseen during training often appear in real-world computer vision tasks, and an intelligent self-learning system should be able to differentiate between known and unknown examples. Open set recognition, which addresses this problem, has been studied for approximately a decade. However, conventional open set recognition methods based on deep neural networks (DNNs) lack a foundation for post recognition score analysis. In this paper, we propose a DNN structure in which multiple one-vs-rest sigmoid networks follow a convolutional neural network feature extractor. A one-vs-rest network, which is composed of rectified linear unit activation functions for the hidden layers and a single sigmoid target class output node, can maximize the ability to learn information from nonmatch examples. Furthermore, the network yields a sophisticated nonlinear features-to-output mapping that is explainable in the feature space. By introducing extreme value theory-based calibration techniques, the nonlinear and explainable mapping provides a well-grounded class membership probability models. Our experiments show that one-vs-rest networks can provide more informative hidden representations for unknown examples than the commonly used SoftMax layer. In addition, the proposed probability model outperformed the state-of-the art methods in open set classification scenarios.

研究の動機と目的

• 深層ニューラルネットワークにおけるオープンセット認識の後処理スコア解析に理論的基盤が欠如している問題に対処すること。
• トレーニング段階で非一致（未知）例に対する深層ネットワークの学習能力を向上させること。
• 極値理論（EVT）を用いて、オープンセット条件下でのクラス所属確率の理論的根拠のあるモデルを構築すること。
• 明示的で説明可能な非線形な特徴からスコアへのマッピングを可能にすることで、オープンスペースリスクを最小化すること。
• 未知例から有用な情報を抽出することで、知能的な自己学習システムを支援するフレームワークを提供すること。

提案手法

• CNNベースの特徴抽出器に続いて、複数の1対restシグモイドネットワークを配置し、それぞれが1つの既知クラスと他のすべてのクラスを区別するように学習される。
• 各1対restネットワークは、隠れ層にReLU活性化関数と、1つのシグモイド出力ノードを備え、マッチと非マッチ両サンプルからのバランスの取れた学習を可能にする。
• SoftMaxに存在する正規化項を回避することで、未知クラスからの学習を抑制せずに、非マッチ例からの情報抽出を最大化する。
• 極値理論（EVT）を用い、マッチスコアと非マッチスコアの極値にワイブル分布をフィッティングすることで、意思決定スコアのキャリブレーションを実施する。
• キャリブレーション済みスコアを用いて、オープンスペースリスクを考慮したクラス所属確率を推定し、特徴空間の幾何構造に基づく理論的根拠を有する。
• F-measureをさまざまなオープンネス水準で最適化するために、ハイパーパrameter θ（テールサイズ）と α（しきい値）を調整する。

実験結果

リサーチクエスチョン

• RQ1 SoftMaxベースの分類器と比較して、1対restシグモイドネットワークは未知例のための特徴表現を改善できるか？
• RQ2 提案されたアーキテクチャは、オープンセット認識における確率推定に理論的根拠を提供できるか？
• RQ3 EVTに基づくキャリブレーションの統合は、クラス所属確率推定の信頼性をどのように向上させるか？
• RQ4 深層学習に基づくオープンセット認識において、このモデルはどの程度オープンスペースリスクを低減できるか？
• RQ5 ハイパーパrameter θ と α は、さまざまなオープンネス水準下での性能にどのように影響を与えるか？

主な発見

• 提案手法は、特に中程度のオープンネス水準（例：Cifar-100における37%オープンネス）において、最先端の手法を顕著に上回った。
• LFWデータセットでは、オープンネスが50%を超えた際、ベースライン手法よりも高いF-measureを達成し、高オープンネス状況下でも頑健であることを示した。
• 1対restネットワークは、既知クラスと未知クラスの分布をより明確に分離する情報量の多い潜在特徴を生成し、KLダイバージェンス比較でp値 < 10−25の有意差を示した。
• 性能は特にテールサイズパラメータ θ に最も敏感であり、高オープンネス状況では、小さなテールサイズがワイブルフィッティングに不十分なデータをもたらし、性能低下を引き起こした。
• データが十分にあり、極値の比率が低い（θが小さい）場合、F-measureが最良となり、極値サンプリングを最小限に抑えた最適キャリブレーションが達成された。
• モデルは優れた一般化性能を示し、オープンネスが高くなるほどF-measureの向上が顕著に増加した。これは、実際のデータ不足が顕在するオープンワールド環境において、本手法の有効性を裏付けた。