[論文レビュー] Hybrid Models for Open Set Recognition

Hongjie Zhang, Ang Li+2 more|arXiv (Cornell University)|Mar 27, 2020

Anomaly Detection Techniques and Applications参考文献 38被引用数 7

ひとこと要約

この論文では、フローベースの密度推定器と判別的分類器の両方のための共有潜在表現を同時に学習することで、オープンセット認識を向上させる新しいエンドツーエンドフレームワーク、OpenHybridを提案する。エンコーダー、分類器、ノーマライジングフローを同時に訓練することにより、モデルは既知のクラスと未知のクラスを効果的に分離し、CIFAR10 や SVHN などのベンチマークで最先端の性能を達成する。AUROCスコアは最大0.998に達し、分布外のサンプルに対して高い尤度を割り当てるというフローモデルの一般的な欠陥も解消する。

ABSTRACT

Open set recognition requires a classifier to detect samples not belonging to any of the classes in its training set. Existing methods fit a probability distribution to the training samples on their embedding space and detect outliers according to this distribution. The embedding space is often obtained from a discriminative classifier. However, such discriminative representation focuses only on known classes, which may not be critical for distinguishing the unknown classes. We argue that the representation space should be jointly learned from the inlier classifier and the density estimator (served as an outlier detector). We propose the OpenHybrid framework, which is composed of an encoder to encode the input data into a joint embedding space, a classifier to classify samples to inlier classes, and a flow-based density estimator to detect whether a sample belongs to the unknown category. A typical problem of existing flow-based models is that they may assign a higher likelihood to outliers. However, we empirically observe that such an issue does not occur in our experiments when learning a joint representation for discriminative and generative components. Experiments on standard open set benchmarks also reveal that an end-to-end trained OpenHybrid model significantly outperforms state-of-the-art methods and flow-based baselines.

研究の動機と目的

• 既存のオープンセット認識手法が判別的特徴に依存するという限界に対処すること。これは未知クラスを検出するのに最適でない可能性がある。
• フローベースモデルで一般的に見られる失敗モード、すなわち分布外のサンプルに対して分布内サンプルよりも高い尤度を割り当てる問題を解消すること。
• 共有潜在空間上で分類器とフローベースの密度推定器を共同で訓練することで、オープンセット認識を向上させること。
• 共同表現学習がフローベース尤度推定を安定化させ、外れ値検出を向上させるという実証的検証を行うこと。

提案手法

• OpenHybridフレームワークは、共有エンコーダー、既知クラス予測のための分類ヘッド、尤度計算のためのフローベース密度推定器から構成される。
• モデルは、内因性データにおける尤度最尤推定と、分類のための交差エントロピー損失を用いてエンドツーエンドで訓練される。
• エンコーダーが学習する潜在空間は、分類器とフローモデルの両方で共有され、判別的および生成的目的の共同最適化を可能にする。
• フローベースモデルは、潜在空間における複雑で多次元のデータ分布をモデル化するために可逆なカップリング層を用いる。
• フローモデルが出力する対数尤度にしきい値を設定することで、未知（分布外）のサンプルを検出する。
• MNIST、SVHN、CIFAR10、TinyImageNet を含む標準的なオープンセットベンチマークを用いてフレームワークを評価する。

実験結果

リサーチクエスチョン

• RQ1 判別的分類器とフローベース密度推定器の共同訓練が、オープンセット認識性能を向上させることができるか？
• RQ2 共有表現を学習することで、フローベースモデルが分布外サンプルに対して高い尤度を割り当てる問題が緩和されるか？
• RQ3 エンドツーエンド訓練と、微調整されたフローモデルを用いた事前学習エンコーダーを用いた手法とを比較すると、どのような差が生じるか？
• RQ4 CIFAR10 や SVHN といった複雑なデータセットに対しても、モデルは一般化可能であり、オープンセット検出で高いAUROCを達成できるか？

主な発見

• OpenHybridモデルは、標準的なオープンセットベンチマークで最先端の性能を達成し、CIFAR10（既知）と SVHN（未知）の設定ではAUROCが0.998に達する。
• エンドツーエンドで訓練されたOpenHybridモデルは、t-SNE可視化により、潜在空間上で未知のサンプル（例：MNISTの数字6〜9）と既知クラスが明確に分離されていることが示された。
• フローベースモデルが分布外サンプルに対して高い尤度を割り当てるという一般的な問題が、ベースラインのDIGLMや、OE拡張版ですらも解消された。
• アブレーションスタディにより、共同訓練が不可欠であることが確認され、事前学習エンコーダーを用いたモデルでは、既知と未知の分布の分離が劣っていることが示された。
• 4〜16の残差ブロックという異なるフローデプス設定に対しても、性能が安定しており、アーキテクチャのハイパーパrameterに対して頑健であることが示された。