[論文レビュー] Classification-Reconstruction Learning for Open-Set Recognition

Ryota Yoshihashi, Wen Shao+4 more|arXiv (Cornell University)|Dec 11, 2018

Anomaly Detection Techniques and Applications参考文献 51被引用数 8

ひとこと要約

本稿では、階層的ボトルネック付き潜在表現を用いて入力データの分類と再構築を同時に学習する深層学習フレームワーク、CROSRを提案する。予測的特徴と再構築的特徴を併用することで、学習時に予め未知のクラスを想定しない状況下でも、複数のデータセットで未知クラスの検出において最先端の性能を達成するとともに、既知クラスの分類精度を損なわない。

ABSTRACT

Open-set classification is a problem of handling `unknown' classes that are not contained in the training dataset, whereas traditional classifiers assume that only known classes appear in the test environment. Existing open-set classifiers rely on deep networks trained in a supervised manner on known classes in the training set; this causes specialization of learned representations to known classes and makes it hard to distinguish unknowns from knowns. In contrast, we train networks for joint classification and reconstruction of input data. This enhances the learned representation so as to preserve information useful for separating unknowns from knowns, as well as to discriminate classes of knowns. Our novel Classification-Reconstruction learning for Open-Set Recognition (CROSR) utilizes latent representations for reconstruction and enables robust unknown detection without harming the known-class classification accuracy. Extensive experiments reveal that the proposed method outperforms existing deep open-set classifiers in multiple standard datasets and is robust to diverse outliers. The code is available in https://nae-lab.org/~rei/research/crosr/.

研究の動機と目的

• 訓練時に予め未知のクラスを想定しない閉世界仮説の制限を克服する。
• 未知クラスの検出を妨げる教師あり表現の特化を回避する。
• 判別性と一般化性を保つために、教師なし再構築学習を正則化として統合し、オープンセット認識を向上させる。
• 既知クラス分類の高精度を維持するとともに、未知クラスの検出を強力に行える統一フレームワークを開発する。
• 未知クラスの検出に適した分類とコンactな情報を持つ潜在コードを同時に学習する新しいアーキテクチャ、DHRNetを設計する。

提案手法

• 分類（ログティの教師付き損失により）と再構築（自己符号化器風の損失により）の両方を、エンドツーエンドで学習する深層ニューラルネットワークを訓練する。
• 複数レベルのコンパクトな潜在表現を再構築するために、ボトルネック付きの横方向接続を持つ深層階層的再構築ネットワーク（DHRNet）を導入する。
• 未知クラス検出のための最終的表現として、分類ログティ $\boldsymbol{y}$ と再構築潜在コード $\boldsymbol{z}$ の連結を用いる。
• $[\boldsymbol{y}, \boldsymbol{z}]$ に対して $\ell^2$ 距離または1クラス異常検出器（例：OCSVM、Isolation Forest）を適用し、外れ値を検出する。
• DHRNetの階層的構造を活用して、複数レベルでの異常要因を抽出し、多様な未知クラスに対してより頑健な検出を実現する。
• 中間層における分類精度と再構築忠実度のバランスを取るため、統合損失関数を最適化に用いる。

実験結果

リサーチクエスチョン

• RQ1 統合的分類-再構築学習は、オープンセット認識における深層特徴の一般化を向上させるか？
• RQ2 教師なし再構築学習を組み込むことで、既知クラス分類性能を損なわず、未知クラスの検出能力が向上するか？
• RQ3 DHRNetにおける階層的ボトルネック付き潜在表現は、標準的な自己符号化器と比較して、既知と未知を区別するのに有用な情報をよりよく保持できるか？
• RQ4 分類ログティ $\boldsymbol{y}$ のみを使用する場合と比較して、多段階潜在表現 $\boldsymbol{z}$ を用いることで、外れ値検出がどのように向上するか？
• RQ5 合成学習データを一切使用しないにもかかわらず、CROSRは標準ベンチマークでGANベースやその他の最先端のオープンセット分類器を上回る性能を示せるか？

主な発見

• CROSRはMNIST、SVHN、TinyImageNetで最先端の性能を達成し、F1スコアはそれぞれ0.991 ± 0.004、0.899 ± 0.018、0.589を記録。OpenMaxやGANベースのベースラインを上回った。
• 学習済み既知クラスの分類精度を維持しながら、特に類似した外見の未知クラスに対して、顕著に未知検出性能が向上した。
• [$\boldsymbol{y}$, $\boldsymbol{z}$] に対して $\ell^2$ 距離の代わりにOCSVMを適用すると、合成された外れ値のF1スコアが15%以上向上し、統合表現の有効性が示された。
• t-SNE可視化により、$[\boldsymbol{y}, \boldsymbol{z}]$ の表現は $\boldsymbol{y}$ のみに比べ、既知クラスと未知クラスをより明確に分離していることが確認された。
• 潜在表現の計算にかかる計算オーバーヘッドは非常に小さく、1画像あたりたった3〜5 msであり、実世界の展開においても効率的である。
• 合成学習データを一切使用しないにもかかわらず、CROSRはGANベースの手法と同等またはわずかに優れた性能を示しており、強力な一般化能力を有することが示された。