[論文レビュー] Learning Placeholders for Open-Set Recognition

Da-Wei Zhou, Han-Jia Ye+1 more|arXiv (Cornell University)|Mar 28, 2021

Domain Adaptation and Few-Shot Learning参考文献 38被引用数 5

ひとこと要約

この論文では、未知クラスを予測するためにデータおよび分類器のプレースホルダーを学習し、クラス固有の意思決定閾値を動的に設定することで、閉じたセット分類器の性能を向上させる新しい手法Proserを提案する。多様体ミックスアップを用いてデータプレースホルダーを生成し、未知クラスの境界を確保する分類器プレースホルダーを予約することで、Proserは多様なデータセットにおいて未知検出およびオープンセット認識性能を向上させ、分布に配慮した動的閾値を用いることでベースライン手法を上回る。

ABSTRACT

Traditional classifiers are deployed under closed-set setting, with both training and test classes belong to the same set. However, real-world applications probably face the input of unknown categories, and the model will recognize them as known ones. Under such circumstances, open-set recognition is proposed to maintain classification performance on known classes and reject unknowns. The closed-set models make overconfident predictions over familiar known class instances, so that calibration and thresholding across categories become essential issues when extending to an open-set environment. To this end, we proposed to learn PlaceholdeRs for Open-SEt Recognition (Proser), which prepares for the unknown classes by allocating placeholders for both data and classifier. In detail, learning data placeholders tries to anticipate open-set class data, thus transforms closed-set training into open-set training. Besides, to learn the invariant information between target and non-target classes, we reserve classifier placeholders as the class-specific boundary between known and unknown. The proposed Proser efficiently generates novel class by manifold mixup, and adaptively sets the value of reserved open-set classifier during training. Experiments on various datasets validate the effectiveness of our proposed method.

研究の動機と目的

• 実世界の応用において未知クラスにさらされた際に過信した予測を示す閉じたセット分類器の課題に対処すること。
• トレーニング時に明示的な未知クラスデータを必要とせずに、新しいクラスの分布を予測することでオープンセット認識を向上させること。
• 専用のプレースホルダーを通じて既知と未知のクラスの不変境界を学習することで分類器をキャリブレーションすること。
• 異なる新しいカテゴリにおける分布シフトを考慮した、適応的でインスタンス固有の拒否意思決定を可能にする動的閾値設定を可能にすること。
• データおよび分類器プレースホルダーの拡張を用いて、標準的な閉じたセット学習をオープンセット学習に変換すること。

提案手法

• 多様体ミックスアップを用いて生成されたデータプレースホルダーを導入し、閉じたセットデータからオープンセット学習を可能にする。
• 分類器プレースホルダーとして学習可能なクラス固有の閾値を予約し、既知と未知のインスタンスを区別する。
• データプレースホルダーと分類器プレースホルダーの両方を用いて、モデルをエンドツーエンドに訓練することで、信頼度をキャリブレーションし、未知クラスへの一般化を向上させる。
• 2次元への特徴の埋め込み層を用いて、意思決定境界と閾値の適応性を可視化する。
• 二重パス学習戦略を採用：データプレースホルダーは分布の予測に、分類器プレースホルダーは境界のキャリブレーションに使用する。
• 推論時に学習済みの分類器プレースホルダーに基づき、動的に閾値を再設定することで、インスタンス固有の拒否意思決定を可能にする。

実験結果

リサーチクエスチョン

• RQ1 多様体ミックスアップを用いて生成されたデータプレースホルダーは、未知クラスの分布を効果的に模倣し、オープンセット一般化を向上させることができるか？
• RQ2 学習可能な閾値としての分類器プレースホルダーを予約することで、異なる分布シフトにさらされた状況下でも未知クラスの検出能力が向上するか？
• RQ3 データプレースホルダーと分類器プレースホルダーの組み合わせは、ソフトマックス確率の閾値設定と比較して、オープンセット認識性能にどのように寄与するか？
• RQ4 提案手法は、未知クラスの異なる特性を考慮した、適応的でクラス固有の閾値を設定できるか？
• RQ5 データプレースホルダーと分類器プレースホルダーは、それぞれ独立して、および共同してキャリブレーションと検出性能にどの程度寄与するか？

主な発見

• Proserは、CIFAR-100 や MNIST を含む複数のデータセットにおいて、標準的なソフトマックス閾値設定およびベースライン手法を顕著に上回るオープンセット認識性能を示した。
• アブレーションスタディの結果、多様体ミックスアップによるデータプレースホルダーとダミー分類器としての分類器プレースホルダーの両方が独立して性能向上をもたらし、組み合わせることで相乗効果が得られることを確認した。
• 複数のダミー分類器（C > 1）を用いることで検出性能が向上し、プレースホルダー表現の多様性が耐障害性を高めることを示している。
• 意思決定境界の可視化結果から、Proserは未知クラスの分布が著しく異なる場合でも、適応的でインスタンス固有の閾値を学習し、既知と未知クラスを効果的に分離していることがわかった。
• オープンネスレベルが29.29%から61.28%に変動する状況下でも、強力な性能を維持しており、未知クラスの数の増加に対しても頑健であることが示された。
• 改善されたキャリブレーションと分布外サンプルの検出を裏付ける証拠から、Proserは予測の過信を効果的に緩和している。