[論文レビュー] Extreme Value Theory for Open Set Classification -- GPD and GEV Classifiers

Edoardo Vignotto, Sebastian Engelke|arXiv (Cornell University)|Aug 29, 2018

Anomaly Detection Techniques and Applications参考文献 37被引用数 13

ひとこと要約

本稿では、極値理論（EVT）に基づき、クラス間距離の尾部挙動をモデル化することで未知のクラスを検出する、2つの新しいカーネルフリーのオープンセット分類器—GPD分類器とGEV分類器—を提案する。EVMとは異なり、クラスの幾何構造に依存せず、幾何構造が誤解を招く場合でも、漸近的EVT近似を用いて外れ値をロバストに特定する。最小限のハイパーパrameterと高速な推論を実現し、競争力ある性能を達成する。

ABSTRACT

Classification tasks usually assume that all possible classes are present during the training phase. This is restrictive if the algorithm is used over a long time and possibly encounters samples from unknown classes. The recently introduced extreme value machine, a classifier motivated by extreme value theory, addresses this problem and achieves competitive performance in specific cases. We show that this algorithm can fail when the geometries of known and unknown classes differ. To overcome this problem, we propose two new algorithms relying on approximations from extreme value theory. We show the effectiveness of our classifiers in simulations and on the LETTER and MNIST data sets.

研究の動機と目的

• 既存のオープンセット分類器が、既知クラスと未知クラスの幾何構造が一致しない場合に失敗するという限界を解決すること。
• 既知クラスの幾何構造に依存しない、ロバストでインクリメンタルなオープンセット分類手法を開発すること。
• 単変量極値理論を活用し、テストデータと学習データ間の距離の尾部分布をモデル化すること。
• ハイパーパrameter依存性を最小限に抑えることで、生涯学習環境における実用的導入を可能にすること。
• 実世界の応用に適した、未知クラス検出を伴う計算効率とスケーラビリティを確保すること。

提案手法

• 極値理論（EVT）を用いて、テストポイントの既知クラスからの距離分布をモデル化し、外れ値を検出する。
• GPDCでは、クラス間距離の上尾部を一般化パレート分布（GPD）でモデル化する。
• GEVCでは、最大距離統計量を一般化極値分布（GEV）でモデル化する。
• 適合したGPDまたはGEV分布の分位数に基づいて分類閾値を定義し、既知クラスと未知クラスを区別する。
• ハイパーパrameterは1つまたは0つ（GPDCではkをEVTの原則に従って選択）に限定し、チューニングの複雑さを低減する。
• 新しい学習データの到着時に、極距離統計量のみを更新することで、インクリメンタルな適合性を確保する。

実験結果

リサーチクエスチョン

• RQ1 クラスの幾何構造が誤解を招く状況下でも、クラス間距離のEVTに基づく尾部モデリングが、オープンセット分類のロバスト性を向上させ得るか？
• RQ2 幾何構造の不一致下で、GPDCおよびGEVCはEVMおよびワンクラスSVMに比べて未知クラス検出において優れた性能を示すか？
• RQ3 EVTに基づく分類器は、最小限のハイパーパramータチューニングでどれほど高い性能を達成できるか？
• RQ4 極距離統計量の使用が、多様なデータ分布にわたるオープンセット認識における一般化性能を向上させるか？
• RQ5 これらの分類器は、再トレーニングなしにインクリメンタル学習フレームワークで効率的に更新可能か？

主な発見

• 甲状腺データセットにおいて、GPDCとGEVCはそれぞれAUCスコア0.931および0.897を達成し、ワンクラスSVM（AUC 0.912）を上回り、最先端の性能に並ぶ。
• GPDCは、極距離の割合が0.25%から10%の広い範囲で安定した性能を示し、EVT理論に一致するように、小さなk値で最適な結果を達成する。
• GEVCはハイパーパrameterを一切必要とせず、GPDCはたった1つのハイパーパramータ（k）のみを必要とするため、両手法とも実用的である。
• カーネルフリーな設計と効率的なEVTベースの閾値設定により、推論段階でEVMよりも計算が高速である。
• 未知データが既知クラスに幾何的に近接している場合でも、これらの手法はEVMの主な失敗モードを克服する。
• 距離の標本の形状パラメータに関する理論的結果（定理4）は、低密度領域への外挿を支持し、ロバストな外れ値検出を可能にする。