[論文レビュー] Novelty Detection and Learning from Extremely Weak Supervision

Eduardo Soares, Plamen Angelov|arXiv (Cornell University)|Nov 1, 2019

Anomaly Detection Techniques and Applications参考文献 20被引用数 6

ひとこと要約

本論文では、極めて弱い教師あり学習—1つのクラスとわずかなラベル付きサンプルのみを要件として—における異常検知および分類のための新しい自律的機械学習手法xClassを提案する。再訓練を必要とせず、未知のクラスが学習後にも出現しても高い精度と解釈可能性を維持するため、再帰的で非パラメトリックなプロトタイプベース学習と自動特徴選択、信頼度に基づく新規クラス検出を採用している。

ABSTRACT

In this paper we offer a method and algorithm, which make possible fully autonomous (unsupervised) detection of new classes, and learning following a very parsimonious training priming (few labeled data samples only). Moreover, new unknown classes may appear at a later stage and the proposed xClass method and algorithm are able to successfully discover this and learn from the data autonomously. Furthermore, the features (inputs to the classifier) are automatically sub-selected by the algorithm based on the accumulated data density per feature per class. As a result, a highly efficient, lean, human-understandable, autonomously self-learning model (which only needs an extremely parsimonious priming) emerges from the data. To validate our proposal we tested it on two challenging problems, including imbalanced Caltech-101 data set and iRoads dataset. Not only we achieved higher precision, but, more significantly, we only used a single class beforehand, while other methods used all the available classes) and we generated interpretable models with smaller number of features used, through extremely weak and weak supervision.

研究の動機と目的

• 従来の教師あり学習の限界に対処する。同手法は大規模なラベル付きデータセットを必要とし、学習後に新規クラスを検出できない。
• 1つのクラスからのわずかなラベル付きサンプルのみを用いる、極めて弱い監視のもとで動作する自己学習モデルを開発する。
• データストリーム内で出現する未知のクラスの自律的発見と学習を可能にする。
• 人間が理解可能な言語的IF-THENルールを通じて解釈可能なモデルを生成し、透明性と利用可能性を向上させる。
• 新規データパターンが出現しても再訓練の必要がなく、計算コストを低減する。

提案手法

• 局所的なデータ分布と典型性をモデル化するために、再帰的で反復的でない非パラメトリックなプロトタイプベース学習を採用する。
• 入力データの前処理に標準化とユニティベース正規化を適用し、|z| ≥ 3 の外れ値を破棄する。
• 各クラスごとの特徴ごとのデータ密度に基づき、自動的に関連する特徴を選択することで、次元削減を動的に実現する。
• 新規データを分類する際の信頼度の低下によって異常検知をトリガーする。これは潜在的な新規クラスを示唆する。
• 信頼度がしきい値を下回ると、既存のモデルを再訓練せずに、新規データを用いて新しいクラスを作成・学習する。
• 最終的なモデルは解釈可能な言語的IF-THENルールとして表現され、人間による分析と透明性を実現する。

実験結果

リサーチクエスチョン

• RQ1 機械学習モデルは、事前知識や再訓練なしに、新規クラスを自律的に検知・学習できるか？
• RQ2 1つのクラスとわずかなラベル付きサンプルのみを用いる極めて弱い監視のもとで、この手法はどの程度効果的か？
• RQ3 未知のデータパターンにリアルタイムで適応しながら、高い精度と解釈可能性を維持できるか？
• RQ4 弱い監視および完全な監視の両状況下で、最先端手法と比較して、このモデルの性能はどの程度か？
• RQ5 未知のクラスを高い信頼度で検知・分類でき、既存のクラスに誤って分類するのを回避できるか？

主な発見

• xClassは、Caltech-101データセットにおいて、全クラスの1%のラベル付きデータのみを用いて、ほぼ90%の分類精度を達成し、最先端手法を上回った。
• 学習時に1つのクラスのみを事前学習した状態で、xClassは他のすべてのクラスを自律的に発見・学習した。これは、従来の手法とは異なり、事前に全クラスの知識を必要としないことを示している。
• モデルは特に未知クラスの検出において優れた精度と頑健性を示した。深層学習モデルはしばしば未知クラスを高い信頼度で誤分類するが、xClassは信頼度の低下を検知し、積極的に新しいクラスを生成した。
• 言語的IF-THENルールを通じて、極めて解釈可能なモデルを生成し、人間の専門家が意思決定ロジックを分析・検証できるようにした。
• 特徴選択を除き、ユーザー固有のハイパーパrameterが不要であり、再帰的で反復的でない設計のおかげで、時間的・計算的リソースの効率性が非常に高かった。
• 深層学習とは対照的に、未知クラスを高い信頼度で誤分類するのではなく、xClassは信頼度の低下を検知し、適応的学習を示した。