[論文レビュー] Bayesian Anomaly Detection and Classification

Ethan Roberts, Bruce A. Bassett+1 more|arXiv (Cornell University)|Feb 22, 2019

Anomaly Detection Techniques and Applications参考文献 22被引用数 11

ひとこと要約

本稿では、測定誤差を厳密に伝播させる一方で、分類と異常検出を統合的に実行する階層ベイジアンフレームワーク、ベイジアン異常検出と分類（BADAC）を提案する。ノイズモデルが既知の状況では、標準的手法を上回る性能を発揮し、適切にキャリブレーションされた確率を生成し、モデル誤り指定や相関ノイズ下でも頑健な検出を可能にする。

ABSTRACT

Statistical uncertainties are rarely incorporated in machine learning algorithms, especially for anomaly detection. Here we present the Bayesian Anomaly Detection And Classification (BADAC) formalism, which provides a unified statistical approach to classification and anomaly detection within a hierarchical Bayesian framework. BADAC deals with uncertainties by marginalising over the unknown, true, value of the data. Using simulated data with Gaussian noise, BADAC is shown to be superior to standard algorithms in both classification and anomaly detection performance in the presence of uncertainties, though with significantly increased computational cost. Additionally, BADAC provides well-calibrated classification probabilities, valuable for use in scientific pipelines. We show that BADAC can work in online mode and is fairly robust to model errors, which can be diagnosed through model-selection methods. In addition it can perform unsupervised new class detection and can naturally be extended to search for anomalous subsets of data. BADAC is therefore ideal where computational cost is not a limiting factor and statistical rigour is important. We discuss approximations to speed up BADAC, such as the use of Gaussian processes, and finally introduce a new metric, the Rank-Weighted Score (RWS), that is particularly suited to evaluating the ability of algorithms to detect anomalies.

研究の動機と目的

• データの測定誤差を適切に取り入れた統計的に厳密な手法を、同時に分類と異常検出に適用する。
• 科学的パイプラインにおける不確実性伝播を要件とする場合に適した、適切にキャリブレーションされた分類確率を生成する。
• 事前にラベル付けされていない新規または異常クラスの検出を可能とし、教師なしの異常発見を支援する。
• 既存手法の限界、すなわちクラス内変動を無視する、またはデータの不確実性を適切にモデル化しない点を是正する。
• モデル誤差にさらされても頑健に動作し、モデル選択手法を用いて誤差を診断可能なフレームワークを提供する。

提案手法

• BADACは、クラス条件付き尤度を生データ上に定義する階層ベイジアンモデルを採用し、既知のノイズ分布を用いて真の値が未知である場合の周辺化を実行する。
• 観測データのすべての可能な真の値について積分することで、クラス所属の事後確率と異常スコアを計算し、測定誤差を組み込む。
• ガウスノイズモデルに基づく尤度関数を用い、相関誤差やトランスレーションシフトなどの余分パラメータに対応する拡張も可能である。
• 異常な対象は、すべての既知のクラスの外にある確率の事後確率に基づきランク付けされ、事前に定めたしきい値なしに異常検出が可能である。
• オンライン推論をサポートしており、計算コストを削減するためのガウス過程やプロトタイプテンプレートを用いた加速も可能である。
• 異常検出性能を評価する新しい指標、ランク加重スコア（RWS）を導入し、異常が正しくランク付けされているかどうかを評価する。

実験結果

リサーチクエスチョン

• RQ1 統一されたベイジアンフレームワークは、測定誤差を適切に伝播させながら、正確な分類と頑健な異常検出を同時に達成できるか？
• RQ2 ノイズモデルが既知の状況で、BADACはランダムフォレスト、IsolationForest、LOFといった標準的手法と比べてどのように性能を発揮するか？
• RQ3 非ガウス的または相関のあるノイズ下でも、BADACはどの程度性能を維持できるか？
• RQ4 BADACは、科学的分析パイプラインで不確実性伝播を要件とする場合に適した、適切にキャリブレーションされた分類確率を生成できるか？
• RQ5 BADACは、教師なしの状況で新規クラスをどの程度効果的に検出できるか？

主な発見

• 正しいノイズモデルが分かっている状況では、BADACはランダムフォレストの分類性能を上回り、IsolationForest や LOF の異常検出性能を上回る。これは、不確実性を適切に活用しているためである。
• ノイズの強いスパイクに類似したコンパクトな異常に対しては、BADACの性能は LOF と同等であり、IsolationForest よりも優れている。
• BADACは適切にキャリブレーションされた分類確率を生成する。これは、不確実性伝播を要する信頼性の高い科学的パイプラインでの利用に不可欠である。
• 非ガウス的または相関のあるノイズ下でも、BADACは強い異常検出性能を維持するが、特に相関ノイズ下では分類精度が低下する傾向がある。
• ノイズモデルが誤っている場合、BADACの確率キャリブレーションは崩れるが、真のノイズ構造を尤度関数に組み込むことで是正可能である。
• 計算コストが高く、大規模データセットにはスケーリングしにくいが、ガウス過程やテンプレートベースの近似により加速が可能である。