[論文レビュー] A One-Class Support Vector Machine Calibration Method for Time Series Change Point Detection

Baihong Jin, Yuxin Chen+3 more|arXiv (Cornell University)|Feb 18, 2019

Fault Detection and Control Systems参考文献 13被引用数 9

ひとこと要約

本稿では、限られた訓練データ下で時系列データの変化点を検出するためのヒューリスティック探索ベースのキャリブレーション手法を、ワンクラスSVM（OC-SVM）に提案する。ハイパーパrameter（例：γ）と訓練データ選択を同時に最適化することで、C-MAPSS航空エンジンデータセットにおいて20台の訓練エンジンのみで、深層学習モデルが大幅に多くのデータを必要とするのに対し、同等またはそれ以上の性能を達成する。

ABSTRACT

It is important to identify the change point of a system's health status, which usually signifies an incipient fault under development. The One-Class Support Vector Machine (OC-SVM) is a popular machine learning model for anomaly detection and hence could be used for identifying change points; however, it is sometimes difficult to obtain a good OC-SVM model that can be used on sensor measurement time series to identify the change points in system health status. In this paper, we propose a novel approach for calibrating OC-SVM models. The approach uses a heuristic search method to find a good set of input data and hyperparameters that yield a well-performing model. Our results on the C-MAPSS dataset demonstrate that OC-SVM can also achieve satisfactory accuracy in detecting change point in time series with fewer training data, compared to state-of-the-art deep learning approaches. In our case study, the OC-SVM calibrated by the proposed model is shown to be useful especially in scenarios with limited amount of training data.

研究の動機と目的

• ラベル付きデータが入手不可で訓練データが限られる状況下で、効果的なOC-SVMモデルを訓練する課題に対処すること。
• ハイパーパrameterと訓練データ選択を最適化することで、システム劣化の進行開始を検出するOC-SVMの性能を向上させること。
• 大規模な訓練データを必要とする深層学習モデルの代替手段として、データ効率的な変化点検出手法を開発すること。
• C-MAPSSデータセットの実際の航空エンジン劣化データを用いて、本手法の有効性を検証すること。

提案手法

• OC-SVMのハイパーパrameter γと、各エンジンあたりに使用する訓練データの割合を同時に最適化するために、微分進化（DE）ヒューリスティック探索アルゴリズムを用いる。
• γの探索空間は log₁₀γ ∈ [−2, 2] と定義され、訓練データは各エンジンの寿命の最初の50%に制限され、健全なデータとして扱われる。
• scikit-learnのOneClassSVMモジュールを用いてOC-SVMを訓練し、複雑性を低減するためνを0.05に固定する。
• 最適化後、同一定数のモデル設定を用いて、C-MAPSSデータセットに含まれる全249台のエンジンに適用し、変化点を推定する。
• 変化点は、OC-SVMの意思決定関数が正常な挙動から著しく逸脱し始めた点として特定される。
• 本手法は、データに見られる単調な劣化パターンに依拠しており、正常から加速劣化への明確な遷移が存在すると仮定している。

実験結果

リサーチクエスチョン

• RQ1 ヒューリスティック探索手法は、OC-SVMのハイパーパrameterと訓練データ選択を効果的にキャリブレーションし、時系列データにおける変化点検出性能を向上させることができるか？
• RQ2 限られたデータで訓練された場合、OC-SVMの性能はWTTE-RNNなどの深層学習モデルと比べてどうなるか？
• RQ3 20台の訓練エンジンのみで、OC-SVMはシステム劣化の遷移領域（すなわち「膝」領域）を検出できるか？
• RQ4 訓練データが限られる状況下でも、キャリブレーション済みのOC-SVMモデルは未観測エンジンに一般化して適切に機能するか？

主な発見

• キャリブレーション済みのOC-SVMモデルは、C-MAPSSデータセットに含まれる全249台のエンジンに対して、20台の訓練エンジンのみを用いても変化点を正確に同定した。
• 検出された変化点は、WTTE-RNNモデルがマークした高不確実性（β値）の遷移領域とよく一致しており、劣化開始の正確な局所化を示している。
• 微分進化探索によって得られた最適なγ値は3.59であり、ヒューリスティック最適化プロセスの有効性を裏付けている。
• 本手法は極めて少ないデータで優れた性能を発揮し、WTTE-RNNモデルが20台のエンジンでの訓練では明確な変化点予測を出せなかったのに対し、本手法はそれを上回った。
• RUL予測を行わないにもかかわらず、OC-SVMモデルは加速劣化の開始を正しく検出できており、変化点検出用途における実用性を確認した。
• 本手法はエンジン間で一貫性があり、OC-SVM出力において「膝」の直前まで不確実性が増加するパターンが一貫して観察された。