[論文レビュー] Anomaly Detection on Seasonal Metrics via Robust Time Series Decomposition

Tianwei Li, Yitong Geng+1 more|arXiv (Cornell University)|Aug 21, 2020

Anomaly Detection Techniques and Applications参考文献 15被引用数 5

ひとこと要約

本論文では、中央値に基づく分解を用いてトレンド、季節性（DSTおよび休日効果を含む）、残差を分離する、季節的オンラインビジネス指標のための頑健な時系列異常検知手法MEDIFFを提案する。残差は一般化されたESD検定により外れ値としてテストされる。MEDIFFは、eBayのラベル付きプロダクションデータにおいて、SH-ESDおよびDONUTよりも再現率と適合率が高く、特にDSTおよび休日期間中に顕著である。これは、歴史的異常に対して頑健で、効果的な季節的補正が可能であるためである。

ABSTRACT

The stability and persistence of web services are important to Internet companies to improve user experience and business performances. To keep eyes on numerous metrics and report abnormal situations, time series anomaly detection methods are developed and applied by various departments in companies and institutions. In this paper, we proposed a robust anomaly detection algorithm (MEDIFF) to monitor online business metrics in real time. Specifically, a decomposition method using robust statistical metric--median--of the time series was applied to decouple the trend and seasonal components. With the effects of daylight saving time (DST) shift and holidays, corresponding components were decomposed from the time series. The residual after decomposition was tested by a generalized statistics method to detect outliers in the time series. We compared the proposed MEDIFF algorithm with two open source algorithms (SH-ESD and DONUT) by using our labeled internal business metrics. The results demonstrated the effectiveness of the proposed MEDIFF algorithm.

研究の動機と目的

• 産業環境における高スループットで季節的パターンが強いビジネス指標のための、高速で頑健かつリアルタイムな異常検知手法の開発を目的とする。
• 日付の夏時間（DST）移動や休日が影響を及ぼす指標における異常検知の課題に対処することを目的とする。これは、標準的な季節的パターンを歪める要因である。
• 生産監視で一般的に見られる歴史的異常、欠損値、データ誤りに対して、検知の頑健性を確保することを目的とする。
• 1分間隔でサンプリングされる指標のリアルタイム監視に適した、20％未満の遅延（サンプリング周期の）検知を達成することを目的とする。
• 特にDSTおよび休日期間中に、ラベル付き社内指標を用いて、オープンソースベースライン（SH-ESD、DONUT）と性能を比較することを目的とする。

提案手法

• MEDIFFは、移動中央値スムージングを用いて時系列をトレンド、季節的、残差成分に分解する。
• 季節的成分は週次中央値を用いてモデル化され、DSTおよび休日効果を捉えるために追加の重み付けが施される。
• 最適化された重み（γ=1, β=0.4）の下で、週次中央値とトレンド成分を組み合わせたハイブリッド季節的成分が構築される。
• 残差は、元の時系列から分解されたトレンド成分、DST季節的成分、休日効果成分を差し引くことで計算される。
• 残差内の外れ値は、一般化された極端な標準化偏差（ESD）検定を用いて検出され、m≈600件の疑わしい外れ値とα=0.05を設定する。
• 本手法は4週間の時系列ウィンドウを用いたバッチ処理で適用され、DSTおよび休日補正に最適化されたパラメータが調整される。

実験結果

リサーチクエスチョン

• RQ1 頑健で中央値に基づく分解手法は、強い季節的パターンを示す1分間隔でサンプリングされたビジネス指標において、トレンドと季節的成分を効果的に分離できるか？
• RQ2 DSTおよび休日効果補正を組み込むことで、期間移動や特別イベント時の異常検知性能がどのように向上するか？
• RQ3 MEDIFFは、既存のオープンソース手法（SH-ESDおよびDONUT）を上回り、真の異常を検知しながら偽陽性を最小限に抑えることができるか、特に複雑な季節的環境下で？
• RQ4 頑健統計（中央値）の使用が、歴史的異常やデータ誤りに対して検知の頑健性をどの程度向上させるか？
• RQ5 残差に対する一般化されたESD検定は、低遅延を実現しつつ、リアルタイム異常検知において高い再現率と適合率を達成できるか？

主な発見

• MEDIFFは、グループAおよびBの指標において、SH-ESDよりも高い再現率を達成した。これは、頑健な分解によるクリアな残差のおかげで、真の異常をより効果的に検知できたためである。
• MEDIFFの季節的成分におけるγ=1およびβ=0.4の使用は、DSTおよび休日期間中の検知性能を顕著に向上させ、残差の歪みを低減した。
• DST／休日補正後、MEDIFFは適合率と再現率が向上し、より明確な残差がESD外れ値検出をより正確に可能にした。
• SH-ESDの性能は、DSTおよび休日期間中に低下した。これは、特に季節的パターンがシフトする際、STL分解の限界に起因する。
• DONUTは、MEDIFF（γ=0, β=1）およびSH-ESDよりも全体のF1スコアが高かったが、依然としてDST／休日期間中に予期しない異常を報告しており、適合率が低下した。
• 提案されたMEDIFF手法は、複雑な時間的要因を伴う産業スケールの季節的ビジネス指標におけるリアルタイム異常検知において、優れた頑健性と正確性を示した。