[論文レビュー] A point process model for rare event detection

Santhosh Narayanan, Carsten Maple+1 more|arXiv (Cornell University)|Sep 11, 2022

Point processes and geometric inequalities被引用数 6

ひとこと要約

本稿では、イベント系列における時間的依存性を活用することで、ロジスティック回帰などの従来の機械学習分類器を上回る、希少事象検出のためのハーケス点過程モデルを提案する。履歴に依存する強度関数を用いてイベントのクラスタリングや駆動効果をモデル化することで、予測性能が向上し、電子商取引取引データにおける不正行動のダイナミクスについて解釈可能な洞察が得られる。

ABSTRACT

Detecting rare events, those defined to give rise to high impact but have a low probability of occurring, is a challenge in a number of domains including meteorological, environmental, financial and economic. The use of machine learning to detect such events is becoming increasingly popular, since they offer an effective and scalable solution when compared to traditional signature-based detection methods. In this work, we begin by undertaking exploratory data analysis, and present techniques that can be used in a framework for employing machine learning methods for rare event detection. Strategies to deal with the imbalance of classes including the selection of performance metrics are also discussed. Despite their popularity, we believe the performance of conventional machine learning classifiers could be further improved, since they are agnostic to the natural order over time in which the events occur. Stochastic processes on the other hand, model sequences of events by exploiting their temporal structure such as clustering and dependence between the different types of events. We develop a model for classification based on Hawkes processes and apply it to a dataset of e-commerce transactions, resulting in not only better predictive performance but also deriving inferences regarding the temporal dynamics of the data.

研究の動機と目的

• 金融不正、システム障害、サイバー侵入などの希少だが高インパクトな出来事象を検出するという課題に対処すること。
• 時間的構造を組み込むことで、不均衡なデータセットにおける機械学習の性能を向上させるフレームワークを開発すること。
• ハーケス過程のような点過程モデルが、従来の分類器よりも時間的クラスタリングや依存性をよりよく捉えられることを示すこと。
• モデルのパrameter推定を通じて、希少事象のダイナミクスに関する解釈可能な洞察を提供すること。

提案手法

• 著者らは、イベント発生の強度が背景レートと過去のイベントによる駆動効果に依存する、マーク付きハーケス過程モデルを用いる。
• パラメータ α（駆動強度）、β（減衰率）、δm|z（背景マーキング確率）を有する履歴に依存する強度関数を用い、時間的依存性を捉える。
• トリガー確率行列 γr→c は、タイプ r のイベントがタイプ c のイベントを引き起こす確率を定量化し、異種間駆動をモデル化可能である。
• 最尤推定を用いてモデルパラメータを推定し、統計的安定性を確保するため95%信頼区間を提供する。
• 不均衡なデータセットに適した評価指標として、精度-再現率曲線下積分（AUPRC）を用いて性能を評価する。
• ハーケス過程とロジスティック回帰の予測を統合するファージョンモデルを検討し、両者の相補的な強みを活かす。

実験結果

リサーチクエスチョン

• RQ1 時間的依存性を明示的に扱う点過程モデルは、標準的な機械学習分類器と比較して、希少事象検出を改善できるか？
• RQ2 ハーケス過程モデルのパラメータは、実世界のデータにおける希少事象の時間的ダイナミクスをどのように反映しているか？
• RQ3 過去のイベントによる駆動効果をモデル化することで、不均衡な不正検出における予測性能はどの程度向上するか？
• RQ4 推定されたパラメータから、不正取引のクラスタリングや持続性に関するどのような洞察が得られるか？
• RQ5 時間的点過程モデルと従来の分類器を組み合わせることで、単体のモデルよりも優れた性能が得られるか？

主な発見

• ハーケス過程モデルはテストセットにおいて優れた予測性能を示し、ロジスティック回帰と比較してAUPRCが高かった。
• 駆動要因 α は95%信頼区間 (1.63, 8.41) を示しており、過去のイベントに強く依存していることを意味し、不正イベントが以前の発生に強く影響を受けることを示している。
• 減衰率 β は95%信頼区間 (0.21, 0.33) であり、駆動効果が約44分以上にわたり有意に持続することを示している。
• 製品コード 4 については、背景での不正発生確率がほぼゼロであり、このタイプの不正取引はすべて過去のイベントによって引き起こされていると示唆される。
• トリガー確率行列から、同じタイプのイベント同士が互いに高い確率でさらなる同種イベントを引き起こすことが明らかになった。特に製品コード 5 を除き、対角成分は1に近い値を示している。
• ハーケス過程とロジスティック回帰の予測を統合したファージョンモデルは、両モデル単体よりも優れた性能を示し、データ内に存在する異なるパターンをそれぞれが別々に捉えていることが示唆された。