[論文レビュー] A Monte Carlo EM Algorithm for the Parameter Estimation of Aggregated Hawkes Processes

Leigh Shlomovich, Edward A. K. Cohen+2 more|arXiv (Cornell University)|Jan 20, 2020

Point processes and geometric inequalities参考文献 22被引用数 4

ひとこと要約

本稿では、イベントのタイムスタンプがバッキングされたり丸められたりするため、時間的精度が失われる集約型ハーケス過程におけるパラメータ推定のためのモンテカルロ期待値最大化（MC-EM）アルゴリズムを提案する。複数のシミュレーション状況において、従来の手法と比較してバイアスと分散を顕著に低減するという優れた性能を示しており、現実的なデータ集約制約下での自己励起点過程モデリングにおいて優れた性能を発揮する。

ABSTRACT

A key difficulty that arises from real event data is imprecision in the recording of event time-stamps. In many cases, retaining event times with a high precision is expensive due to the sheer volume of activity. Combined with practical limits on the accuracy of measurements, aggregated data is common. In order to use point processes to model such event data, tools for handling parameter estimation are essential. Here we consider parameter estimation of the Hawkes process, a type of self-exciting point process that has found application in the modeling of financial stock markets, earthquakes and social media cascades. We develop a novel optimization approach to parameter estimation of aggregated Hawkes processes using a Monte Carlo Expectation-Maximization (MC-EM) algorithm. Through a detailed simulation study, we demonstrate that existing methods are capable of producing severely biased and highly variable parameter estimates and that our novel MC-EM method significantly outperforms them in all studied circumstances. These results highlight the importance of correct handling of aggregated data.

研究の動機と目的

• イベントのタイムスタンプが集約されたりバッキングされたりする場合に生じるバイアスと変動性の高いパラメータ推定の課題に対処すること。
• 粗いグレインのバッキング済みイベントカウントから連続時間ハーケス過程のパラメータを推定するための頑健な統計的フレームワークを構築すること。
• データ集約を適切に扱わなかったために生じる系統的な推定誤差を回避する、既存手法の改善を図ること。
• 高精度のタイムスタンプが実用的でない金融市場、ソーシャルメディア、地震学などの実世界の応用に適したスケーラブルで正確な推論手法を提供すること。
• さまざまな集約レベルとパラメータ領域における広範なシミュレーションスタディを通じて、手法の有効性を検証すること。

提案手法

• 本稿では、集約データに起因する計算が困難な尤度関数を扱うために、モンテカルロEM（MC-EM）アルゴリズムを定式化する。
• Eステップでは、各バッキング内での未観測のイベント時刻を、提案分布 q(𝒯*|N, Θ^i) を用いてサンプリングし、サンプル構成の尤度を最大化する。
• Mステップでは、真の密度と提案密度の比から得られる重みを用いた完全データ尤度の重み付き平均を最大化する。
• 指数関数的およびパワー則型励起カーネルの両方を組み込み、特に定常性を保証するための正則化されたカーネル形式の適切な取り扱いに注意を払う。
• バッキング内でのイベント時刻の尤度をモデル化するため、切断された条件付き強度関数を用い、以前のイベントからの自己励起効果を考慮する。
• 分岐比 γ < 1 となるように最適化を制約し、プロセスの定常性を維持する。

実験結果

リサーチクエスチョン

• RQ1 モンテカルロEMアルゴリズムは、バッキング済みのイベントデータから真のハーケス過程パラメータを効果的に回復できるか？
• RQ2 データ集約下において、提案されたMC-EM手法のバイアスと分散は、既存の推定手法と比較してどの程度優れているか？
• RQ3 バッキング幅や集約レベルの変化が、自己励起点過程におけるパラメータ推定精度に与える影響は何か？
• RQ4 MC-EMアプローチは、指数関数的減衰とパワー則減衰の両方の励起カーネル形式に対しても、頑健性を保っているか？
• RQ5 実世界の応用において、データ集約を無視するとどの程度の系統的な推定誤差が生じるか？

主な発見

• 提案されたMC-EMアルゴリズムは、全テスト済みの集約レベルおよびパラメータ設定において、既存手法と比較して顕著にバイアスと分散を低減した。
• 特に粗いバッキング下では、既存手法がバッキングデータに適用された場合、深刻なバイアスと高い変動性を示すことが判明した。
• MC-EMアプローチは、大きなバッキング幅でも一貫した収束を示し、データ集約に対して高い頑健性を示した。
• パワー則カーネルの場合、α < c の定常性条件が正しく強制され、有効なプロセスダイナミクスが保証された。
• 包括的なシミュレーションスタディを通じて、背景強度 ν、励起振幅 α、減衰率 β が高精度で回復された。
• 重要度サンプリングに基づく重み付き尤度をMステップで用いることで、計算が困難な完全データ尤度の正確な近似が可能になった。