[論文レビュー] Consistency and Computation of Regularized MLEs for Multivariate Hawkes Processes

Xin Guo, Anran Hu+2 more|arXiv (Cornell University)|Oct 6, 2018

Point processes and geometric inequalities参考文献 42被引用数 4

ひとこと要約

本稿は、多次元ハーケス過程（MHP）の正則化付き最尤推定（MLE）の一貫性を確立し、局所的収束を保証するAA-iPALMと呼ばれる、アンダーソン加速を施したインertialプロキシマル交替線形最小化アルゴリズムを提案する。この手法は、実世界のデータ（高頻度取引における群衆行動やcraigslistの賃貸掲載広告における因果構造など）における因果関係の同定において、iPALM や PALM より優れた性能を示す。

ABSTRACT

This paper proves the consistency property for the regularized maximum likelihood estimators (MLEs) of multivariate Hawkes processes (MHPs). It also develops an alternating minimization type algorithm (AA-iPALM) to compute the MLEs with guaranteed global convergence to the set of stationary points. The performance of this AA-iPALM algorithm on both synthetic and real-world data shows that AA-iPALM consistently improves over iPALM and PALM. Moreover, AA-iPALM is able to identify the causality structure in rental listings on craigslist and herd behavior in the NASDAQ ITCH dataset.

研究の動機と目的

• 正則化付きMLEの理論的一貫性を、多次元ハーケス過程（MHP）に対して確立し、正則化推定に関する文献における空白を埋める。
• 非凹な尤度関数下での高次元MHPパラメータ推定において、計算的に効率的かつグローバルに収束するアルゴリズムを開発する。
• 金融市場の注文フローおよびソーシャルメディア活動などの実世界の点過程データから、意味のある因果的・誘発的構造を同定する。
• アルゴリズム的加速とインエラスティックダイナミクスを用いて、高次元設定下でのMLEの初期値およびハイパーパrameterへの感受性を克服する。

提案手法

• 非凸的MHP尤度最大化における収束速度と安定性の向上を目的として、iPALMにアンダーソン加速を組み合わせた新規最適化アルゴリズムAA-iPALMを提案する。
• ベースライン強度、励起行列、カーネルパラメータといったMHPパラメータのブロック構造を活用し、効率的な交互最小化を実現する。
• l1、l2、ノルムの核など、正則化（例：l1、l2、核ノルム）をMLEフレームワークに統合し、励起行列におけるスパarsity、低ランク構造、グループスパarsityを促進する。
• MHPと分枝過程の関係を活用することで、抽象的な技術的仮定に依存せずに理論的一貫性結果を導出する。
• 時間的励起関数にパワー則カーネル（t + c)^(-β)を採用し、誘発効果の柔軟かつ経験的根拠に基づくモデリングを可能にする。
• NASDAQ ITCH（高頻度取引用）およびcraigslist賃貸掲載データセットを用い、因果ダイナミクスの同定に本アルゴリズムを適用する。

実験結果

リサーチクエスチョン

• RQ1 多次元ハーケス過程の正則化付きMLEは、現実的条件下でも一貫性を示すか？
• RQ2 高次元的かつ非凹なMHP尤度関数に対して、グローバル収束を保証する最適化アルゴリズムを開発可能か？
• RQ3 提案されたAA-iPALMアルゴリズムは、iPALM や PALM よりも収束速度および解の品質において優れているか？
• RQ4 推定されたMHPパラメータは、金融市場における群衆行動など、実世界のデータにおける解釈可能な因果構造を明らかにできるか？
• RQ5 正則化項は、MHPにおける真の因果ネットワークの回復にどのように影響するか？

主な発見

• MHPの正則化付きMLEが一貫性を示すことが理論的に証明され、統計的推論における強固な理論的基盤が確立された。
• AA-iPALMは、停留点集合へのグローバル収束を達成し、反復的複雑度および収束速度に関する理論的保証を有する。
• 合成データにおいて、AA-iPALMは収束速度および解の正確性の両面で、iPALM や PALM より一貫して優れた性能を示した。
• NASDAQ ITCHデータセットにおいて、アルゴリズムは自己励起（対角成分α_{L^a,M^b} > 0）および群衆行動（例：α_{L^a,M^b} > 0）を的確に同定し、既知の市場ダイナミクスを裏付けた。
• craigslist賃貸掲載データにおいて、AA-iPALMはユーザーの投稿行動間の意味のある因果関係を同定し、情報伝播パターンを示した。
• Googleの推定βパラメータは1.36、Appleは1.44であり、高頻度取引におけるパワー則カーネルを用いた先行研究と整合的であった。