[論文レビュー] Neural Point Process for Learning Spatiotemporal Event Dynamics

Zihao Zhou, Xingyi Yang+3 more|arXiv (Cornell University)|Dec 12, 2021

Point processes and geometric inequalities被引用数 7

ひとこと要約

本稿では、イベントの強度をニューラルネットワークの出力としてモデル化することにより、時空間的イベントダイナミクスを学習するニューラルポイントプロセス（NPP）モデルを提案する。これにより、次回のイベントの時刻と場所をエンド・ツー・エンドで予測可能となる。主な貢献は、予測強度関数を介して時系列的および空間的イベント予測を統合する微分可能フレームワークであり、イベント時刻および場所の分布に対する閉形式の期待値を用いることで、正確な連合時空間予測を実現する。

ABSTRACT

Learning the dynamics of spatiotemporal events is a fundamental problem. Neural point processes enhance the expressivity of point process models with deep neural networks. However, most existing methods only consider temporal dynamics without spatial modeling. We propose Deep Spatiotemporal Point Process (\ours{}), a deep dynamics model that integrates spatiotemporal point processes. Our method is flexible, efficient, and can accurately forecast irregularly sampled events over space and time. The key construction of our approach is the nonparametric space-time intensity function, governed by a latent process. The intensity function enjoys closed form integration for the density. The latent process captures the uncertainty of the event sequence. We use amortized variational inference to infer the latent process with deep networks. Using synthetic datasets, we validate our model can accurately learn the true intensity function. On real-world benchmark datasets, our model demonstrates superior performance over state-of-the-art baselines. Our code and data can be found at the https://github.com/Rose-STL-Lab/DeepSTPP.

研究の動機と目的

• 過去の履歴と空間的文脈に依存する複雑な時空間的イベントダイナミクスをモデル化すること。
• 連続的かつ微分可能に、次回のイベントの時刻と場所を同時に予測する課題に対処すること。
• 連続時間および空間における非マルコフ的かつ履歴依存のイベントパターンを捉えるニューラルネットワークベースの強度関数を開発すること。
• スケーラブルで柔軟な時空間予測を実現するため、ニューラルネットワークを用いたポイントプロセスモデルのエンド・ツー・エンド学習を可能にすること。
• 次回イベントの時刻および場所の期待値を閉形式で導出することにより、効率的な推論と学習を可能にする。

提案手法

• モデルは、学習された重みでパラメータ化されたニューラルネットワーク出力として、連続時間および空間におけるイベント発生レートを表す強度関数 λ*(t, s) を定義する。
• 生存関数を用いて次回イベント時刻の予測分布を導出し、期待時刻は時刻 t にそのハザードレートを乗じた積分として計算される。
• 次回イベントの期待場所は、空間領域全体にわたる予測強度関数 f*(s, t) の重み付き積分によって計算される。
• 累積強度関数 ∫λ*(τ)dτ を用いて生存確率を計算し、これにより期待イベント時刻の正確な計算が可能となる。
• 期待時刻および場所を累積強度関数の指数関数の積分を含む形で表現することにより、微分可能学習が可能となる。
• 時間的強度と空間的密度を統合した一貫した予測分布を用いることで、時刻と場所の連合予測が可能となる。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークを用いてポイントプロセスの強度関数をモデル化することで、複雑で履歴依存の時空間的イベントダイナミクスを捉えることができるか？
• RQ2 ニューラル強度モデル下で、次回イベントの期待時刻および場所を閉形式でどのように計算できるか？
• RQ3 微分可能なポイントプロセスモデルは、従来の手法と比較して、時空間的イベント系列の予測精度をどの程度向上できるか？
• RQ4 確率的枠組みを用いて、一貫性のある不確実性評価を伴いながら、時刻と場所を連合で予測できるか？
• RQ5 ニューラル強度関数は、連続時間および空間における非ポアソン的かつ非マルコフ的イベントパターンを、どのように柔軟にモデル化できるか？

主な発見

• 次回イベントの期待時刻は、時刻 t にハザードレートと生存確率の積を乗じた積分として計算され、正確な解析的推論が可能となる。
• 次回イベントの予測場所は、空間領域全体にわたる予測強度関数 f*(s, t) の積分により得られる空間的期待値となる。
• 累積強度関数を用いた予測分布の表現により、微分可能推論が実現され、時間および空間にわたるバックプロパゲーションが可能となる。
• 期待時刻および場所の積分形を用いることで、勾配をチェインルールを適用して計算可能となり、バックプロパゲーションを用いたエンド・ツー・エンド学習が可能となる。
• 従来のポイントプロセスを一般化する統一的かつ微分可能な連合時空間予測メカニズムを提供する。
• 強度関数をニューラルネットワークでパラメータ化することにより、パrametric仮定を超えた複雑な非線形依存関係をイベントダイナミクスが捉えることができる。