[論文レビュー] Discovering Latent Network Structure in Point Process Data

Scott W. Linderman, Ryan P. Adams|arXiv (Cornell University)|Feb 4, 2014

Point processes and geometric inequalities参考文献 21被引用数 77

ひとこと要約

本稿では、多変量 Hawkes プロセスと交換可能なランダムグラフ事前分布を組み合わせた完全ベイズ確率的モデルを提案し、ポイント過程データから潜在的ネットワーク構造を発見する。Poisson 超位置原理を活用した効率的なデータ増強により、並列 MCMC 推論が可能となり、金融取引およびギャング暴力データにおいて解釈可能な相互作用パターンを効果的に同定した。予測性能においてベースラインモデルを上回った。

ABSTRACT

Networks play a central role in modern data analysis, enabling us to reason about systems by studying the relationships between their parts. Most often in network analysis, the edges are given. However, in many systems it is difficult or impossible to measure the network directly. Examples of latent networks include economic interactions linking financial instruments and patterns of reciprocity in gang violence. In these cases, we are limited to noisy observations of events associated with each node. To enable analysis of these implicit networks, we develop a probabilistic model that combines mutually-exciting point processes with random graph models. We show how the Poisson superposition principle enables an elegant auxiliary variable formulation and a fully-Bayesian, parallel inference algorithm. We evaluate this new model empirically on several datasets.

研究の動機と目的

• 直接的なエッジや頂点の観測が不可能な状況において、ノイズの多いイベント発生に基づいて潜在的ネットワーク構造を推論する課題に対処すること。
• ポイント過程データにおけるノード間の相互励起を、潜在的なネットワーク相互作用の証拠としてモデル化すること。
• 潜在的ネットワーク構造の不確実性を考慮したスケーラブルな完全ベイズ推論フレームワークを開発すること。
• 金融取引および都市部の暴力を含む実世界のデータセットに対してモデルを評価し、解釈可能性と予測力の両面で有効性を示すこと。
• 構造的ランダムグラフ事前分布と非パラメトリックなバックグラウンドレートを組み込むことで、既存の Hawkes プロセスモデルを一般化すること。

提案手法

• モデルは多変量 Hawkes プロセスと交換可能なランダムグラフ事前分布を組み合わせ、潜在的ネットワーク構造を表現する。
• Poisson 超位置原理を用いて補助変数を導入し、イベント発生源を分解することで、効率的なデータ増強を実現する。
• 並列マルコフ連鎖モンテカルロ（MCMC）を用いた完全ベイズ推論スキームを実装し、不確実性の定量化を可能にする。
• バックグラウンドレートは、非パラメトリックな柔軟性を確保するためのガウス過程事前分布を備えた対数ガウス過程プロセス（LGCP）でモデル化する。
• Erdős-Rényi、スチュアディックブロックモデル、距離依存グラフなど、さまざまなネットワーク事前分布をサポートする。
• 補助変数の定式化により、イベントおよびプロセスごとの MCMC 更新を効率的に並列化可能である。

実験結果

リサーチクエスチョン

• RQ1 エッジや頂点が観測不能な間接的・ノイズの多いイベントデータから、潜在的ネットワーク構造を推論できるか？
• RQ2 ポイント過程データにおけるノード間の相互励起を、潜在的なネットワーク相互作用の証拠としてどのようにモデル化できるか？
• RQ3 実世界のイベント系列の構造とダイナミクスを最もよく捉えるネットワーク事前分布とバックグラウンドレートモデルは何か？
• RQ4 金融および犯罪データにおいて、モデルの予測性能はベースラインと比べてどうか？
• RQ5 Hawkes プロセスにおいて、推論された潜在的ネットワーク構造の安定性を保証する条件は何か？

主な発見

• 四クラスタの Erdős-Rényi グラフ事前分布を用いたモデルが、シカゴの殺人データにおいて予測対数尤度が最も高く、距離依存事前分布を上回った。
• シカゴデータの推論クラスタは解釈可能な社会的構造に対応している：「安全な郊外」、「バッファ地域」、「ギャング領地」。
• 青色クラスタは強い自己励起を示し、領土戦争に伴う暴力の爆発的増加と整合的であり、1990–1991年の歴史的レポートにおけるギャング活動の増加と一致した。
• モデルは殺人率に顕著な季節的パターン（夏季にピーク、冬季に低下）を捉えており、二次および周期的カーネルを備えた LGCP により効果的にモデル化された。
• 四クラスタの Erdős-Rényi モデルが優れた予測性能を示し、本データセットでは長距離または局所的相互作用が支配的ではない可能性を示唆した。
• 本フレームワークは、合成および実世界のデータセットにおいて、解釈可能で安定したネットワーク構造を効果的に同定し、頑健性とスケーラビリティを示した。