[論文レビュー] Efficient reconstruction of transmission probabilities in a spreading process from partial observations

Andrey Y. Lokhov, Theodor Misiakiewicz|arXiv (Cornell University)|Sep 23, 2015

Distributed Sensor Networks and Detection Algorithms被引用数 6

ひとこと要約

本稿では、不完全な活性化時刻やスパースなスナップショットなどの部分観測から、伝播過程における伝播確率を効率的に再構築するための動的メッセージパッシング（DMP）に基づくアルゴリズムを提案する。DMP方程式を用いて近似的な周辺確率を計算することで、スパースネットワークにおいて高速かつ頑健な推論を実現し、特に隠れノードやノイズの多いデータがある状況でも、モンテカルロサンプルを用いた尤度最大化に比べて優れた性能を示す。

ABSTRACT

An important problem of reconstruction of diffusion network and transmission probabilities from the data has attracted a considerable attention in the past several years. A number of recent papers introduced efficient algorithms for the estimation of spreading parameters, based on the maximization of the likelihood of observed cascades, assuming that the full information for all the nodes in the network is available. In this work, we focus on a more realistic and restricted scenario, in which only a partial information on the cascades is available: either the set of activation times for a limited number of nodes, or the states of nodes for a subset of observation times. To tackle this problem, we first introduce a framework based on the maximization of the likelihood of the incomplete diffusion trace. However, we argue that the computation of this incomplete likelihood is a computationally hard problem, and show that a fast and robust reconstruction of transmission probabilities in sparse networks can be achieved with a new algorithm based on recently introduced dynamic message-passing equations for the spreading processes. The suggested approach can be easily generalized to a large class of discrete and continuous dynamic models, as well as to the cases of dynamically-changing networks and noisy information.

研究の動機と目的

• 制限された活性化時刻や時間経過にわたるスパースな観測といった、限定的または不完全なカスケードデータしか入手できない状況において、伝播確率を学習する課題に対処すること。
• 不完全な観測下における正確な尤度最大化の計算的非効率性を克服すること。これは大規模またはリアルタイム応用には実行不可能なほど高コストである。
• 動的メッセージパッシング（DMP）方程式を用いた近似的推論によって、モンテカルロベースの尤度最大化のスケーラブルで頑健な代替手法を開発すること。
• 完全なカスケードデータが入手できない現実的状況（隠れノード、動的に変化するネットワーク、ノイズの多い観測など）におけるパrameter推定を可能にすること。

提案手法

• 不完全な拡散トレースの尤度を最大化するという推論問題を定式化し、観測済みおよび隠れのカスケードデータの両方を考慮する。
• 2つのベースライン手法を導入する：不完全な尤度計算のための正確な周辺化とモンテカルロサンプル。ただし、両者とも計算コストが非常に高い。
• ループを含んでもスパースなネットワーク上でノード活性化の周辺確率を効率的に近似するための、新たなDMPに基づくアルゴリズムを提案する。
• 完全な列挙を避けて、DMPを用いて近似的な尤度を計算することで、欠損データがある場合でも高速かつスケーラブルなパrameter学習を可能にする。
• DMPフレームワークを離散時間の感受性-感染型（SI）モデルに適用し、連続時間および他の動的モデルへ一般化する。
• DMPが、ネットワーク構造が未知であっても、パrameter学習に使用可能であることを示すが、追加の制約がなければ正確なトポロジーを再構築できない可能性がある。

実験結果

リサーチクエスチョン

• RQ1 制限された活性化時刻やスパースなスナップショットといった部分観測から、伝播過程における伝播確率を正確に再構築できるか？
• RQ2 不完全なデータ下での尤度最大化の計算コストを、正確性を維持したまま低減できるか？
• RQ3 動的メッセージパッシング（DMP）方程式が、不完全観測設定下で計算が困難な尤度計算に対して、効率的かつ正確な近似を提供できる範囲はどの程度か？
• RQ4 DMPに基づく推論は、時間的に変化するネットワークやノイズの多い観測を持つ動的モデルへ一般化可能か？
• RQ5 完全な観測データがあるにもかかわらず、DMPが正確なネットワークトポロジーを再構築できないのはなぜか？

主な発見

• DMPに基づくアルゴリズムは、スパースネットワークにおいて伝播確率の効率的かつ頑健な再構築を可能にし、計算速度の面でモンテカルロベースの尤度最大化を著しく上回る。
• 不完全なデータ下での正確な尤度最大化は計算的に困難であり、オンラインまたは大規模応用には実用的でない。
• DMPは、ループを含んでもスパースなネットワーク上で、漸近的に正確な周辺確率推定を提供し、近似的推論の強固な基盤を形成する。
• 完全な観測データがある場合でも、DMPアルゴリズムは元のネットワークトポロジーを正確に再構築しない。これは、実証的周辺確率に最も適合するスパースなネットワークを生成する傾向があるためである。
• 正則化（例：ℓ₁）を用いることで、隠れノードや未知のネットワーク構造が存在する状況における構造的学習を向上させられる。
• トポロジー比較の結果、DMPで再構築されたネットワークは元のネットワークと同程度の直径と平均パス長を持つが、重み付き次数とパス数を低減して推定しており、構造的ずれが生じていることが示された。