[論文レビュー] Matrix Product Belief Propagation for reweighted stochastic dynamics over graphs

Stefano Crotti, Alfredo Braunstein|arXiv (Cornell University)|Mar 30, 2023

Complex Network Analysis Techniques被引用数 4

ひとこと要約

この論文は、任意の再重み付け要因を扱えるように行列積状態（MPS）表現を拡張することで、グラフ上のマーカフ過程におけるレアイベント統計をスケーラブルに計算するための行列積信念伝搬（MPBP）を導入する。ノード更新の計算コストをノード次数の指数関数的から多項式的へ削減し、SIRS感染症モデルや運動的アイザイン系などのモデルにおける効率的な推論と大偏差解析を可能にする。

ABSTRACT

Stochastic processes on graphs can describe a great variety of phenomena ranging from neural activity to epidemic spreading. While many existing methods can accurately describe typical realizations of such processes, computing properties of extremely rare events is a hard task. Particularly so in the case of recurrent models, in which variables may return to a previously visited state. Here, we build on the matrix product cavity method, extending it fundamentally in two directions: first, we show how it can be applied to Markov processes biased by arbitrary reweighting factors that concentrate most of the probability mass on rare events. Second, we introduce an efficient scheme to reduce the computational cost of a single node update from exponential to polynomial in the node degree. Two applications are considered: inference of infection probabilities from sparse observations within the SIRS epidemic model, and the computation of both typical observables and large deviations of several kinetic Ising models.

研究の動機と目的

• 大規模ネットワーク上の繰り返しマーカフ過程におけるレアイベントのオブザーバブルを計算する課題に取り組む。標準モンテカルロ法は指数的サンプリングコストのため、これに失敗する。
• 一般グラフにおける動的キャビティ法の計算不能性を、軌道分布の圧縮に行列積状態（MPS）表現を活用することで克服する。
• 任意の非負の再重み付け要因を信念伝搬フレームワークに組み込むことで、大偏差および特異的軌道の研究を可能にする。
• 広範なモデルクラスにおいて、ノード次数の指数的から多項式的へ単一ノード更新のコストを削減する計算効率の高いスキームを開発する。
• 感染症モデル（例：SIRS）や統計物理学モデル（例：グラーバーダイナミクス）に適用可能なスケーラブルなフレームワークを提供し、実用的な推論とオブザーバブル計算を実現する。

提案手法

• レアイベントバイアスのための遷移確率と再重み付け要因を含む要因分解形を用いて、グラフ上の確率的軌道の連合分布を定式化する。
• 個々のノードの軌道分布をパrameter化するため、行列積状態（MPS）表現を採用し、高次元の軌道空間をコンactに符号化可能にする。
• メッセージを行列としてエンコードする信念伝搬（BP）形式を考案し、固定点反復により周辺分布を計算する。これを行列積信念伝搬（MPBP）と呼ぶ。
• 中間集約変数（例：感染済み隣接ノード数や局所場）を活用する再帰的メッセージ伝達スキームを導入し、計算複雑性を低減する。
• テンソルネットワークの縮約技術を用いて、単変数およびペア周辺分布、時間自己相関、ベーゼ自由エネルギーの効率的計算を実現し、モデル学習に応用する。
• 熱力学的極限における集団ダイナミクスを用いて、次数やパラメータが変動する非一様またはランダムなグラフへの拡張を実現する。

Figure 1: Marginal probabilities of free dynamics under the SIS model, comparison with models mentioned in the text. The main panels correspond to marginals for a single node of the graph, insets show the average absolute error over all nodes with respect to Monte Carlo simulations. Panels (a-c) com

実験結果

リサーチクエスチョン

• RQ1 行列積キャビティ法は、繰り返し確率的過程における希少軌道に確率を集中させる任意の再重み付け要因を扱えるように拡張可能か？
• RQ2 既存のMPSベースの動的キャビティ法におけるノード更新の計算コストは何か？ そして、ノード次数の指数的から多項式的へ削減可能か？
• RQ3 どのクラスのモデル（例：感染症モデルやアイザイン型）において、中間変数仮定が成り立ち、効率的なメッセージ計算が可能になるか？
• RQ4 提案されたMPBP法は、通常の信念伝搬およびモンテカルロ法と比較して、典型および大偏差オブザーバブルの計算においてどのように性能を発揮するか？
• RQ5 MPBPによって計算されたベーゼ自由エネルギーは、グラフ上での確率的ダイナミクスにおける最尤パラメータ推定に利用可能か？

主な発見

• 提案されたMPBP法は、Mを行列次元、zをノード次数として、単一ノード更新の計算コストを 𝒪(M^{3z-3}) から 𝒪(M^6) へ削減する。これは広範なモデルクラスにおいて有効である。
• 本手法は、観測が疎なSIRS感染症モデルにおいて、典型オブザーバブルおよび大偏差の両方を正確に計算可能であり、希少イベント領域では標準モンテカルロ法を上回る性能を示す。
• 運動的アイザインモデルでは、MPBPがさまざまな再重み付けスキーム（例：特異的スピン配置を優遇するもの）下で時間自己相関および磁化ダイナミクスを的確に計算可能である。
• MPBPによって計算されたベーゼ自由エネルギー近似は、感染率や逆温度といったモデルパラメータの最尤推定に利用可能である。
• 局所場や感染数といった十分統計量を十分統計量として用いることで、ノード次数における多項式スケーリングを達成する。
• MPBPのJulia実装は公開されており、再現性が保たれるとともに、複雑ネットワーク上の他の確率的過程への応用が可能である。

Figure 2: MPBP (solid line) with bond dimension $3$ correctly computes marginals of an SIS model defined on an Erdos-Renyi graph with $23$ nodes and average connectivity $4$ , $\lambda=0.15,\rho=0.12,\gamma=0.13$ . The state of a random half of the variables was observed at final time $T=10$ and use