[论文解读] Matrix Product Belief Propagation for reweighted stochastic dynamics over graphs

Stefano Crotti, Alfredo Braunstein|arXiv (Cornell University)|Mar 30, 2023

Complex Network Analysis Techniques被引用 4

一句话总结

本文提出矩阵乘积信念传播（MPBP），一种可扩展的方法，通过将矩阵乘积洞穴方法扩展至处理任意重加权因子，实现对图上马尔可夫过程中罕见事件统计的高效计算。该方法将节点更新的计算成本从指数级降低至多项式级，从而在SIRS流行病模型和动力学伊辛系统等模型中实现高效推理与大偏差分析。

ABSTRACT

Stochastic processes on graphs can describe a great variety of phenomena ranging from neural activity to epidemic spreading. While many existing methods can accurately describe typical realizations of such processes, computing properties of extremely rare events is a hard task. Particularly so in the case of recurrent models, in which variables may return to a previously visited state. Here, we build on the matrix product cavity method, extending it fundamentally in two directions: first, we show how it can be applied to Markov processes biased by arbitrary reweighting factors that concentrate most of the probability mass on rare events. Second, we introduce an efficient scheme to reduce the computational cost of a single node update from exponential to polynomial in the node degree. Two applications are considered: inference of infection probabilities from sparse observations within the SIRS epidemic model, and the computation of both typical observables and large deviations of several kinetic Ising models.

研究动机与目标

• 解决在大规模网络上计算连续马尔可夫过程中罕见事件可观测量的挑战，其中标准蒙特卡洛方法因指数级采样成本而失效。
• 通过利用矩阵乘积态（MPS）表示压缩轨迹分布，克服在一般图上动态洞穴方法的计算不可行性。
• 通过将任意非负重加权因子引入信念传播框架，实现对大偏差和典型轨迹的分析。
• 开发一种计算高效的方案，将一类广泛模型中单个节点更新的成本从指数级降低至节点度数的多项式级。
• 提供一种可扩展的框架，适用于流行病模型（如SIRS）和统计物理模型（如Glauber动力学），支持实际推理与可观测量计算。

提出的方法

• 使用包含转移概率和罕见事件偏差重加权因子的因子分解形式，表述图上随机轨迹的联合分布。
• 采用矩阵乘积态（MPS）表示法对单个节点的轨迹分布进行参数化，实现对高维轨迹空间的紧凑编码。
• 提出一种信念传播（BP）形式——矩阵乘积信念传播（MPBP），其消息以矩阵形式编码，并通过固定点迭代计算边际分布。
• 引入一种递归消息传递方案，利用中间聚合变量（如感染邻居数或局部场）以降低计算复杂度。
• 应用张量网络收缩技术，高效计算单变量和成对边际分布、时间自相关函数以及用于模型学习的Bethe自由能。
• 在热力学极限下使用群体动力学，将方法扩展至具有可变度数和参数的异质或随机图。

Figure 1: Marginal probabilities of free dynamics under the SIS model, comparison with models mentioned in the text. The main panels correspond to marginals for a single node of the graph, insets show the average absolute error over all nodes with respect to Monte Carlo simulations. Panels (a-c) com

实验结果

研究问题

• RQ1 矩阵乘积洞穴方法能否被扩展以处理任意重加权因子，从而在连续随机过程中集中概率于罕见轨迹？
• RQ2 现有基于MPS的动态洞穴方法中，节点更新的计算成本是多少？是否可将该成本从节点度数的指数级降低至多项式级？
• RQ3 在哪些模型类别中（如流行病或伊辛型模型）可满足中间变量假设，从而实现高效的消息计算？
• RQ4 所提出的MPBP方法在计算典型与大偏差可观测量方面，与标准信念传播和蒙特卡洛方法相比表现如何？
• RQ5 通过MPBP计算的Bethe自由能能否用于图上随机动力学的最大似然参数估计？

主要发现

• 所提出的MPBP方法将单个节点更新的计算成本从𝒪(M^{3z-3})降低至𝒪(M^6)，适用于广泛模型类别，其中M为矩阵维度，z为节点度数。
• 该方法在稀疏观测下能准确计算SIRS流行病模型中的典型可观测量与大偏差，其在罕见事件区域的表现优于标准蒙特卡洛方法。
• 对于动力学伊辛模型，MPBP成功计算了在各种重加权方案下的时间自相关函数与磁化动力学，包括偏好于非典型自旋构型的情形。
• 通过MPBP计算的Bethe自由能近似可用于最大似然学习模型参数，如感染率或逆温度。
• 通过利用条件独立结构（如局部场或感染计数作为充分统计量），该方法在节点度数上实现多项式标度。
• MPBP的Julia实现已公开发布，支持可重现性，并可扩展至复杂网络上的其他随机过程。

Figure 2: MPBP (solid line) with bond dimension $3$ correctly computes marginals of an SIS model defined on an Erdos-Renyi graph with $23$ nodes and average connectivity $4$ , $\lambda=0.15,\rho=0.12,\gamma=0.13$ . The state of a random half of the variables was observed at final time $T=10$ and use