[논문 리뷰] Matrix Product Belief Propagation for reweighted stochastic dynamics over graphs

Stefano Crotti, Alfredo Braunstein|arXiv (Cornell University)|2023. 03. 30.

Complex Network Analysis Techniques인용 수 4

한 줄 요약

이 논문은 행렬 곱 상태 표현을 활용하여 일반적인 재가중 인자도 처리할 수 있도록 행렬 곱 공석 방법을 확장한 확장된 행렬 곱 신뢰 전파(MPBP)를 소개한다. 이는 그래프 상의 마코프 과정에서 희귀 사건 통계를 계산하는 스케일러블한 방법으로, 노드 갱신의 계산 비용을 노드 차수에 대해 다항식으로 감소시켜, SIRS 전염병 모델이나 운동 이징 체계와 같은 모델에서 효율적인 추론과 대편차 분석을 가능하게 한다.

ABSTRACT

Stochastic processes on graphs can describe a great variety of phenomena ranging from neural activity to epidemic spreading. While many existing methods can accurately describe typical realizations of such processes, computing properties of extremely rare events is a hard task. Particularly so in the case of recurrent models, in which variables may return to a previously visited state. Here, we build on the matrix product cavity method, extending it fundamentally in two directions: first, we show how it can be applied to Markov processes biased by arbitrary reweighting factors that concentrate most of the probability mass on rare events. Second, we introduce an efficient scheme to reduce the computational cost of a single node update from exponential to polynomial in the node degree. Two applications are considered: inference of infection probabilities from sparse observations within the SIRS epidemic model, and the computation of both typical observables and large deviations of several kinetic Ising models.

연구 동기 및 목표

• 큰 네트워크에서 반복적인 마코프 과정의 희귀 사건에 대한 관측량을 계산하는 데 도전하는 문제를 다루며, 표준 몬테카를로 방법이 샘플링 비용이 지수적으로 증가해 실패하는 이유를 해결한다.
• 일반적인 그래프에서 동적 공석 방법의 계산 비용이 과도한 문제를 해결하기 위해, 궤적 분포를 압축하는 데 행렬 곱 상태(MPS) 표현을 활용한다.
• 임의의 음이 아닌 재가중 인자를 통합한 신뢰 전파 프레임워크를 통해 대편차와 이질적인 궤적을 연구할 수 있도록 한다.
• 일반적인 모델 클래스에서 노드 갱신의 비용을 노드 차수에 대해 다항식으로 감소시켜 계산 효율성이 높은 방법을 개발한다.
• 전염병 모델(예: SIRS)과 통계역학 모델(예: 글라우버 역학)에 모두 적용 가능한 스케일러블한 프레임워크를 제공하여 실용적인 추론과 관측량 계산을 가능하게 한다.

제안 방법

• 희귀 사건 편향을 위해 전이 확률과 재가중 인자를 포함한 인수 분해 형태로 그래프 상의 확률적 궤적의 결합 분포를 수식화한다.
• 개별 노드의 궤적 분포를 표현하기 위해 행렬 곱 상태(MPS) 표현을 도입하여 고차원 궤적 공간을 압축적으로 표현한다.
• 메시지를 행렬 형태로 표현하는 메시지 전파 형식인 행렬 곱 신뢰 전파(MPBP)를 개발하며, 고정점 반복을 통해 근사 확률 밀도를 계산한다.
• 중간 집계 변수(예: 감염된 이웃 수 또는 국소 필드)를 활용한 재귀적 메시지 전달 방식을 도입하여 계산 복잡도를 감소시킨다.
• 텐서 네트워크 수축 기법을 적용하여 단일 변수 및 쌍 변수의 근사 확률 밀도, 시간 자기상관 함수, 베테 자유 에너지를 효율적으로 계산한다.
• 열역학적 극한에서 인구 동역학을 활용하여, 차수나 매개변수가 다양한 비균일하거나 무작위 그래프로의 확장을 가능하게 한다.

Figure 1: Marginal probabilities of free dynamics under the SIS model, comparison with models mentioned in the text. The main panels correspond to marginals for a single node of the graph, insets show the average absolute error over all nodes with respect to Monte Carlo simulations. Panels (a-c) com

실험 결과

연구 질문

• RQ1 행렬 곱 공석 방법은 반복적인 확률적 과정에서 희귀 궤적에 확률을 집중시키는 임의의 재가중 인자를 처리할 수 있도록 확장될 수 있는가?
• RQ2 기존의 MPS 기반 동적 공석 방법에서 노드 갱신의 계산 비용은 얼마이며, 이를 노드 차수에 대해 다항식으로 감소시킬 수 있는가?
• RQ3 어떤 모델 클래스(예: 전염병 모델 또는 이징 유형)에서 중간 변수 가정이 성립하여 효율적인 메시지 계산이 가능한가?
• RQ4 제안된 MPBP 방법은 일반 신뢰 전파 및 몬테카를로 방법과 비교해 보았을 때, 일반적인 관측량과 대편차 관측량을 얼마나 잘 계산하는가?
• RQ5 MPBP를 통해 계산된 베테 자유 에너지는 그래프 상의 확률적 역학에서 최대우도 추정을 위해 사용될 수 있는가?

주요 결과

• 제안된 MPBP 방법은 일반적인 모델 클래스에서 노드 갱신의 계산 비용을 𝒪(M^{3z-3})에서 𝒪(M^6)으로 감소시킨다. 여기서 M은 행렬 차원이고 z는 노드 차수이다.
• 이 방법은 희귀 사건 영역에서 표준 몬테카를로 방법보다 뛰어난 성능을 보이며, 관측 빈도가 낮은 SIRS 전염병 모델에서 일반적인 관측량과 대편차를 정확하게 계산할 수 있다.
• 운동 이징 모델에서는 다양한 재가중 전략(예: 이질적인 스핀 구성에 유리한 전략) 하에서 시간 자기상관 함수와 자화 동역학을 성공적으로 계산한다.
• MPBP를 통해 계산된 베테 자유 에너지는 감염률이나 역온도와 같은 모델 매개변수의 최대우도 학습에 활용될 수 있다.
• 지역 필드 또는 감염 수와 같은 충분통계량을 통해 조건부 독립성의 구조를 활용함으로써, 노드 차수에 대해 다항식 스케일링을 달성한다.
• MPBP의 줄리아 구현체는 공개되어 있어 재현 가능성이 높으며, 복잡한 네트워크 상의 다른 확률적 과정으로의 확장도 가능하다.

Figure 2: MPBP (solid line) with bond dimension $3$ correctly computes marginals of an SIS model defined on an Erdos-Renyi graph with $23$ nodes and average connectivity $4$ , $\lambda=0.15,\rho=0.12,\gamma=0.13$ . The state of a random half of the variables was observed at final time $T=10$ and use