[論文レビュー] A New Approach to Laplacian Solvers and Flow Problems

Patrick Rebeschini, Sekhar Tatikonda|arXiv (Cornell University)|Nov 22, 2016

Complexity and Algorithms in Graphs被引用数 6

ひとこと要約

本稿は、重み付きグラフ上のラプラシアン行列方程式および電流フロー問題を解くためのMin-Sumメッセージパッシングアルゴリズムを分析するための新しいフレームワークを提案する。収束保証を、非後退ランダムウォークの到達時間と関連付けることで得ており、d-正則グラフの場合、隣接ノードからの非後退ランダムウォーク分布間の全変動距離によって収束が制御されることを証明している。

ABSTRACT

This paper investigates the behavior of the Min-Sum message passing scheme to solve systems of linear equations in the Laplacian matrices of graphs and to compute electric flows. Voltage and flow problems involve the minimization of quadratic functions and are fundamental primitives that arise in several domains. Algorithms that have been proposed are typically centralized and involve multiple graph-theoretic constructions or sampling mechanisms that make them difficult to implement and analyze. On the other hand, message passing routines are distributed, simple, and easy to implement. In this paper we establish a framework to analyze Min-Sum to solve voltage and flow problems. We characterize the error committed by the algorithm on general weighted graphs in terms of hitting times of random walks defined on the computation trees that support the operations of the algorithms with time. For $d$-regular graphs with equal weights, we show that the convergence of the algorithms is controlled by the total variation distance between the distributions of non-backtracking random walks defined on the original graph that start from neighboring nodes. The framework that we introduce extends the analysis of Min-Sum to settings where the contraction arguments previously considered in the literature (based on the assumption of walk summability or scaled diagonal dominance) can not be used, possibly in the presence of constraints.

研究の動機と目的

• Min-Sumメッセージパッシングアルゴリズムのラプラシアンシステムおよびフロー問題への一般化された分析フレームワークの構築。
• ウォーク合計性や対角優勢性を要件とする従来の収縮に基づく解析の限界を克服すること。
• 計算ツリー上のランダムウォークの到達時間を使って、一般の重み付きグラフにおけるMin-Sumの誤差を特徴付けること。
• d-正則グラフにおいて、隣接ノードからの非後退ランダムウォーク分布間の全変動距離と関連付けることで収束を確立すること。
• 従来の収縮議論が失敗する制約付き設定へもMin-Sumの解析を拡張すること。

提案手法

• メッセージ伝播をモデル化するための計算ツリーを用い、誤差ダイナミクスを分析するためのランダムウォークを定義する。
• 計算ツリー上の非後退ランダムウォークの到達時間を定義し、電圧およびフロー推定値の誤差を抑え込む。
• 隣接行列とノード次数に基づく初期条件を用いて、非後退ウォークの確率分布を再帰的に計算する。
• ノード $ v $ から出発し、最初のステップが $ w $ でない長さ $ t $ の非後退ウォークの分布を表す $ P^{(t)}_v $ および $ P^{(t,w)}_v $ の再帰的公式を導出する。
• 帰納法と $ ilde{ heta}_s $, $ heta_s $, $ ilde{ ho}_s $ の性質を用いて誤差項の上限を確立し、それらをウォーク行動およびグラフの正則性と関連付ける。
• d-正則グラフにおける収束の主要な指標として、隣接ノードからの非後退ウォーク分布間の全変動距離を用いる。

実験結果

リサーチクエスチョン

• RQ1 ウォーク合計性や対角優勢性に依存せずに、ラプラシアンシステムに対するMin-Sumメッセージパッシングを厳密に分析できるか？
• RQ2 電圧およびフロー問題におけるMin-Sumの誤差は、グラフ構造とメッセージパッシングの深さにどのように依存するか？
• RQ3 計算ツリー上の非後退ランダムウォークの到達時間は、Min-Sum収束を決定づける役割を果たすか？
• RQ4 d-正則グラフにおいて、Min-Sum収束は隣接ノードからの非後退ウォーク分布間の全変動距離とどのように関連するか？
• RQ5 標準的な収縮議論が失敗する制約付き条件下でも、Min-Sumアルゴリズムの収束を証明できるか？

主な発見

• ラプラシアンシステムに対するMin-Sumの誤差は、計算ツリー上の非後退ランダムウォークの到達時間によって特徴づけられる。
• 重みが等しいd-正則グラフでは、Min-Sumの収束が隣接ノードからの非後退ランダムウォーク分布間の全変動距離によって制御される。
• ウォーク合計性やスケーリングされた対角優勢性の範囲を超えて収束解析を拡張でき、制約付き設定への適用を可能にする。
• d-正則グラフにおける非後退ウォーク分布の正確な計算を可能にする、$ P^{(t)}_v $ および $ P^{(t,w)}_v $ の再帰的公式が導出された。
• 不等式 $ b_{d,t} \geq \frac{d-2}{d-1} $ が証明され、$ t $ が大きくなっても分布が退化しないことが示された。
• 誤差成長が高次元グラフにおいて小さくなることを示す、$ c_{d,t} \leq \bar{\alpha} $ が証明され、$ \bar{\alpha} \to 1 $ が $ d \to \infty $ のとき成り立つ。