[論文レビュー] Joint Inference of Multiple Graphs from Matrix Polynomials

Madeline Navarro, Yuhao Wang+3 more|arXiv (Cornell University)|Oct 16, 2020

Functional Brain Connectivity Studies参考文献 51被引用数 23

ひとこと要約

本稿では、信号の共分散とグラフシフト作用素の間の行列多項式関係を活用し、それらのグラフ上で定常的であると仮定された複数のスパースグラフを同時に推定する凸最適化フレームワークを提案する。この手法は、信号数とネットワークサイズに強く依存する高確率的バインドに基づき一貫性のある回復を保証し、合成および実世界の実験を通じてノイズ環境下でも高いロバスト性を示す。

ABSTRACT

Inferring graph structure from observations on the nodes is an important and popular network science task. Departing from the more common inference of a single graph and motivated by social and biological networks, we study the problem of jointly inferring multiple graphs from the observation of signals at their nodes (graph signals), which are assumed to be stationary in the sought graphs. From a mathematical point of view, graph stationarity implies that the mapping between the covariance of the signals and the sparse matrix representing the underlying graph is given by a matrix polynomial. A prominent example is that of Markov random fields, where the inverse of the covariance yields the sparse matrix of interest. From a modeling perspective, stationary graph signals can be used to model linear network processes evolving on a set of (not necessarily known) networks. Leveraging that matrix polynomials commute, a convex optimization method along with sufficient conditions that guarantee the recovery of the true graphs are provided when perfect covariance information is available. Particularly important from an empirical viewpoint, we provide high-probability bounds on the recovery error as a function of the number of signals observed and other key problem parameters. Numerical experiments using synthetic and real-world data demonstrate the effectiveness of the proposed method with perfect covariance information as well as its robustness in the noisy regime.

研究の動機と目的

• 社会的・生物学的・通信システムにおけるマルチレイヤーネットワークを動機として、各グラフに対して利用可能な信号のサブセットのみが観測可能な状況において、複数の関連するグラフをノード観測から推定する課題に対処すること。
• 単一グラフ手法を上回る推定精度を達成するため、複数のグラフ間で共有される構造的性質を活用する連合推定フレームワークの構築。
• グラフ定常性を形式化し、信号共分散とグラフシフト作用素が行列多項式によって関連づけられることで、統一的な数学的定式化を可能にすること。
• 信号数とネットワークパラメータに依存する高確率的バインドを含む、ノイズおよび有限標本条件下での回復誤差に関する理論的保証の提供。
• 類似性制約および構造的事前知識（例：隣接行列またはラプラシアン形式）を組み込むことで、既存のグラフ信号処理ツールをマルチグラフ設定に拡張すること。

提案手法

• スパarsity、グラフ定常性、グラフ間類似性を強制する正則化損失関数を最小化する凸最適化問題として、連合グラフ推定問題を定式化する。
• 行列多項式マッピングを用いて、観測されたグラフ信号の共分散と未知のグラフシフト作用素（GSO）との関係を定式化し、GSOと共分散が同一の固有ベクトルを持つことを保証する。
• ドメイン固有のネットワークモデルに適合させるために、GSOに構造的制約（例：自己ループなしの隣接行列、ラプラシアン形式）を課す。
• 非凸な同時スパarsityおよび類似性制約の凸緩和を採用し、理論的回復保証が得られる計算可能な最適化を可能にする。
• サブガウス型確率ベクトルの集中不等式および尾部バインドを用いて、信号分布およびネットワークサイズに関する仮定の下で、回復誤差の高確率的バインドを導出する。
• 重尾ノイズに対処するための切断スキームを適用し、推定信号和のスペクトルノルムを制御することで、ノイズ環境下での安定性を確保する。

実験結果

リサーチクエスチョン

• RQ1 定常的グラフ信号から複数のグラフを連合推定することは、単一グラフ推定よりも優れた回復性能を達成できるか？
• RQ2 行列多項式に基づく凸最適化フレームワークは、どのような条件下で複数のスパースグラフの一貫性のある回復を保証するか？
• RQ3 観測信号数がグラフトポロジー回復における高確率誤差バインドにどのように影響するか？
• RQ4 グラフ間類似性および構造的事前知識（例：隣接行列またはラプラシアン制約）は推定精度にどのような影響を及えるか？
• RQ5 本手法は、実世界および合成データにおけるノイズおよび有限標本効果に対して、どの程度ロバストか？

主な発見

• 提案手法は、観測信号数が増加するに従い指数関数的に減少する誤差バインドを達成し、特に $ \exp(-c \log N) $ の形でバインドされる（$ c > 2 $）。
• 理論的解析により、信号分布およびネットワークサイズにやや緩い条件が課されても、信号数が増加するに従い回復誤差がゼロに収束することが示された。
• 尾部挙動とスペクトルノルムを制御する切断ベースの信号推定器のおかげで、ノイズ環境下でもロバスト性を維持する。
• 合成および実世界データにおける実験結果により、信号が限られている状況でも、単一グラフ手法を上回る精度と安定性を示した。
• 回復誤差の高確率的バインドは、信号数 $ n $、ネットワークサイズ $ N $、スパarsityレベル $ K $ といった主要パラメータに明示的に依存しており、$ n $ が増加するに従い誤差が減少することが確認された。
• 複数のネットワーク間で共有される構造的パターンを活用することで、各グラフに対して部分的観測しか得られない状況でも、一貫性のある回復が達成された。