[論文レビュー] Online Time-Varying Topology Identification via Prediction-Correction Algorithms

Alberto Natali, Mario Coutiño+2 more|arXiv (Cornell University)|Oct 22, 2020

Target Tracking and Data Fusion in Sensor Networks被引用数 6

ひとこと要約

本稿では、非定常環境における動的グラフトポロジー同定のためのオンライン予測補正アルゴリズムを提案する。時間変動最適化を活用し、早期停止によって暗黙的正則化を実現する。本手法は、明示的な正則化やトポロジー変更点の事前知識を必要とせず、ガウスグラフィカルモデルにおける時変精度行列のロバストな追跡を実現する。

ABSTRACT

Signal processing and machine learning algorithms for data supported over graphs, require the knowledge of the graph topology. Unless this information is given by the physics of the problem (e.g., water supply networks, power grids), the topology has to be learned from data. Topology identification is a challenging task, as the problem is often ill-posed, and becomes even harder when the graph structure is time-varying. In this paper, we address the problem of dynamic topology identification by building on recent results from time-varying optimization, devising a general-purpose online algorithm operating in non-stationary environments. Because of its iteration-constrained nature, the proposed approach exhibits an intrinsic temporal-regularization of the graph topology without explicitly enforcing it. As a case-study, we specialize our method to the Gaussian graphical model (GGM) problem and corroborate its performance.

研究の動機と目的

• 非定常環境におけるストリーミングデータから時変グラフトポロジーを学ぶ課題に対処する。
• バッチ処理やウィンドウ処理の限界を克服し、リアルタイムで適応可能なトポロジー推定を実現する。
• 反復制約を通じて解を暗黙的に正則化するオンラインアルゴリズムを構築する。
• 動的精度行列推定問題におけるガウスグラフィカルモデル（GGM）問題へのフレームワークの有効性を実証する。
• スマートグリッドや脳結合ネットワークなどの応用分野におけるリアルタイムの異常検知と意思決定を可能にする。

提案手法

• 非定常データストリームに対処するため、時間変動凸最適化問題として動的トポロジー同定を定式化し、予測補正フレームワークを用いる。
• 過去の解に基づいて次回のトポロジー反復値を予測する予測ステップと、新しいデータを用いてそれを精緻化する補正ステップを導入する。
• 固定回数の反復（P回の予測ステップとC回の補正ステップ）を用いることで、早期停止による暗黙的時間正則化を実現する。
• 各時刻で精度行列の最尤推定（MLE）問題を解くことで、ガウスグラフィカルモデル（GGM）に本アルゴリズムを適用する。
• データドリフトに適応するため、I-MLE（インスタントMEL）解に忘れらし係数を組み込む一方、P-Cアルゴリズムは反復的精緻化により安定性を維持する。
• 性能指標として正規化平均二乗誤差（NMSE）を定義し、P-C解とC-O解をバッチMLE（B-MLE）およびインスタントMEL（I-MLE）解と比較する。

実験結果

リサーチクエスチョン

• RQ1 トポロジー変更点の事前知識がなく、かつ時間とともに変化するネットワーク構造を持つ状況で、リアルタイムにグラフトポロジーを同定する方法は何か？
• RQ2 コスト関数に明示的な正則化項を追加せずに、オンラインアルゴリズムが時変グラフ解を暗黙的に正則化できるか？
• RQ3 予測補正フレームワークは、動的状況下で補正のみの手法やバッチ処理手法と比較して、どの程度追跡性能を向上させるか？
• RQ4 非定常環境下で、反復予算（PおよびC）と忘れらし係数の違いがアルゴリズムの性能に与える影響は何か？
• RQ5 提案されたフレームワークは、GGMに限らず、時変構造を示す他のグラフ学習問題へも一般化可能か？

主な発見

• 予測補正（P-C）アルゴリズムは、特にt=200およびt=400のトポロジー変更点の直後において、補正のみ（C-O）手法よりも顕著に低い正規化平均二乗誤差（NMSE）を達成する。
• P-C解は、すべての定常区間においてバッチMLE（B-MLE）解に収束しており、真のトポロジーを効果的に追跡していることが示された。
• 本アルゴリズムは内在的な時間正則化を有する：コスト関数に明示的な正則化がなくても、早期停止のおかげで連続する時刻間で解が類似したままである。
• 高次元設定（N=128）でも、P-Cアルゴリズムは計算制約下でも真の時変精度行列 ${\bf S}_t$ を効果的に追跡でき、50%のグラフ拡大が生じる状況でも明確な軌道追従が観察された。
• PおよびCの値を調整することで性能をチューニング可能である：C値を高くすると解はI-MLEに近づき、PおよびC値を低くするとB-MLE解に近づく。
• t=200およびt=400でNMSEが急激に上昇するが、P-C解はC-O解およびI-MLE解よりも速やかに回復し、より低い誤差を維持している。