[論文レビュー] Optimization over time-varying directed graphs with row and column-stochastic matrices

Fakhteh Saadatniaki, Ran Xin+1 more|arXiv (Cornell University)|Oct 17, 2018

Distributed Control Multi-Agent Systems参考文献 52被引用数 11

ひとこと要約

本稿では、非一様なペロン固有ベクトルの推定を必要とせずに、線形収束を達成するための時間変動する有向グラフにおける分散最適化アルゴリズムである TV-$\mathcal{AB}$ を提案する。この手法は、行および列の確率的重み行列を用いて、有界な接続性のもとで最適解への合意を保証し、安定性解析および行列摂動論的議論を用いて、滑らかで強く凸な目的関数に対して線形収束を達成する。

ABSTRACT

In this paper, we provide a distributed optimization algorithm, termed as TV-$\mathcal{AB}$, that minimizes a sum of convex functions over time-varying, random directed graphs. Contrary to the existing work, the algorithm we propose does not require eigenvector estimation to estimate the (non-$\mathbf{1}$) Perron eigenvector of a stochastic matrix. Instead, the proposed approach relies on a novel information mixing approach that exploits both row- and column-stochastic weights to achieve agreement towards the optimal solution when the underlying graph is directed. We show that TV-$\mathcal{AB}$ converges linearly to the optimal solution when the global objective is smooth and strongly-convex, and the underlying time-varying graphs exhibit bounded connectivity, i.e., a union of every $C$ consecutive graphs is strongly-connected. We derive the convergence results based on the stability analysis of a linear system of inequalities along with a matrix perturbation argument. Simulations confirm the findings in this paper.

研究の動機と目的

• 時間変動する有向通信グラフ上で動作する分散最適化アルゴリズムを構築すること。非一様ペロン固有ベクトルの推定を必要としないこと。
• 動的で有向なトポロジーを持つ分散環境において、滑らかで強く凸な目的関数に対して最適解への線形収束を達成すること。
• 従来の手法で用いられる減少するステップサイズに依存しないように、双対確率的（行および列の確率的）に基づく新しい情報混合戦略を活用すること。
• 各$C$個の連続するグラフの和集合が強連結であるという有界な接続性のもとで収束保証を確立すること。
• 時間変動する有向ネットワークに対して、線形システムの安定性および行列摂動解析を用いた理論的基盤を提供すること。

提案手法

• アルゴリズムは、順番に適用される2つの時間変動する重み行列（1つは行確率的、もう1つは列確率的）を用い、有向グラフにおけるエージェント間の合意を実現する。
• 新規の情報混合メカニズムを導入し、行および列確率的重みを組み合わせることで、情報の流れをバランスさせ、最適解への合意を達成する。
• 減少するステップサイズに依存しない定数ステップサイズを採用することで、従来の手法で見られる劣化収束を回避する。
• 収束解析は、アルゴリズムの誤差ダイナミクスに適用される線形不等式系と行列摂動理論に基づく。
• アルゴリズムは、各ウィンドウ内で$\overline{C}$イテレーションのスライディングウィンドウ上で解析され、各ウィンドウにおけるグラフの和集合が強連結であることを仮定する。
• システム行列$M^0$の固有値特性を分析することで理論的安定性を確立し、1を固有値とする単純な固有空間を持つことを示す。

実験結果

リサーチクエスチョン

• RQ1 非一様ペロン固有ベクトルの推定を必要とせずに、時間変動する有向グラフにおける分散最適化で線形収束を達成できるか？
• RQ2 双対確率的（行および列確率的重み）は、時間変動するトポロジーを持つ有向グラフで合意を達成するためにどのように活用できるか？
• RQ3 動的で有向な通信を伴う状況下でも、アルゴリズムの線形収束を保証するグラフ系列の条件は何か？
• RQ4 減少するステップサイズや高コストの部分問題の解法に依存せずに、収束速度を非線形より向上させられるか？
• RQ5 有界な接続性（各$C$個の連続するグラフの和集合が強連結であること）は、収束を保証するために果たす役割は何か？

主な発見

• TV-$\mathcal{AB}$アルゴリズムは、有界な接続性を満たす時間変動する有向グラフ上で、滑らかで強く凸な目的関数に対して最適解への線形収束を達成する。
• 収束速度は線形であり、誤差は幾何的に減少する。これは、グラフが有向かつ時間変動するという点で顕著である。
• 従来のプッシュサム法や余剰合意法における主要な制限要因である、確率的行列の固有ベクトル推定を回避する。
• 理論的解析により、システム行列$M^0$のスペクトル半径が1であり、1を固有値とする単純な固有空間を持つことが確認され、合意部分空間への収束が保証される。
• 行列摂動および安定性解析を用いて誤差ダイナミクスをバインドし、重み付き誤差が幾何的レートで減少することを示した。
• シミュレーションにより理論的結果が検証され、時間変動する有向通信パターン下でも高速な収束性とロバストネスが示された。