[論文レビュー] Linear convergence in directed optimization with row-stochastic matrices

Chenguang Xi, Van Sy+2 more|arXiv (Cornell University)|Nov 18, 2016

Distributed Control Multi-Agent Systems被引用数 2

ひとこと要約

本稿では、双方向性ネットワークにおける分散最適化アルゴリズムを提案し、エージェントが隣接ノードの出次数を事前に知る必要がない条件下で線形収束を達成する。行確率行列を活用することで、リーマン勾配がリーマン連続な強い凸関数に対して、既存手法よりも優れた $O(\mu^k)$ の収束速度を達成する。

ABSTRACT

This paper considers a distributed optimization problem over a multi-agent network, in which the objective function is a sum of individual cost functions at the agents. We focus on the case when communication between the agents is described by a \emph{directed} graph. Existing distributed optimization algorithms for directed graphs require at least the knowledge of the neighbors' out-degree at each agent (due to the requirement of column-stochastic matrices). In contrast, our algorithm requires no such knowledge. Moreover, the proposed algorithm achieves the best known rate of convergence for this class of problems, $O(\mu^k)$ for $0<\mu<1$, where $k$ is the number of iterations, given that the objective functions are strongly-convex and have Lipschitz-continuous gradients. Numerical experiments are also provided to illustrate the theoretical findings.

研究の動機と目的

• 既存の双方向性グラフ向け分散最適化アルゴリズムがエージェントが隣接ノードの出次数を知る必要があるという制限を解消すること。
• 列確率行列や出次数情報に依存しない線形収束を維持する手法の開発。
• 強い凸性とリーマン勾配のリーマン連続性という標準的仮定の下で、双方向性ネットワークにおける分散最適化の最良の既知の収束速度を達成すること。
• 数値実験を通じて理論的結果の妥当性を検証すること。

提案手法

• 通信を双方向性ネットワークでモデル化するため、行確率重み行列を用いることで、出次数の情報が不要な収束を実現する。
• 各エージェントがインバーティングノードからの情報を、行確率重みを用いてローカル勾配と統合する、コンSENSUSに基づく更新ルールを採用する。
• 強い凸関数とリーマン連続勾配の仮定の下で、線形収束を維持するように設計されている。
• リャプノフ関数を用いた解析により、$0 < \mu < 1$ の範囲で $O(\mu^k)$ の収束が保証される。
• 従来の手法で必要とされる列確率行列を回避することで、和の保存性を保つ必要がなくなる。
• 理論的収束速度と実用的状況下でのロバストネスを検証するため、数値実験を実施する。

実験結果

リサーチクエスチョン

• RQ1 双方向性ネットワークにおける分散最適化が、エージェントが隣接ノードの出次数を知る必要がない条件下でも線形収束を達成できるか。
• RQ2 強い凸性とリーマン勾配のリーマン連続性の仮定の下で、双方向性ネットワークにおける分散最適化の最良の達成可能な収束速度は何か。
• RQ3 列確率行列構造に依存しない形で、行確率行列を効果的に用いて収束性を保証するアルゴリズムを設計するにはどうすればよいか。
• RQ4 提案手法は、収束速度および通信要件の面で、既存手法を上回るか。

主な発見

• 提案手法は、$0 < \mu < 1$ の範囲で $O(\mu^k)$ の線形収束速度を達成し、文献に記載された最良の既知のレートと一致する。
• エージェントが隣接ノードの出次数を知る必要がないため、従来手法の主な制限を克服する。
• 行確率行列の使用により、列確率行列の仮定が不要となり、実装が簡素化される。
• 数値実験により理論的収束速度が確認され、双方向性ネットワーク環境下でのアルゴリズムの有効性が示された。