[論文レビュー] On the Linear Convergence of Distributed Optimization over Directed Graphs

Chenguang Xi, Usman A. Khan|arXiv (Cornell University)|Oct 7, 2015

Distributed Control Multi-Agent Systems参考文献 41被引用数 33

ひとこと要約

本稿では、定数ステップサイズを用いることで、強い凸関数に対する線形収束を達成する、有向グラフ向けの分散最適化アルゴリズムである DEXTRA を提案する。この手法は、プッシュ・サムに類似したコンセンサス手法を用いることで、各エージェントが局所的な出次数のみを知る条件下で、正確な線形収束 O(τ^k)（0 < τ < 1）を実現する。従来の減少ステップサイズを用いる手法とは異なり、収束が遅いのを回避し、線形収束を保証する。

ABSTRACT

This paper develops a fast distributed algorithm, termed \emph{DEXTRA}, to solve the optimization problem when~$n$ agents reach agreement and collaboratively minimize the sum of their local objective functions over the network, where the communication between the agents is described by a~\emph{directed} graph. Existing algorithms solve the problem restricted to directed graphs with convergence rates of $O(\ln k/\sqrt{k})$ for general convex objective functions and $O(\ln k/k)$ when the objective functions are strongly-convex, where~$k$ is the number of iterations. We show that, with the appropriate step-size, DEXTRA converges at a linear rate $O(τ^{k})$ for $0

研究の動機と目的

• 有向グラフ上での分散最適化において、従来の手法が減少ステップサイズに依存し収束が遅いため、高速かつ正確な収束を実現するための課題に対処すること。
• 有向ネットワークにおいて強い凸関数の最適化を、線形収束を達成する分散アルゴリズムとして開発すること。
• 有向グラフに内在する情報交換の非対称性を、新しいコンセンサスベースの手法で克服すること。
• 減少ステップサイズを必要とせず、定数ステップサイズを用いて正確な収束を実現することにより、従来の勾配ベース手法の部分的収束速度を改善すること。

提案手法

• DEXTRA は、有向グラフにおける非対称通信を処理するため、プッシュ・サムに類似したコンセンサス手法を採用し、情報の流れをバランスさせる。
• 勾配更新に定数ステップサイズを用いることで、従来の減少ステップサイズを必要とする手法とは異なり、線形収束を実現する。
• 行確率的かつ列確率的性質を併せ持つ重み行列を導入し、コンセンサスプロセスにおけるバランスを維持する。
• 各エージェントはプライマル変数とデュアル乗数の局所的推定値を維持し、勾配ステップとコンセンサス反復の組み合わせで更新する。
• 状態の進化と収束挙動をモデル化するため、D^k、D^∞、および補助行列 M と N を含む行列分解に依存する。
• 収束解析では、プライマル変数とデュアル乗数の誤差に基づくリャプノフ関数を用い、行列不等式およびノルムの性質を用いて境界を導出する。

実験結果

リサーチクエスチョン

• RQ1 強い凸関数に対して、有向グラフ上での分散最適化アルゴリズムが線形収束を達成できるか。
• RQ2 有向通信グラフにおける情報の非対称性をどのように克服し、正確な収束を保証できるか。
• RQ3 減少ステップサイズを必要とせず、線形収束を実現するためのステップサイズ戦略は何か。
• RQ4 従来の勾配ベース手法の収束速度 O(ln k / √k) を、O(τ^k) に改善できるか。
• RQ5 有向ネットワークにおける線形収束を保証するために、重み行列が満たすべき構造的性質は何か。

主な発見

• 強い凸関数に対して、DEXTRA は 0 < τ < 1 の条件下で O(τ^k) の線形収束率を達成する。これは従来手法に比べ顕著な改善である。
• 定数ステップサイズを用いることで、正確な収束を実現し、減少ステップサイズに起因する不正確な収束や遅い収束を回避する。
• 強い凸関数に対する収束速度は、従来の O(ln k / k) から、同じ条件下で O(τ^k) に改善され、指数的減衰を示す。
• 各エージェントが自らの局所的出次数を知る必要があるが、これは実装において最小限かつ現実的な仮定である。
• シミュレーション結果は、線形収束の挙動を確認し、さまざまな有向ネットワークトポロジーにおいて理論的分析を裏付ける。
• 理論的解析では、プライマルおよびデュアル変数の誤差の進化を捉えるリャプノフ関数を用い、行列ノルムおよび固有値の性質を用いてきめ細やかな境界を導出する。