[論文レビュー] Distributed Subgradient Projection Algorithm over Directed Graphs

Chenguang Xi, Usman A. Khan|arXiv (Cornell University)|Feb 1, 2016

Distributed Control Multi-Agent Systems参考文献 27被引用数 4

ひとこと要約

本稿では、有向マルチエージェントネットワーク上で制約付き凸最適化を実行するための、方向付き分散投影勾配（D-DPS）アルゴリズムを提案する。エージェントは、共通の凸集合に制約された局所凸関数の和を共同で最小化する。非対称通信を処理するために余剰共感（surplus consensus）を統合することで、D-DPSは $O(\frac{\ln k}{\sqrt{k}})$ の収束速度を達成し、非有向ネットワークにおける最良の既知のレートと同等である。

ABSTRACT

We propose a distributed algorithm, termed the Directed-Distributed Projected Subgradient (D-DPS), to solve a constrained optimization problem over a multi-agent network, where the goal of agents is to collectively minimize the sum of locally known convex functions. Each agent in the network owns only its local objective function, constrained to a commonly known convex set. We focus on the circumstance when communications between agents are described by a directed network. The D-DPS augments an additional variable for each agent, to overcome the asymmetry caused by the directed communication network. The convergence analysis shows that D-DPS converges at a rate of $O(\frac{\ln k}{\sqrt{k}})$, where k is the number of iterations.

研究の動機と目的

• 通信トポロジーが有向である分散制約付き最適化の課題に取り組むこと。ここでは情報の流れが非対称である。
• 非有向またはバランスの取れた通信グラフを仮定する従来のアルゴリズムの制限を克服すること。
• 局所的制約を伴う有向で強く連結なネットワークトポロジーにおいても、収束性と効率性を維持する分散アルゴリズムを開発すること。
• 計算の単純さと分散環境におけるスケーラビリティを保ちながら、最適解への収束を保証すること。
• 有向通信の複雑さが加わっても、非有向ネットワークアルゴリズムと同等の収束速度を達成すること。

提案手法

• 有向グラフと局所的制約に特化した分散投影勾配法として、D-DPSアルゴリズムを提案する。
• 余剰共感を導入し、行確率的行列と列確率的行列を構築することで、非対称リンク間での情報交換を可能にする。
• 収束を保証するとともに推定誤差と分散のバランスを取るために、消えるステップサイズ $\alpha_k = \frac{1}{\sqrt{k}}$ を使用する。
• 状態推定値 $\mathbf{x}_i^k$ と補助変数 $\mathbf{y}_i^k$ を維持し、共感を追跡し制約を強制する。
• 各反復で $\mathcal{P}_{\mathcal{X}}[\cdot]$ の投影を適用することで、反復値が共通の凸制約集合 $\mathcal{X}$ 内に留まるように保証する。
• 投影の非拡大性と行列の確率的性質を活用し、強い連結性と有向グラフの仮定の下で収束を証明する。

実験結果

リサーチクエスチョン

• RQ1 非対称通信が行われる有向ネットワークにおいて、分散投影勾配法が収束を達成できるか。
• RQ2 有向ネットワーク設定において制約を含めると、非制約または非有向ケースと比較して収束速度が劣化するか。
• RQ3 余剰共感が有向通信における非対称性を効果的に補正し、共感と収束を可能にするか。
• RQ4 収束を保証するとともに、有向で制約付きネットワークでの高速な収束を実現する最適なステップサイズ方策は何か。
• RQ5 D-DPSの収束速度は、非制約問題に特化したSubgradient-Push や Weight-Balancing Subgradient Descent と比較して、制約付き設定でどのように異なるか。

主な発見

• D-DPSアルゴリズムは、強く連結な有向グラフ上での制約付き最適化問題の最適解に収束する。
• D-DPSの収束速度は $O(\frac{\ln k}{\sqrt{k}})$ であり、非有向グラフ上での分散投影勾配法の最良の既知のレートと一致する。
• 余剰共感の使用により、行確率的行列と列確率的行列の両方の構築が可能となり、有向通信における非対称性が効果的に緩和される。
• 数値結果により、D-DPSは残差が時間とともに減少し、エージェント間の状態の不一致がゼロに収束することが確認された。
• Subgradient-Push や Weight-Balancing Subgradient Descent（非制約問題用）と比較して、D-DPSは同等の収束速度を示すが、制約付き問題に特化して設計されている。
• 最適なステップサイズ方策 $\alpha_k = \frac{1}{\sqrt{k}}$ が最も速い収束速度をもたらし、指数が大きいと持久性条件に違反するため収束しなくなる。