[論文レビュー] On Primal-Dual Approach for Distributed Stochastic Convex Optimization over Networks

Darina Dvinskikh, Eduard Gorbunov+3 more|arXiv (Cornell University)|Mar 23, 2019

Distributed Control Multi-Agent Systems参考文献 44被引用数 9

ひとこと要約

本稿では、ネットワーク上の分散凸最適化のためのプライマル・デュアル確率勾配法を提案し、反復点と最適解との距離を制限する新しい収束解析を活用する。最適な通信複雑度を達成し、ネットワークトポロジーおよび問題の条件数に明示的な依存関係を持つ高確率収束保証を提供する。

ABSTRACT

We introduce a primal-dual stochastic gradient oracle method for distributed convex optimization problems over networks. We show that the proposed method is optimal in terms of communication steps. Additionally, we propose a new analysis method for the rate of convergence in terms of duality gap and probability of large deviations. This analysis is based on a new technique that allows to bound the distance between the iteration sequence and the optimal point. By the proper choice of batch size, we can guarantee that this distance equals (up to a constant) to the distance between the starting point and the solution.

研究の動機と目的

• ネットワークに接続されたエージェント間で最適な通信複雑度を達成する分散確率最適化アルゴリズムの設計。
• 分散確率設定における双対ギャップおよび大偏差確率のための新しい収束解析フレームワークの提供。
• 新しい距離バウンディング技術を用いて、反復点と最適解との距離に対する明示的バウンディングの確立。
• バッチサイズとアルゴリズムパラメータを慎重に選択することで、高確率収束を保証する。
• 特にラプラシアン行列と固有値を通じて、ネットワークトポロジーの影響を収束速度解析に組み込む。

提案手法

• 本手法は、分散最適化問題の双対定式化に適用されたプライマル・デュアル加速勾配フレームワークを用いる。
• 通信制約をモデル化しエージェント間の合意を強制するために、ネットワークラプラシアン行列 $ W $ を用いる。
• 主な革新点は、反復点の最適解からの距離を、定数倍の要因まで初期距離に関連付ける新しい距離バウンディング技術である。
• バッチ化された確率勾配を用い、バッチサイズを適応的に制御することで分散を制御し、高確率収束を保証する。
• 双対ギャップと大偏差バウンディングを用いて収束を分析し、複数の集中事象における和集合バウンディングを用いて高確率保証を導出する。
• モーメンタム列 $ A_N $ の $ \Omega(N^2) $ の増加を活用することで、ネットワークラプラシアンの条件数に関連付けられ、最適な通信複雑度を達成する。

実験結果

リサーチクエスチョン

• RQ1 プライマル・デュアル確率勾配法は、ネットワーク上の分散凸最適化で最適な通信複雑度を達成できるか？
• RQ2 反復点と最適解との距離は、初期距離と問題パラメータの観点からどのようにバウンディングできるか？
• RQ3 収束速度は、特にラプラシアン行列の固有値を通じて、ネットワークトポロジーにどのように依存するか？
• RQ4 新しい解析フレームワークを用いて、双対ギャップおよび実行可能性違反の高確率収束を保証できるか？
• RQ5 どのバッチサイズの選択が、反復点が初期状態から最適解からの距離の定数倍の範囲内に留まるように保証するか？

主な発見

• 提案手法は、分散確率凸最適化の理論的下界に一致する最適な通信複雑度を達成する。
• 高確率 $ 1 - 4\delta $ において、双対ギャップと実行可能性違反は $ \varepsilon $ でバウンディングされ、$ \varepsilon $-最適解への収束が保証される。
• 適切なバッチサイズ選択のもとで、反復点と最適解との距離は初期距離の定数倍でバウンディングされる。
• 本手法の収束速度は、ネットワークラプラシアンの条件数 $ \chi(W) $ および強凸性パラメータ $ \mu $ に明示的に依存する。
• 確率オракルの総呼び出し回数は $ \mathcal{O}(N^2) $ であり、加速手法の最適レートに一致する。
• 解析により、双対ギャップおよび実行可能性違反の明示的バウンディングが得られ、$ \lambda_{\max}(W) $、$ \mu $、および問題固有の定数に依存する。