[論文レビュー] Fast Distributed Gradient Methods

Dušan Jakovetić, João Xavier+1 more|arXiv (Cornell University)|Dec 13, 2011

Stochastic Gradient Optimization Techniques参考文献 41被引用数 21

ひとこと要約

本稿では、Lipschitz連続かつ有界な勾配をもつ分散凸最適化問題を解くために、2つの高速な分散勾配アルゴリズム—Distributed Nesterov Gradient (D-NG) および Distributed Nesterov Gradient with Consensus iterations (D-NC)—を提案する。Nesterovの加速とネットワークのコンSENSUSを活用することで、標準的な分散勾配法がΩ(1/k²/³)に制限されるのに対し、O(1/k²)およびO(1/K²−ξ)という著しく優れた収束速度を達成する。

ABSTRACT

We study distributed optimization problems when $N$ nodes minimize the sum of their individual costs subject to a common vector variable. The costs are convex, have Lipschitz continuous gradient (with constant $L$), and bounded gradient. We propose two fast distributed gradient algorithms based on the centralized Nesterov gradient algorithm and establish their convergence rates in terms of the per-node communications $\mathcal{K}$ and the per-node gradient evaluations $k$. Our first method, Distributed Nesterov Gradient, achieves rates $O\left({\log \mathcal{K}}/{\mathcal{K}} ight)$ and $O\left({\log k}/{k} ight)$. Our second method, Distributed Nesterov gradient with Consensus iterations, assumes at all nodes knowledge of $L$ and $μ(W)$ -- the second largest singular value of the $N imes N$ doubly stochastic weight matrix $W$. It achieves rates $O\left({1}/{\mathcal{K}^{2-ξ}} ight)$ and $O\left({1}/{k^2} ight)$ ($ξ>0$ arbitrarily small). Further, we give with both methods explicit dependence of the convergence constants on $N$ and $W$. Simulation examples illustrate our findings.

研究の動機と目的

• ネットワークにおける限られたグローバル知識のもとで、分散最適化における収束速度の向上を図ること。
• 集中型Nesterov法と同等の加速収束速度を達成する分散アルゴリズムの開発。
• 通信回数Kおよび勾配評価回数kを用いた収束速度の特定。ネットワークトポロジーはµ(W)を介して明示的に反映。
• 分散設定では勾配が有界であることが高速収束に不可欠であることを示す。これは集中型最適化とは異なり、有界性仮定が必須である。
• 理論的およびシミュレーション上の証拠を提示し、提案手法が同関数クラスに対して既存の分散勾配法およびデュアル平均法を厳密に上回ることを示す。

提案手法

• 1回の通信でk回の勾配評価を伴う、集中型Nesterov勾配法の分散版D-NGを提案。適応的ステップサイズおよびモーメンタム項を備える。
• D-NCを導入。各ノードで追加のコンセンサス反復を実行。L（Lipschitz定数）およびµ(W)（重み行列Wの2番目に大きな特異値）のグローバル知識を仮定。
• Lyapunov関数と重み行列Wの固有値解析を用いて収束境界を導出。収束性をµ(W)を介してネットワーク接続性と結びつける。
• D-NCについてO(1/k²)およびO(1/K²−ξ)のレートバウンドを確立。D-NGについてはO(log k/k)およびO(log k/k)を示し、NおよびWに明示的な依存関係を含む。
• W = QΛQ⊤の固有値分解を用いて状態推移を分析。推定誤差および最適性ギャップのバウンディングを導出。
• 既存手法（例：[8]）の最悪ケース収束の下界を証明し、提案手法の加速スキームの優位性を示す。

実験結果

リサーチクエスチョン

• RQ1 限られたネットワークパラメータのグローバル知識のもとで、Nesterovの加速が分散最適化に効果的に適応可能か？
• RQ2 関数の勾配がLipschitz連続かつ有界である場合、分散設定で達成可能な収束速度は何か？
• RQ3 µ(W)で定量化されるネットワークトポロジーは、分散勾配法の収束速度にどのように影響するか？
• RQ4 なぜ分散設定では勾配の有界性仮定が高速収束に不可欠なのか。集中型最適化とは何が異なるのか？
• RQ5 提案手法は、同じ関数クラスに対して、既存の分散勾配法およびデュアル平均法を上回る収束速度を達成できるか？

主な発見

• D-NCは勾配評価の観点からO(1/k²)の収束速度を達成し、通信回数の観点からO(1/K²−ξ)（ξ > 0は任意に小さい）を達成する。
• Lおよびµ(W)のグローバル知識がない場合、D-NGはO(log k/k)の収束速度を達成するが、Lおよびµ(W)が既知であればO(1/k²)に向上する。
• 標準的分散勾配法[8]の最悪ケース収束速度はΩ(1/k²/³)で下界に抑えられ、提案加速手法に匹敵できないことが証明された。
• 両手法の収束定数は、ネットワークサイズNおよび2番目に大きな特異値µ(W)に明示的に依存しており、ネットワーク接続性の影響を定量的に示している。
• 勾配の有界性仮定を除外すると、D-NGおよびD-NCの両方が任意に遅い収束を示すため、集中型Nesterov法とは明確な違いが生じる。
• シミュレーション結果は、D-NCおよびD-NGが[8]および[14]を著しく上回ることを確認しており、同じ関数クラスに制限されても収束速度が顕著に速い。