[論文レビュー] Linear Convergence Rate of Class of Distributed Augmented Lagrangian Algorithms

Dušan Jakovetić, José M. F. Moura+1 more|arXiv (Cornell University)|Jul 9, 2013

Distributed Control Multi-Agent Systems参考文献 34被引用数 3

ひとこと要約

本論文は、ネットワーク上でローカルな凸コストの和を最小化するマルチエージェント最適化において、分散拡張ラグランジュ（AL）アルゴリズムのクラスに対して、グローバルに線形（幾何的）収束レートを確立する。収束レートの明示的依存関係を、ネットワークのスペクトルギャップ、ヘッセ行列の境界、および不正確な解法の精度に関して示し、追加のシステム知識が利用可能な場合、標準の分散勾配法よりも高速な収束を実証する。

ABSTRACT

We study distributed optimization where nodes cooperatively minimize the sum of their individual, locally known, convex costs f_i(x)'s, x∈R^d is global. Distributed augmented Lagrangian (AL) methods have good empirical performance on several signal processing and learning applications, but there is limited understanding of their convergence rates and how it depends on the underlying network. This paper establishes globally linear (geometric) convergence rates of a class of deterministic and randomized distributed AL methods, when the f_i's are twice continuously differentiable and have a bounded Hessian. We give explicit dependence of the convergence rates on the underlying network parameters. Simulations illustrate our analytical findings.

研究の動機と目的

• 分散拡張ラグランジュ（AL）手法の収束レートを、マルチエージェント最適化設定において分析すること。
• 広範なクラスの決定的および確率的分散ALアルゴリズムに対して、グローバルに線形収束を確立すること。
• 収束レートを、ネットワークパラメータ（スペクトルギャップ）、ヘッセ行列の境界（hmin, hmax）、および部分問題の不正確性の観点から明示的に特徴づけること。
• 通信および計算効率の観点から、さまざまなプライマル更新戦略（ヤコビ、勾配、ガウス＝ザイデル）の性能を比較すること。

提案手法

• 部分問題（2）が不正確に解かれる分散AL手法を分析するための一般的な解析フレームワークを提案する。
• 各部分問題の解法における相対誤差低減の上限を定める不正確さパラメータξに基づく収束条件を導入する。
• ネットワークのスペクトルギャップλ2(L)、ヘッセ行列の境界hminおよびhmax、および不正確さパラメータξの観点から、明示的な線形収束レートを導出する。
• ヤコビ法および勾配法の決定的および確率的バージョンの4つの特定のアルゴリズムにこのフレームワークを適用する。
• プライマル・デュアル更新構造を採用：デュアル変数µiはステップサイズαを用いた勾配上昇法で更新され、プライマル変数xiは正則化された部分問題を解くことで更新される。
• 部分問題（2）を解くために、収束が保証され、ξ条件を満たすNesterov型の高速勾配法を採用する。

実験結果

リサーチクエスチョン

• RQ1 部分問題が不正確に解かれる場合、分散AL手法がグローバルに線形収束するための条件は何か？
• RQ2 分散AL手法の収束レートは、特にスペクトルギャップλ2(L) として特徴づけられるネットワーク構造にどのように依存するか？
• RQ3 部分問題の不正確性（ξ）、ヘッセ行列の境界（hmin, hmax）、および収束レートの間の明示的トレードオフは何か？
• RQ4 ヤコビ、勾配、ガウス＝ザイデルなどの異なるプライマル更新方式は、収束速度およびリソース使用量の観点でどのように比較できるか？
• RQ5 確率的プライマル更新は線形収束を達成できるか？また、決定的バージョンと比較してどうなるか？

主な発見

• 本論文は、4つの分散AL手法（決定的および確率的ヤコビ法、決定的および確率的勾配法）に対してグローバルに線形収束を確立する。
• 収束レートは、ネットワークのスペクトルギャップλ2(L)、ヘッセ行列の境界hminおよびhmax、および不正確さパラメータξの関数として明示的に特徴づけられる。
• 決定的勾配法の場合は、1ノードあたりの通信および勾配評価回数がO(γ log(1/ϵ)/λ2)で、ϵ-精度が達成される。ここでγ = hmax/hminは条件数である。
• このレートは、標準の分散勾配法よりも顕著に高速であり、後者はO(γ log(1/ϵ)/ϵ λ2)のリソースを要する。追加のシステム知識（hmin, λ2）が利用可能な場合、1/ϵの速度向上が達成される。
• シミュレーションにより、通信コストおよび計算時間の両方で線形収束が確認され、理論的τ値はτ = 1よりも速い収束を示すが、1イテレーションあたりのコストは高くなる。
• 確率的勾配法のバージョンは、理論的τ値が非常に大きいため、収束が極めて遅く、理論的保証と実用的効率のトレードオフが顕著に現れている。