[論文レビュー] Exponential Convergence for Distributed Smooth Optimization Under the Restricted Secant Inequality Condition

Xinlei Yi, Shengjun Zhang+3 more|arXiv (Cornell University)|Sep 7, 2019

Distributed Control Multi-Agent Systems参考文献 45被引用数 4

ひとこと要約

本稿は、制限付き接線不等式条件のもとで連続時間分散プライマルデュアル勾配アルゴリズムの指数的収束と、その離散時間オイラー離散化における線形収束を確立している。この条件は強凸性よりも弱い仮定であり、非凸コスト関数や非一意なグローバルミニマライザーを許容する。結果として、凸性や解の一意性を要件としないより広範なクラスの分散滑らか最適化問題へ収束保証を拡張する。

ABSTRACT

This paper considers the distributed smooth optimization problem in which the objective is to minimize a global cost function formed by a sum of local smooth cost functions, by using local information exchange. The standard assumption for proving exponential/linear convergence of first-order methods is the strong convexity of the cost functions, which does not hold for many practical applications. In this paper, we first show that the continuous-time distributed primal-dual gradient algorithm converges to one global minimizer exponentially under the assumption that the global cost function satisfies the restricted secant inequality condition. This condition is weaker than the strong convexity condition since it does not require convexity and the global minimizers are not necessary to be unique. We then show that the discrete-time distributed primal-dual algorithm constructed by using the Euler's approximation method converges to one global minimizer linearly under the same condition. The theoretical results are illustrated by numerical simulations.

研究の動機と目的

• 最小二乗法やロジスティック回帰など、多くの実用的応用で成立しない強凸性に依存する既存の分散最適化アルゴリズムの限界を克服すること。
• 強凸性よりも弱い条件のもとで、非凸および非一意ミニマライザーの状況に適用可能な分散プライマルデュアル勾配アルゴリズムの収束保証を構築すること。
• 同一の緩和された条件を用いて、連続時間では指数的収束、離散時間では線形収束を両方確立すること。
• コスト関数が滑らかだが強凸でない分散環境において、一次の方法が使用可能である理論的根拠を提供すること。

提案手法

• 局所的な情報交換を用いて、局所的滑らか関数の和として構成されるグローバルコスト関数を最小化する連続時間分散プライマルデュアル勾配アルゴリズムを提案する。
• 強凸性の代替として、凸性やグローバルミニマライザーの一意性を要件としない制限付き接線不等式条件を導入する。
• リャプノフ安定性理論を適用して、制限付き接線不等式条件のもとで連続時間アルゴリズムがグローバルミニマライザーに指数的に収束することを証明する。
• オイラーの近似法を用いてアルゴリズムの離散時間版を構築し、同一の条件下で線形収束を保証する。
• ステップサイズ $h$ に対する明示的な制約を導出し、ネットワークラプラシアン、リプシッツ定数、制限付き接線不等式定数などのパラメータを含む。
• 非凸な局所コスト関数が制限付き接線不等式を満たす10エージェントリングネットワークにおける数値シミュレーションにより理論的結果を検証する。

実験結果

リサーチクエスチョン

• RQ1 強凸性よりも弱い条件下で、分散滑らか最適化に対して指数的収束を達成できるか？
• RQ2 制限付き接線不等式条件は、グローバルコスト関数が非凸または複数のグローバルミニマライザーを持つ場合にも収束保証を可能にするか？
• RQ3 連続時間アルゴリズムの離散時間版が、同一の緩和された条件下で線形収束を達成できるか？
• RQ4 離散時間アルゴリズムにおけるステップサイズ制約は、システムパラメータおよび収束速度とどのように関係するか？
• RQ5 分散最適化の文脈において、制限付き接線不等式条件は、メトリック下正則性および強凸性よりも厳密に弱いか？

主な発見

• グローバルコスト関数が制限付き接線不等式条件を満たす限り、連続時間分散プライマルデュアル勾配アルゴリズムは指数的にグローバルミニマライザーに収束する。
• オイラー法による離散時間版の分散プライマルデュアルアルゴリズムは、同一の条件下でグローバルミニマライザーに線形に収束するが、凸性や解集合の一意性は要件としない。
• 制限付き接線不等式条件は強凸性よりも厳密に弱く、グローバルミニマライザーの一意性やコスト関数の凸性を要件としない。
• 離散時間アルゴリズムの線形収束速度は、$1 - rac{h(2 heta_2 heta_4 - h heta_1 heta_3 heta_5)}{4 heta_3 heta_4}$ で下から抑えられ、ステップサイズ $h$ に対する明示的制約が得られる。
• 非凸な局所コスト関数を有する10エージェントリングネットワークにおける数値シミュレーションにより、離散時間アルゴリズムの線形収束が確認された。すべてのプライマル変数がゼロ（グローバルミニマライザー）に収束し、デュアル変数もゼロに収束した。
• シミュレーション結果は理論的収束速度を検証し、非凸かつ非一意ミニマライザーの設定においても、提案手法の有効性を示している。