[論文レビュー] Asynchronous Decentralized Successive Convex Approximation

Ye Tian, Ying Sun+1 more|arXiv (Cornell University)|Sep 23, 2019

Distributed Control Multi-Agent Systems参考文献 51被引用数 8

ひとこと要約

本稿では、非凸および凸な合成最適化のための、非同期で分散型のアルゴリズムであるASY-DSCAを提案する。これは、逐次凸近似と頑健な摂動付きプッシュ和を用いて非同期性と古くなった情報に対処する。非凸問題では部分線形収束を達成し、Luo-Tseng誤差バインディング条件のもとではR線形収束を達成する。この条件は強凸性よりも弱い要件である。

ABSTRACT

We study decentralized asynchronous multiagent optimization over networks, modeled as static (possibly directed) graphs. The optimization problem consists of minimizing a (possibly nonconvex) smooth function--the sum of the agents' local costs--plus a convex (possibly nonsmooth) regularizer, subject to convex constraints. Agents can perform their local computations as well as communicate with their immediate neighbors at any time, without any form of coordination or centralized scheduling; furthermore, when solving their local subproblems, they can use outdated information from their neighbors. We propose the first distributed asynchronous algorithm, termed ASY-DSCA, that converges at an R-linear rate to the optimal solution of convex problems whose objective function satisfies a general error bound condition; this condition is weaker than the more frequently used strong convexity, and it is satisfied by several empirical risk functions that are not strongly convex; examples include LASSO and logistic regression problems. When the objective function is nonconvex, ASY-DSCA converges to a stationary solution of the problem at a sublinear rate.

研究の動機と目的

• 中央集権的な調整なしに、分散ネットワークにおけるマルチエージェント最適化の収束性が保証された分散アルゴリズムの開発。
• 滑らかでない正則化子と凸制約を伴う非凸および凸な合成問題の処理。
• 任意だが有界な遅延を伴う古くなった隣接エージェント情報を利用して、エージェントが非同期に更新可能であること。
• Luo-Tseng誤差バインディング条件を満たす凸問題に対して線形収束を達成すること。これは強凸性よりも弱い条件である。
• 従来の同期的かつ調整された手法を、完全に非同期で分散可能な設定に一般化すること。

提案手法

• 局所的な部分問題を解くために、逐次凸近似（SCA）に基づく分散非同期アルゴリズムであるASY-DSCAを提案。
• エージェントの勾配の平均を非同期に追跡するために、摂動付きプッシュ和プロトコルを採用し、非同期性と遅延に対して頑健性を確保。
• 非凸目的関数の近似にサロゲート関数を用い、ソフトしきい値処理や射影などの閉形式更新を可能にする。
• 情報遅延およびエージェントの活性化に関するきわめて穏当な仮定に依存し、調整やグローバルな同期を必要としない。
• 一般なネットワークトポロジー（有向グラフ）において収束を証明するために、リャプノフ関数の解析を統合。
• 凸問題におけるR線形収束を確立するために、Luo-Tseng誤差バインディング条件を適用。

実験結果

リサーチクエスチョン

• RQ1 中央集権的調整なしに、古くなった情報と非同期性を伴う完全に非同期な設定でも収束を達成できる分散アルゴリズムは存在するか？
• RQ2 提案されたアルゴリズムは、非同期性と有界な遅延のもとでも非凸問題に対して収束を維持できるか？
• RQ3 強凸性を満たさないがLuo-Tseng誤差バインディング条件を満たす凸問題において、線形収束を達成できるか？
• RQ4 滑らかでない正則化子と凸制約を伴う合成目的関数を、分散ネットワークでどのように処理できるか？
• RQ5 非凸問題と凸問題の異なる問題クラスにおいて、アルゴリズムの収束速度はどのようになるか？

主な発見

• ASY-DSCAは、与えられた非同期条件のもとで非凸問題に対して部分線形収束率を達成する。
• Luo-Tseng誤差バインディング条件を満たす凸問題では、ASY-DSCAはR線形収束率を達成する。これは部分線形収束よりも速い。
• Luo-Tseng条件は強凸性よりも弱く、LASSO やロジスティック回帰といった重要な機械学習問題で満たされる。
• 本アルゴリズムは、このような非強凸問題に対して、分散非同期設定でR線形収束を保証する最初のアルゴリズムである。
• 収束は任意だが有界な遅延のもとで確立され、エージェント間の調整やマスターノードの存在を必要としない。
• 収束速度はリプシッツ定数、ネットワーク構造、遅延境界といった問題パラメータに依存し、分析で明示的な境界が導出されている。