[論文レビュー] A Dual Approach for Optimal Algorithms in Distributed Optimization over Networks

César A. Uribe, Soomin Lee+2 more|arXiv (Cornell University)|Sep 3, 2018

Distributed Control Multi-Agent Systems被引用数 5

ひとこと要約

本稿では、グラフのスペクトル的性質を活用することで、ネットワーク上での凸問題に対して最適収束レートを達成するデュアルベースの分散最適化フレームワークを提案する。収束レートが中央集権的最適手法と同等（対数的要因または定数的要因の差異を除き）となるアルゴリズムを導入し、相互作用行列を通じてネットワークトポロジーを明示的に取り入れ、ネステロフスムージングを用いてデュアルフレンドリーでない関数に対しても理論的保証を提供する。

ABSTRACT

We study dual-based algorithms for distributed convex optimization problems over networks, where the objective is to minimize a sum $\\sum_{i=1}^{m}f_i(z)$ of functions over in a network. We provide complexity bounds for four different cases, namely: each function $f_i$ is strongly convex and smooth, each function is either strongly convex or smooth, and when it is convex but neither strongly convex nor smooth. Our approach is based on the dual of an appropriately formulated primal problem, which includes a graph that models the communication restrictions. We propose distributed algorithms that achieve the same optimal rates as their centralized counterparts (up to constant and logarithmic factors), with an additional optimal cost related to the spectral properties of the network. Initially, we focus on functions for which we can explicitly minimize its Legendre-Fenchel conjugate, i.e., admissible or dual friendly functions. Then, we study distributed optimization algorithms for non-dual friendly functions, as well as a method to improve the dependency on the parameters of the functions involved. Numerical analysis of the proposed algorithms is also provided.

研究の動機と目的

• ネットワーク上での凸問題に対して最適収束レートを達成する分散最適化アルゴリズムの設計。
• 相互作用行列を通じてネットワークのスペクトル的性質（特に固有値ギャップや条件数）を収束レートの境界に明示的に組み込むこと。
• ネステロフのスムージング技術を用いて、デュアルフレンドリーでない関数に対しても最適レートを拡張すること。
• 強い凸性および滑らかさの有無に応じた4つのケース（強い凸かつ滑らか、強い凸または滑らか、凸だが両方でない）の複雑度境界を提供すること。
• 異なるネットワークトポロジー下での分散アルゴリズムの性能限界の理論的基盤を確立すること。

提案手法

• グラフラプラシアンを用いて協調制約をモデル化したプリマルドゥアル最適化問題として分散問題を定式化する。
• Legendre–Fenchel共役を用いて双対問題を導出し、共役が明示的に最小化可能な関数（デュアルフレンドリー関数）に焦点を当てる。
• ネステロフのスムージングを導入し、双対またはプライマル問題に強い凸性を導入することで、デュアルフレンドリーでない関数に対しても最適レートを達成可能にする。
• 相互作用行列のスペクトル的性質（特に正規化された固有値ギャップと条件数χ(W)）を用いて収束を分析する。
• 中央集権的最適手法と同等の収束レート（対数的または定数的要因の差異を除き）を達成する分散アルゴリズムを提案する。
• 半正定値計画法を用いて最悪ケースの収束レートを証明し、アルゴリズムパラメータを最適化する。

実験結果

リサーチクエスチョン

• RQ1 デュアルベースの分散アルゴリズムは、ネットワーク上での凸問題に対して、中央集権的最適アルゴリズムと同等の収束レートを達成できるか？
• RQ2 収束レートは、特に相互作用行列のスペクトル的性質にどのように依存するか？
• RQ3 関数が凸ではあるが、強い凸性および滑らかさを両方とも満たさない場合の最適複雑度は何か？
• RQ4 スムージング技術を用いて、デュアルフレンドリーでない関数に対しても最適レートを達成できるか？
• RQ5 ネットワークサイズやトポロジー（特に時変または有向ネットワーク）の変化に伴い、性能はどのようにスケーリングするか？

主な発見

• μ-強い凸かつL-滑らかな関数に対して、本手法はO(√(L/μ)(1 + τ/√γ) log ε⁻¹)回の反復でε-最適性に到達し、先行研究の最適レートと一致する。
• デュアルフレンドリーでない関数に対しては、ネステロフのスムージングを用いることで、定数要因の差異を除き最適収束レートを達成する。
• 収束レートはネットワークの正規化固有値ギャップγおよび直径τに依存し、さらに√χ(W)に比例する追加コストが発生する。ここでχ(W)は相互作用行列の条件数である。
• 数値実験の結果、Erdős-Rényiランダムグラフにおいて、EXTRA、DIGing、Acc-DNGDよりも収束速度が優れていることが示された。特に条件数が良好なグラフで顕著な性能向上が観察された。
• ランダムグラフ上でも、ネットワークサイズに比例した最適スケーリングを維持する一方で、EXTRAやDIGingはネットワークサイズの増大に伴い性能が劣化する傾向を示した。
• 本手法はグラフのスペクトル的性質および関数の条件数のグローバルな知識を必要とし、適応機構がなければ実用的展開に制限が生じる可能性がある。