[論文レビュー] Distributed Nonconvex Constrained Optimization over Time-Varying Digraphs

Gesualdo Scutari, Ying Sun|arXiv (Cornell University)|Sep 4, 2018

Distributed Control Multi-Agent Systems被引用数 4

ひとこと要約

本稿では、時間変動する有向ネットワーク上で非凸な制約付き最適化を実行する分散アルゴリズムを提案する。非凸性を扱うために逐次凸近似（Successive Convex Approximation）を用い、勾配の追跡には摂動付きプッシュ和コンSENSUSを組み合わせる。固定ステップサイズを用いる場合に部分線形収束を確立し、減少ステップサイズを用いる場合に逐次的収束を示す。勾配の有界性を仮定しない非凸・非滑らか・制約付き問題に対しても有効である。

ABSTRACT

This paper considers nonconvex distributed constrained optimization over networks, modeled as directed (possibly time-varying) graphs. We introduce the first algorithmic framework for the minimization of the sum of a smooth nonconvex (nonseparable) function--the agent's sum-utility--plus a Difference-of-Convex (DC) function (with nonsmooth convex part). This general formulation arises in many applications, from statistical machine learning to engineering. The proposed distributed method combines successive convex approximation techniques with a judiciously designed perturbed push-sum consensus mechanism that aims to track locally the gradient of the (smooth part of the) sum-utility. Sublinear convergence rate is proved when a fixed step-size (possibly different among the agents) is employed whereas asymptotic convergence to stationary solutions is proved using a diminishing step-size. Numerical results show that our algorithms compare favorably with current schemes on both convex and nonconvex problems.

研究の動機と目的

• 時間変動する有向グラフ上での非凸制約付き最適化のための最初の分散アルゴリズムを開発すること。
• 滑らかで非凸な和利得関数と、凸関数の差（DC）として表現される非滑らか凸項を含む一般な問題構造を扱うこと。
• 制約集合上での勾配の有界性を仮定しないで収束を実現すること。これは先行研究における一般的な制限要因を緩和する。
• 固定ステップサイズと減少ステップサイズの両方をサポートし、実装上の制約を満たす収束を保証すること。
• 固定ステップサイズを用いた部分線形収束と、減少ステップサイズを用いた局所最適解への漸近的収束に関する理論的保証を提供すること。

提案手法

• 非凸性を扱うために、逐次凸近似（Successive Convex Approximation, SCA）を用い、反復的に非凸部分を凸な代替関数で近似する。
• 滑らかな和利得関数の勾配を、エージェント間で分散的に追跡するための摂動付きプッシュ和コンセンサス機構を設計する。
• 時間変動する有向グラフ（digraph）上で動作させ、非対称かつ動的に変化する通信リンクを許容する。
• ネットワークトポロジーの変化を考慮したコンセンサスベースの勾配追跡機構を統合し、時間変動する接続性に対しても収束を維持する。
• 非凸・非滑らか・制約付き問題に対する収束解析のための、新規のリャプノフ型関数を導入する。
• 固定ステップサイズと減少ステップサイズの両方をサポートし、それぞれの状況に合わせた理論的収束解析を実施する。

実験結果

リサーチクエスチョン

• RQ1 時間変動する有向グラフ上での非凸・制約付き最適化問題に対して、分散アルゴリズムが局所最適解への収束を達成できるか。
• RQ2 非凸目的関数と非滑らか正則化項を伴う分散環境において、勾配追跡を効果的に実装する方法は何か。
• RQ3 （部分）勾配が一様に有界でない場合に、どのような収束保証を確立できるか。
• RQ4 固定ステップサイズを用いた分散非凸設定でも、部分線形収束を達成できるか。
• RQ5 収束速度および凸・非凸問題両方における性能面で、既存手法と比較して本手法はどのように差をつけるか。

主な発見

• 異なるエージェントで異なるステップサイズを用いても、固定ステップサイズを用いる場合に部分線形収束率を達成することが示された。
• 減少ステップサイズを用いる場合に、局所最適解への漸近的収束が証明され、弱い仮定のもとでグローバル収束が保証される。
• 制約集合上での勾配の有界性を仮定しないため、先行研究における一般的な仮定を緩和した。
• 数値実験では、凸問題および非凸問題の両方において、既存手法を上回る収束速度と解の品質を示した。
• 理論的解析には、非凸・非滑らか・制約付き問題に特化した新規のリャプノフ型関数を用い、一般条件のもとでの収束証明を可能にした。
• 摂動付きプッシュ和機構は、時間変動する有向グラフ上でも、滑らかな和利得関数の勾配を分散的かつロバストに追跡できた。