[論文レビュー] NEXT: In-Network Nonconvex Optimization

Paolo Di Lorenzo, Gesualdo Scutari|arXiv (Cornell University)|Feb 1, 2016

Distributed Control Multi-Agent Systems参考文献 49被引用数 4

ひとこと要約

本稿では、時間変動する有向ネットワーク上で分散非凸最適化を実行するための新しいインネットワークアルゴリズムNEXTを提案する。逐次凸近似と動的コアリションを用いることで、エージェントが局所関数の和と凸正則化項を共同で最小化でき、緩い仮定のもとで定常点への収束を達成する。

ABSTRACT

We study nonconvex distributed optimization in multi-agent networks with time-varying (nonsymmetric) connectivity. We introduce the first algorithmic framework for the distributed minimization of the sum of a smooth (possibly nonconvex and nonseparable) function - the agents' sum-utility - plus a convex (possibly nonsmooth and nonseparable) regularizer. The latter is usually employed to enforce some structure in the solution, typically sparsity. The proposed method hinges on successive convex approximation techniques while leveraging dynamic consensus as a mechanism to distribute the computation among the agents: each agent first solves (possibly inexactly) a local convex approximation of the nonconvex original problem, and then performs local averaging operations. Asymptotic convergence to (stationary) solutions of the nonconvex problem is established. Our algorithmic framework is then customized to a variety of convex and nonconvex problems in several fields, including signal processing, communications, networking, and machine learning. Numerical results show that the new method compares favorably to existing distributed algorithms on both convex and nonconvex problems.

研究の動機と目的

• 時間変動し、非対称な接続性を示すマルチエージェントネットワークにおける非凸最適化のための分散アルゴリズムが不足しているという問題に対処する。
• エージェントが自身の局所関数とグローバル正則化項しか知らない状況で、間欠的な隣接エージェント間通信のもとで分散計算を可能にする。
• 局所関数の和（滑らかで、非凸である可能性がある）に凸正則化項を加えたものを分散環境で最小化する、理論的に収束保証のある手法を開発する。
• 中央集権的な調整、グローバル関数の完全な知識、特定のネットワークトポロジーを必要とする従来手法の制限を克服する。
• 動的通信グラフを持つ分散ネットワークにおける一般非凸問題に対して、定常解への収束を確立する。

提案手法

• 局所的滑らかな非凸関数の和に加え、閉凸集合上でのグローバル凸正則化項を最小化する分散非凸最適化問題を定式化する。
• 逐次凸近似（SCA）を用い、各エージェントで非凸目的関数を局所的に凸部分問題に近似する。
• 動的コアリションを用いて計算を分散化：エージェントは局所的なSCAステップを実行し、その後で近似値を隣接エージェントと交換・平均化する。
• 収束を保証しつつ、部分問題の解が不正確であっても許容できるように、減少するステップサイズルールを導入する。
• 正則化項の凸性と勾配のリプシッツ連続性を活用し、部分最適性の上限を評価し、収束を保証する。
• 局所的勾配降下ステップと平均化操作を組み合わせることで、ネットワーク全体の整合性を維持し、反復点を定常点に近づける。

実験結果

リサーチクエスチョン

• RQ1 中央集権的な統合センターを必要とせず、時間変動する有向ネットワーク上での非凸最適化に適した分散アルゴリズムを設計できるか？
• RQ2 ネットワークおよび目的関数に関する一般仮定のもとで、提案手法が非凸問題の定常解に収束するか？
• RQ3 収束性とスケーラビリティの観点から、既存の分散凸および非凸手法と比較して、本手法はどのように性能を発揮するか？
• RQ4 非分割的かつ非滑らかな正則化項を扱えるか、かつ収束保証を維持できるか？
• RQ5 完全に分散化された環境下で、アルゴリズムが定常点に収束する理論的条件は何か？

主な発見

• 標準的な仮定（時間変動する有向グラフ、エージェントの局所的知識）のもとで、アルゴリズムは非凸問題の定常解への漸近的収束を達成する。
• 部分問題の解が不正確であっても、誤差が有界かつ時間とともに減少する限り、収束が保証される。
• エージェントの推定値の平均が、グローバル反復点と一貫するような点に収束することを保証する。
• 目的関数値の列は有限な極限に収束し、エージェントの局所的推定値と平均反復点との距離は、極限でゼロに近づく。
• 信号処理、通信、ネットワーキング、機械学習の多様な問題に適用可能であり、LASSO、ロジスティック回帰、行列補完問題などが含まれる。
• 数値実験の結果、収束速度および解の品質の観点で、既存の分散アルゴリズムを上回ることを示している。