[論文レビュー] Distributed coordination for nonsmooth convex optimization via saddle-point dynamics

Simon K. Niederländer, Jorge Cortés|arXiv (Cornell University)|Jun 29, 2016

Distributed Control Multi-Agent Systems参考文献 29被引用数 18

ひとこと要約

本稿では、多エージェントネットワークにおける非滑らか凸最適化問題を解くための分散型で不連続な鞍点ダイナミクスアルゴリズムを提案する。新規のグローバル・リャプノフ関数を活用することで、等式制約付き問題に対して漸近的かつ指数的収束性を確立し、各エージェントがグローバル推定値を維持することなく、局所的な相互作用のみで自身の解成分を計算可能となる。

ABSTRACT

This paper considers continuous-time coordination algorithms for networks of agents that seek to collectively solve a general class of nonsmooth convex optimization problems with an inherent distributed structure. Our algorithm design builds on the characterization of the solutions of the nonsmooth convex program as saddle points of an augmented Lagrangian. We show that the associated saddle-point dynamics are asymptotically correct but, in general, not distributed because of the presence of a global penalty parameter. This motivates the design of a discontinuous saddle-point-like algorithm that enjoys the same convergence properties and is fully amenable to distributed implementation. Our convergence proofs rely on the identification of a novel global Lyapunov function for saddle-point dynamics. This novelty also allows us to identify mild convexity and regularity conditions on the objective function that guarantee the exponential convergence rate of the proposed algorithms for convex optimization problems subject to equality constraints. Various examples illustrate our discussion.

研究の動機と目的

• 非滑らか凸最適化問題の分散的かつスケーラブルな解法を、局所的結合制約を伴う多エージェントネットワークで実現すること。
• 標準的な鞍点ダイナミクスがグローバルなペナルティパラメータに依存するという制限を克服し、完全に分散型となること。
• 収束特性を保ちつつ、局所的エージェント連携を可能にする不連続で完全に分散型のアルゴリズムを設計すること。
• 目的関数の弱い凸性および正則性条件のもとで収束速度（特に指数的収束）を確立すること。
• 動的または不確実なネットワーク系におけるロバストでリアルタイム実装が可能な理論的基盤を提供すること。

提案手法

• 非滑らか凸最適化問題を拡張ラグランジアン関数の鞍点問題に再定式化する。
• 新しく同定されたグローバル・リャプノフ関数を用いて連続時間の鞍点ダイナミクスを分析し、漸近的収束を証明する。
• グローバルなペナルティパラメータを不要とする不連続な鞍点ダイナミクスの変種を導入し、完全な分散性を実現する。
• 目的関数および制約関数の非滑らか性を扱うために、射影的および集合値ダイナミカルシステム理論を活用する。
• 安定性理論およびリャプノフ解析のツールを用いて収束速度を特徴づけ、特に強い凸性およびリプシッツ勾配条件の下での性能を分析する。
• 三重対角行列を伴う結合行列および区分的二次的目的関数を含む数値例を用いて、手法の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 グローバルなペナルティパラメータに依存せずに、非滑らか凸最適化における分散実装を達成できるように鞍点ダイナミクスを適応可能にすることができるか？
• RQ2 非滑らか設定における鞍点ダイナミクスの収束解析を可能にするリャプノフ関数の構造は何か？
• RQ3 提案された不連続アルゴリズムが最適解への指数的収束を達成する条件は何か？
• RQ4 通信負荷を考慮した場合、本手法はコセンサスベースの手法と比較してスケーラビリティや効率性に優れているか？
• RQ5 弱い正則性および凸性仮定のもとで、アルゴリズムの性能保証（特に収束速度）は何か？

主な発見

• 提案された不連続な鞍点ダイナミクスは、非滑らか凸最適化問題の最適解集合への漸近的収束を達成する。
• 非滑らか設定における鞍点ダイナミクスの厳密な安定性および収束解析を可能にする新規のグローバル・リャプノフ関数が同定された。
• 集約目的関数が強く凸である問題に対して、アルゴリズムは指数的収束を示し、リャプノフ関数解析から明示的な性能バウンディングが導出された。
• 不連続アルゴリズムは完全に分散型である。グローバルなペナルティパラメータが不要であるため、各エージェントは局所的情報および隣接エージェントとの相互作用のみに依存できる。
• リプシッツ勾配および一般化ヘッシアンの正定値性といった弱い条件下でも、収束速度が定量的に特徴づけられた。
• 数値結果により、三重対角結合および区分的二次的コスト関数を伴う例において指数的収束が確認され、理論的性能バウンディングの妥当性が検証された。