[论文解读] Distributed coordination for nonsmooth convex optimization via saddle-point dynamics

Simon K. Niederländer, Jorge Cortés|arXiv (Cornell University)|Jun 29, 2016

Distributed Control Multi-Agent Systems参考文献 29被引用 18

一句话总结

本文提出了一种用于在多智能体网络中求解非光滑凸优化问题的分布式、不连续的鞍点动态算法。通过利用一种新型全局李雅普诺夫函数，该方法为等式约束问题建立了渐近收敛和指数收敛性，使得每个智能体能够通过本地交互计算其自身的解分量，而无需维护全局估计。

ABSTRACT

This paper considers continuous-time coordination algorithms for networks of agents that seek to collectively solve a general class of nonsmooth convex optimization problems with an inherent distributed structure. Our algorithm design builds on the characterization of the solutions of the nonsmooth convex program as saddle points of an augmented Lagrangian. We show that the associated saddle-point dynamics are asymptotically correct but, in general, not distributed because of the presence of a global penalty parameter. This motivates the design of a discontinuous saddle-point-like algorithm that enjoys the same convergence properties and is fully amenable to distributed implementation. Our convergence proofs rely on the identification of a novel global Lyapunov function for saddle-point dynamics. This novelty also allows us to identify mild convexity and regularity conditions on the objective function that guarantee the exponential convergence rate of the proposed algorithms for convex optimization problems subject to equality constraints. Various examples illustrate our discussion.

研究动机与目标

• 解决多智能体网络中具有局部耦合约束的分布式、可扩展非光滑凸优化问题的挑战。
• 克服标准鞍点动态方法依赖全局惩罚参数且无法完全分布化的局限性。
• 设计一种不连续的、完全分布式的算法，在保持收敛特性的同时实现智能体间的本地协调。
• 在目标函数满足较弱凸性和正则性条件下，建立收敛速率，特别是指数收敛速率。
• 为动态或不确定网络化系统中的鲁棒、实时实现提供理论基础。

提出的方法

• 将非光滑凸优化问题重新表述为增广拉格朗日函数的鞍点问题。
• 利用新识别的全局李雅普诺夫函数分析连续时间鞍点动态，证明渐近收敛性。
• 提出一种不连续的鞍点动态变体，消除了对全局惩罚参数的需求，从而实现完全可分布化。
• 利用投影和集值动力系统理论处理目标函数和约束函数中的非光滑性。
• 应用稳定性理论和李雅普诺夫分析工具，表征收敛速率，特别是在强凸性和利普希茨连续梯度条件下的表现。
• 通过理论分析和数值示例（包括三对角耦合矩阵和分段二次目标函数）验证该方法。

实验结果

研究问题

• RQ1 鞍点动态能否被调整以在非光滑凸优化中实现无需依赖全局惩罚参数的分布式实现？
• RQ2 何种李雅普诺夫函数结构能够支持非光滑设置下鞍点动态的收敛性分析？
• RQ3 在何种条件下，所提出的不连续算法能实现对最优解的指数收敛？
• RQ4 与基于一致性的方法相比，该方法在可扩展性和通信开销方面有何差异？
• RQ5 在较弱的正则性和凸性假设下，该算法的性能保证（特别是收敛速率）如何？

主要发现

• 所提出的不连续鞍点动态能够渐近收敛至非光滑凸优化问题最优解集。
• 识别出一种新型全局李雅普诺夫函数，使非光滑设置下鞍点动态的稳定性与收敛性分析得以严格进行。
• 对于具有强凸聚合目标函数的问题，该算法表现出指数收敛，且其性能边界可通过李雅普诺夫函数分析明确导出。
• 不连续算法是完全分布式的，因为它消除了对全局惩罚参数的需求，使每个智能体仅依赖本地信息和邻居交互。
• 在较弱条件下（包括梯度的利普希茨连续性和广义海塞矩阵的正定性）下，收敛速率可被定量表征。
• 数值结果证实，在三对角耦合和分段二次代价函数的示例中实现了指数收敛，验证了理论性能边界。