[论文解读] Distributed Nonconvex Constrained Optimization over Time-Varying Digraphs

Gesualdo Scutari, Ying Sun|arXiv (Cornell University)|Sep 4, 2018

Distributed Control Multi-Agent Systems被引用 4

一句话总结

该论文提出了一种在时变有向网络上进行非凸约束优化的分布式算法，结合连续凸逼近与扰动推送求和一致性机制以追踪梯度。该方法在固定步长下实现次线性收敛，在递减步长下实现渐近收敛至驻点，解决了非凸、非光滑及约束问题，且无需对梯度有界性做假设。

ABSTRACT

This paper considers nonconvex distributed constrained optimization over networks, modeled as directed (possibly time-varying) graphs. We introduce the first algorithmic framework for the minimization of the sum of a smooth nonconvex (nonseparable) function--the agent's sum-utility--plus a Difference-of-Convex (DC) function (with nonsmooth convex part). This general formulation arises in many applications, from statistical machine learning to engineering. The proposed distributed method combines successive convex approximation techniques with a judiciously designed perturbed push-sum consensus mechanism that aims to track locally the gradient of the (smooth part of the) sum-utility. Sublinear convergence rate is proved when a fixed step-size (possibly different among the agents) is employed whereas asymptotic convergence to stationary solutions is proved using a diminishing step-size. Numerical results show that our algorithms compare favorably with current schemes on both convex and nonconvex problems.

研究动机与目标

• 提出首个针对时变有向图上的非凸约束优化的分布式算法。
• 处理包含光滑非凸和-效用与差-凸（DC）正则化项（含非光滑凸部分）的一般问题结构。
• 在不假设约束集上梯度有界性的条件下实现收敛，该假设在以往工作中是常见限制。
• 支持固定步长与递减步长，确保在实际实现约束下的收敛性。
• 为固定步长下的次线性收敛与递减步长下的渐近收敛至驻点提供理论保证。

提出的方法

• 该算法采用连续凸逼近（SCA）方法，通过迭代用凸代理函数逼近非凸部分，以处理目标函数的非凸性。
• 设计了一种扰动推送求和一致性机制，以在各智能体间分布式地追踪和-效用中光滑部分的梯度。
• 该方法在时变有向图（有向图）上运行，支持非对称且动态变化的通信链路。
• 算法集成了基于一致性机制的梯度追踪方法，可适应网络拓扑变化，并在时变连通性下保持收敛性。
• 提出一种新颖的李雅普诺夫型函数，用于分析非凸、非光滑及约束问题的收敛性。
• 该框架支持固定步长与递减步长，理论收敛性分析分别针对两种情形进行定制。

实验结果

研究问题

• RQ1 能否在时变有向图上实现分布式算法对非凸、约束优化问题的驻点收敛？
• RQ2 在具有非凸目标与非光滑正则化项的分布式设置中，如何有效实现梯度追踪？
• RQ3 当目标函数的（次）梯度无一致有界时，可建立何种收敛保证？
• RQ4 在固定步长下，能否在分布式非凸设置中实现次线性收敛？
• RQ5 与现有方案相比，该方法在凸与非凸问题上的收敛速度与性能表现如何？

主要发现

• 在使用固定步长时，所提算法即使在各智能体间步长不同时，仍能实现次线性收敛速率。
• 在使用递减步长时，证明了算法可渐近收敛至驻点解，确保在弱假设下的全局收敛性。
• 该方法无需对约束集上的梯度做有界性假设，放宽了以往分布式非凸优化研究中的常见限制。
• 数值结果表明，该算法在收敛速度与解质量方面均优于现有方案，适用于凸与非凸问题。
• 理论分析依赖于一种专为非凸、非光滑及约束问题设计的新型李雅普诺夫型函数，使在一般条件下实现收敛性证明成为可能。
• 扰动推送求和机制在时变有向图上以分布式且鲁棒的方式成功追踪了和-效用中光滑部分的梯度。