[论文解读] NEXT: In-Network Nonconvex Optimization

Paolo Di Lorenzo, Gesualdo Scutari|arXiv (Cornell University)|Feb 1, 2016

Distributed Control Multi-Agent Systems参考文献 49被引用 4

一句话总结

本文提出 NEXT，一种新颖的网络内算法，用于在时变有向网络上进行分布式非凸优化。它采用逐次凸逼近与动态一致性方法，使各 agent 能够协作最小化光滑非凸函数之和与一个凸正则项，且在温和假设下可收敛至驻点。

ABSTRACT

We study nonconvex distributed optimization in multi-agent networks with time-varying (nonsymmetric) connectivity. We introduce the first algorithmic framework for the distributed minimization of the sum of a smooth (possibly nonconvex and nonseparable) function - the agents' sum-utility - plus a convex (possibly nonsmooth and nonseparable) regularizer. The latter is usually employed to enforce some structure in the solution, typically sparsity. The proposed method hinges on successive convex approximation techniques while leveraging dynamic consensus as a mechanism to distribute the computation among the agents: each agent first solves (possibly inexactly) a local convex approximation of the nonconvex original problem, and then performs local averaging operations. Asymptotic convergence to (stationary) solutions of the nonconvex problem is established. Our algorithmic framework is then customized to a variety of convex and nonconvex problems in several fields, including signal processing, communications, networking, and machine learning. Numerical results show that the new method compares favorably to existing distributed algorithms on both convex and nonconvex problems.

研究动机与目标

• 解决多 agent 网络中缺乏适用于时变、可能非对称连通性的分布式非凸优化算法的问题。
• 实现在仅知本地函数、全局正则项且邻居通信间歇性的情况下，实现去中心化计算。
• 为在分布式环境下最小化光滑（可能非凸）函数之和加上凸正则项，开发一种可证明收敛的方法。
• 克服先前方法的局限性，如需要集中协调、全局函数的完整知识或特定网络拓扑。
• 在具有动态通信图的分布式网络中，为一般非凸问题建立收敛至驻点的理论保证。

提出的方法

• 将分布式非凸优化问题表述为在闭凸集上最小化本地光滑非凸函数之和加上全局凸正则项。
• 应用逐次凸逼近（SCA）在每个 agent 上对非凸目标进行局部凸近似，形成凸子问题。
• 使用动态一致性实现计算分发：各 agent 执行本地 SCA 步骤，随后与邻居交换并平均估计值。
• 引入递减步长规则，以确保收敛性，同时允许子问题的非精确解。
• 利用正则项的凸性与梯度的利普希茨连续性，界定次优性并确保收敛性。
• 结合局部下降步与平均操作，保持全网一致性，并推动迭代序列收敛至驻点。

实验结果

研究问题

• RQ1 能否设计一种无需集中融合中心的分布式算法，用于时变有向网络中的非凸优化？
• RQ2 在对网络和目标函数的通用假设下，所提方法是否能收敛至非凸问题的驻点解？
• RQ3 与现有分布式凸与非凸方法相比，该算法在收敛性与可扩展性方面表现如何？
• RQ4 该算法能否在保持收敛性保证的前提下处理非可分与非光滑正则项？
• RQ5 在完全去中心化设置下，该算法收敛至驻点的理论条件是什么？

主要发现

• 在标准假设下，包括时变有向图和 agent 仅知本地信息，该算法可实现对非凸问题驻点的渐近收敛。
• 即使子问题以非精确方式求解，只要误差有界且随时间减小，收敛性仍可保证。
• 该方法确保 agent 估计值的平均值收敛至一个点，使得局部近似与全局迭代一致。
• 目标函数值序列收敛至有限极限，且 agent 局部估计值与平均迭代值之间的距离在极限下趋于零。
• 该算法适用于信号处理、通信、网络和机器学习等广泛问题，包括 LASSO、逻辑回归和矩阵补全。
• 数值结果表明，NEXT 在收敛速度与解质量方面均优于现有分布式算法，适用于凸与非凸问题。