[论文解读] Exponential Convergence for Distributed Smooth Optimization Under the Restricted Secant Inequality Condition

Xinlei Yi, Shengjun Zhang+3 more|arXiv (Cornell University)|Sep 7, 2019

Distributed Control Multi-Agent Systems参考文献 45被引用 4

一句话总结

本文在受限割线不等式条件下，建立了连续时间分布式原始-对偶梯度算法的指数收敛性，以及其离散时间欧拉离散化形式的线性收敛性——该条件弱于强凸性，允许非凸代价函数和非唯一全局最小值点。结果将收敛性保证扩展至更广泛的分布式光滑优化问题，无需强凸性或解的唯一性假设。

ABSTRACT

This paper considers the distributed smooth optimization problem in which the objective is to minimize a global cost function formed by a sum of local smooth cost functions, by using local information exchange. The standard assumption for proving exponential/linear convergence of first-order methods is the strong convexity of the cost functions, which does not hold for many practical applications. In this paper, we first show that the continuous-time distributed primal-dual gradient algorithm converges to one global minimizer exponentially under the assumption that the global cost function satisfies the restricted secant inequality condition. This condition is weaker than the strong convexity condition since it does not require convexity and the global minimizers are not necessary to be unique. We then show that the discrete-time distributed primal-dual algorithm constructed by using the Euler's approximation method converges to one global minimizer linearly under the same condition. The theoretical results are illustrated by numerical simulations.

研究动机与目标

• 为解决现有分布式优化算法依赖强凸性所带来的局限性，该假设在许多实际应用（如最小二乘和逻辑回归）中并不成立。
• 在弱于强凸性的条件下，为分布式原始-对偶梯度算法建立收敛性保证，使其适用于非凸及存在多个全局最小值点的情形。
• 在相同宽松条件下，同时建立连续时间下的指数收敛与离散时间下的线性收敛。
• 为在非强凸但光滑的分布式设置中使用一阶方法提供理论依据。

提出的方法

• 提出一种连续时间分布式原始-对偶梯度算法，通过局部信息交换最小化由局部光滑函数构成的全局代价函数。
• 引入受限割线不等式条件作为强凸性的更弱替代，该条件不要求代价函数凸性或全局最小值点的唯一性。
• 应用李雅普诺夫稳定性理论，证明在受限割线不等式条件下，连续时间算法可指数收敛至全局最小值点。
• 通过欧拉逼近法构造算法的离散时间版本，确保在相同条件下实现线性收敛。
• 推导离散时间情形下线性收敛的显式步长约束，涉及网络拉普拉斯矩阵、Lipschitz常数及受限割线不等式常数等参数。
• 通过在10个代理组成的环形网络上进行数值仿真，验证理论结果，其局部代价函数为非凸但满足受限割线不等式。

实验结果

研究问题

• RQ1 在弱于强凸性的条件下，是否可实现分布式光滑优化的指数收敛？
• RQ2 受限割线不等式条件是否允许在全局代价函数非凸或存在多个全局最小值点时，仍保证收敛性？
• RQ3 连续时间分布式原始-对偶算法的离散时间版本是否可在相同宽松条件下实现线性收敛？
• RQ4 离散时间算法中的步长约束如何与系统参数及收敛速率相关联？
• RQ5 在分布式优化背景下，受限割线不等式条件是否严格弱于度量次正则性与强凸性？

主要发现

• 当全局代价函数满足受限割线不等式条件时，连续时间分布式原始-对偶梯度算法可指数收敛至全局最小值点。
• 通过欧拉方法获得的离散时间分布式原始-对偶算法，在相同条件下可线性收敛至全局最小值点，且无需代价函数凸性或解集唯一性假设。
• 受限割线不等式条件严格弱于强凸性，且不要求全局最小值点唯一或代价函数凸性。
• 离散时间算法的线性收敛速率下界为 $1 - rac{h(2 heta_2 heta_4 - h heta_1 heta_3 heta_5)}{4 heta_3 heta_4}$，并给出了步长 $h$ 的显式约束。
• 在10个代理组成的环形网络上，对满足受限割线不等式的非凸局部代价函数进行的数值仿真，证实了离散时间算法的线性收敛性：所有原始变量收敛至零（即全局最小值点），对偶变量亦收敛至零。
• 仿真结果验证了理论收敛速率，并展示了所提方法在非凸、非唯一最小值点设定下的有效性。