[论文解读] Distributed Nonconvex Optimization: Gradient-free Iterations and Globally Optimal Solution

Zhiyu He, Jianping He+2 more|arXiv (Cornell University)|Aug 1, 2020

Distributed Control Multi-Agent Systems参考文献 66被引用 5

一句话总结

本文提出CPCA，一种用于带约束非凸优化的无梯度分布式算法，适用于单变量目标函数。通过结合切比雪夫多项式逼近、平均一致性算法与多项式优化，CPCA在实现几何收敛、零阶查询次数最少及通信高效的前提下，达到$\varepsilon$-全局最优解，支持在精度满足时自动终止分布式计算。

ABSTRACT

Distributed optimization is concerned with using local computation and communication to realize a global aim of optimizing the sum of local objective functions. It has gained wide attention for a variety of applications in networked systems. This paper addresses a class of constrained distributed nonconvex optimization problems involving univariate objective functions, aiming to achieve global optimization without requiring local evaluations of gradients at every iteration. We propose a novel algorithm named CPCA, exploiting the notion of combining Chebyshev polynomial approximation, average consensus and polynomial optimization. The proposed algorithm is i) able to obtain $\epsilon$ globally optimal solutions for any arbitrarily small given accuracy $\epsilon$, ii) efficient in terms of both zeroth-order queries (i.e., evaluations of function values) and inter-agent communication, and iii) distributed terminable when the specified precision requirement is met. The key insight is to use polynomial approximations to substitute for general objective functions, and turn to solve an easier approximate version of the original problem. Due to the nice analytic properties owned by polynomials, this approximation not only facilitates efficient global optimization, but also allows the design of gradient-free iterations to reduce cumulative costs of queries and achieve geometric convergence when nonconvex problems are solved. We provide comprehensive analysis of the accuracy and complexities of the proposed algorithm.

研究动机与目标

• 解决在每次迭代中无需计算梯度的情况下，实现分布式非凸优化全局最优解的挑战。
• 克服传统基于梯度的方法在具有单变量本地目标函数的网络化系统中计算与通信成本过高的问题。
• 设计一种分布式算法，当用户指定的精度$\varepsilon$满足时能够自动终止。
• 通过非凸目标函数的多项式逼近实现高效全局优化，利用多项式函数的解析性质。
• 通过最小化零阶预言机的使用，确保可扩展性与低累积查询成本，同时保持几何收敛速率。

提出的方法

• 使用切比雪夫多项式对每个本地非凸目标函数进行逼近，将原始非凸问题转化为可处理的多项式优化子问题。
• 利用平均一致性算法在各智能体之间协作计算全局多项式系数，实现在无中心控制下的分布式协调。
• 将全局优化问题表述为多项式优化任务，利用多项式函数的凸性与解析结构实现高效求解。
• 基于函数值查询（零阶信息）设计无梯度的迭代更新，相比基于梯度的方法显著降低累积查询成本。
• 通过监控收敛至指定$\varepsilon$-精度，将终止检测机制集成到算法中，实现分布式停止。
• 利用切比雪夫多项式逼近的误差界控制原始问题与近似问题之间的差距，确保在$\varepsilon$范围内的全局最优性。

实验结果

研究问题

• RQ1 能否设计一种分布式非凸优化算法，在每次迭代中无需梯度计算即可实现全局最优？
• RQ2 如何将多项式逼近技术与一致性协议结合，实现在分布式系统中高效、无梯度的全局优化？
• RQ3 在分布式非凸优化中，逼近精度与计算/通信效率之间的权衡关系如何？
• RQ4 通过多项式重构，能否在无梯度分布式算法中实现非凸问题的几何收敛？
• RQ5 当达到期望精度$\varepsilon$时，如何在无需全局协调的情况下实现分布式终止？

主要发现

• 所提出的CPCA算法可对任意小的$\varepsilon > 0$实现$\varepsilon$-全局最优解，确保理论上的全局最优性。
• 该算法在求解非凸问题时表现出几何收敛速率，显著优于零阶方法中常见的次线性收敛速率。
• CPCA通过仅依赖函数值评估来最小化零阶查询次数，相比基于梯度的替代方法显著降低了累积查询成本。
• 使用切比雪夫多项式逼近可确保逼近误差有界，从而精确控制相对于原始问题的最优性间隙。
• 该算法天然具备分布式特性，当精度要求$\varepsilon$被满足时可自主终止，无需外部监督。
• 通过基于一致性的系数聚合，高效管理通信复杂度，保持在联网智能体间的可扩展性。