[论文解读] Distributed Optimization with Projection-free Dynamics

Guanpu Chen, Peng Yi+2 more|arXiv (Cornell University)|May 6, 2021

Distributed Control Multi-Agent Systems参考文献 28被引用 5

一句话总结

本文提出了一种基于Frank-Wolfe方法的分布式无投影连续时间动态算法，用于约束优化，以计算高效的线性优化子问题替代计算成本较高的二次子问题。该方法在权衡平衡的有向图上确保收敛至最优解，并通过辅助变量动态实现全局一致性，其对应的离散时间方案具有可证明的收敛速率。

ABSTRACT

We consider continuous-time dynamics for distributed optimization with set constraints in the paper. To handle the computational complexity of projection-based dynamics due to solving a general quadratic optimization subproblem with projection, we propose a distributed projection-free dynamics by employing the Frank-Wolfe method, also known as the conditional gradient algorithm. The process searches a feasible descent direction by solving an alternative linear optimization instead of a quadratic one. To make the approach applicable over weight-balanced digraphs, we design a dynamics for the consensus of local decision variables and another dynamics of auxiliary variables to track the global gradient. Then we prove the convergence of the dynamical systems to the optimal solution, and provide detailed numerical comparisons with both projection-based dynamics and other distributed projection-free algorithms. Also, we derive the distributed discrete-time scheme following the instructive ideas of the proposed dynamics and provide its accordingly convergence rate.

研究动机与目标

• 解决在复杂约束下基于投影的动态算法在分布式优化中的高计算成本问题。
• 设计一种避免求解二次子问题的分布式连续时间算法，通过Frank-Wolfe方法实现线性优化。
• 确保决策变量在有向网络上全局收敛至最优解，同时保持一致性与梯度追踪。
• 推导出对应的离散时间分布式算法，并提供可证明的收敛速率。
• 在数值实验中将所提方法与基于投影及其他无投影分布式算法进行比较。

提出的方法

• 通过求解线性优化子问题而非二次问题，利用Frank-Wolfe方法计算可行的下降方向。
• 设计了一种一致性动态，以在网络中对齐各代理的本地决策变量。
• 引入辅助变量动态以追踪全局梯度，从而实现分布式计算。
• 该算法在权衡平衡的有向图（digraph）上运行，确保系统稳定与收敛。
• 采用基于李雅普诺夫的分析方法，证明连续时间系统的收敛性可达到最优解。
• 从连续动态中推导出离散时间版本，并提供收敛速率分析。

实验结果

研究问题

• RQ1 能否为分布式约束优化设计一种无投影的连续时间动态，避免求解二次子问题？
• RQ2 在基于Frank-Wolfe的动态框架下，如何在分布式环境中同时实现一致性与全局梯度追踪？
• RQ3 所提出的连续时间动态在权衡平衡有向图上的收敛行为如何？
• RQ4 可为所诱导的离散时间分布式算法建立何种收敛速率？
• RQ5 与基于投影及其他无投影分布式算法相比，所提方法在性能与计算效率方面表现如何？

主要发现

• 所提出的连续时间动态可收敛至分布式约束优化问题的最优解。
• 通过Frank-Wolfe方法使用线性子问题避免了投影操作，降低了计算复杂度。
• 系统保持可行性：一旦变量进入约束集，将始终保留在其中。
• 该算法的离散时间版本实现了收敛速率，其形式化分析与证明已建立。
• 数值比较表明，所提方法在效率与计算优势方面优于基于投影及其他无投影算法。
• 已证明辅助变量收敛至全局梯度，从而实现分布式梯度追踪。