[论文解读] Running Primal-Dual Gradient Method for Time-Varying Nonconvex Problems

Yujie Tang, Emiliano Dall’Anese+2 more|arXiv (Cornell University)|Dec 3, 2018

Sparse and Compressive Sensing Techniques被引用 8

一句话总结

本文提出一种正则化原始-对偶梯度方法，用于追踪时变非凸优化问题中的Karush–Kuhn–Tucker（KKT）轨迹。通过引入强凹正则化项，并分析离散时间与连续时间两种形式，该方法实现了Q线性收敛，并提供了与KKT轨迹时变性成比例的渐近跟踪误差界。

ABSTRACT

This paper considers a nonconvex optimization problem that evolves over time, and addresses the synthesis and analysis of regularized primal-dual gradient methods to track a Karush-Kuhn-Tucker (KKT) trajectory. The proposed regularized primal-dual gradient methods are implemented in a running fashion, in the sense that the underlying optimization problem changes during the iterations of the algorithms. For a problem with twice continuously differentiable cost and constraints, and under a generalization of the Mangasarian-Fromovitz constraint qualification, sufficient conditions are derived for the running algorithm to track a KKT trajectory. Further, asymptotic bounds for the tracking error (as a function of the time-variability of a KKT trajectory) are obtained. A continuous-time version of the algorithm, framed as a system of differential inclusions, is also considered and analytical convergence results are derived. For the continuous-time setting, a set of sufficient conditions for the KKT trajectories not to bifurcate or merge is proposed. Illustrative numerical results inspired by a real-world application are provided.

研究动机与目标

• 解决时变非凸优化问题中最优解追踪的挑战，其中目标函数和约束随时间演变。
• 通过提供可实时运行、能自适应迭代更新的算法，克服批量求解器的局限性。
• 在时变条件下建立对追踪精度和收敛速率的理论保证。
• 通过引入正则化和约束资格条件，将现有凸优化结果推广至非凸设置。
• 分析离散时间与连续时间两种形式，包括用于连续动态的微分包含模型。

提出的方法

• 构建一种正则化原始-对偶梯度方法，其中在对偶变量更新中加入强凹项，以确保Q线性收敛。
• 在离散时间间隔 $\tau = 1, \dots, T$ 对时变优化问题进行采样，得到一系列具有时变代价和约束的非凸子问题。
• 将不等式约束分解为凸与非凸部分：$f(x,t) = f^c(x,t) + f^{nc}(x,t)$，其中 $f^c$ 为凸部分，$f^{nc}$ 为非凸部分。
• 引入连续时间微分包含模型以表示算法动态，从而分析轨迹分叉与合并现象。
• 采用广义Mangasarian-Fromovitz约束资格条件，以确保KKT轨迹的存在性与正则性。
• 推导出KKT轨迹不发生分叉或合并的充分条件，从而保证稳定追踪行为。

实验结果

研究问题

• RQ1 运行中的原始-对偶梯度方法能否以有界误差追踪时变非凸优化问题的KKT轨迹？
• RQ2 在时变动态下，何种条件可确保KKT轨迹保持良好行为（即不发生分叉或合并）？
• RQ3 跟踪误差如何随KKT轨迹的时变性及算法参数变化而变化？
• RQ4 强凹正则化在实现非凸问题Q线性收敛中发挥何种作用？
• RQ5 在何种条件下，连续时间微分包含形式能收敛至真实的KKT轨迹？

主要发现

• 所提出的正则化原始-对偶梯度方法即使在存在非凸约束的情况下，也能实现对KKT轨迹邻域的Q线性收敛。
• 推导出跟踪误差的渐近界，并表明其与KKT轨迹的时变性成比例，量化了问题动态与算法精度之间的权衡。
• 在连续时间设置下，建立了KKT轨迹不发生分叉或合并的充分条件，从而确保解路径的唯一性与稳定性。
• 当步长参数 $\epsilon^*$ 选择为 $\epsilon^* = \Lambda_m(\delta)/\eta^*$ 时，跟踪误差界最小化，其中 $\eta^*$ 为正则化参数。
• 函数 $b_{\delta,\beta}(\epsilon)$（控制跟踪误差）被证明为单峰函数，意味着存在唯一的最优 $\epsilon$ 可使误差最小化。
• 最优参数 $\eta^*$ 满足 $\eta^* = 1/x^{*2}$，其中 $x^*$ 为导出函数 $\tilde{g}_0(x)$ 的唯一极小化点，从而将正则化强度与问题动态联系起来。