[论文解读] Proportional-Integral Projected Gradient Method for Conic Optimization

Yue Yu, Purnanand Elango+2 more|arXiv (Cornell University)|Aug 23, 2021

Advanced Optimization Algorithms Research被引用 4

一句话总结

本文提出了一种新型原始-对偶一阶算法——比例-积分投影梯度（PIPG）方法，用于锥优化，可在一般凸情况下实现原始-对偶间隙和约束违反度的 O(1/k) 收敛速率，在强凸性条件下分别实现 O(1/k²) 和 O(1/k³) 的收敛速率。该方法通过引入积分反馈项加速约束违反度的收敛，且无需使用二阶信息，优于现有的一阶方法。

ABSTRACT

Conic optimization is the minimization of a differentiable convex objective function subject to conic constraints. We propose a novel primal-dual first-order method for conic optimization, named proportional-integral projected gradient method (PIPG). PIPG ensures that both the primal-dual gap and the constraint violation converge to zero at the rate of \(O(1/k)\), where \(k\) is the number of iterations. If the objective function is strongly convex, PIPG improves the convergence rate of the primal-dual gap to \(O(1/k^2)\). Further, unlike any existing first-order methods, PIPG also improves the convergence rate of the constraint violation to \(O(1/k^3)\). We demonstrate the application of PIPG in constrained optimal control problems.

研究动机与目标

• 开发一种用于锥优化的一阶方法，确保原始-对偶间隙和约束违反度以改进的速率收敛至零。
• 解决现有的一阶方法的局限性，即即使在强凸性条件下也无法加速约束违反度的收敛。
• 设计一种方法，在保持低每轮迭代复杂度的同时，实现对可行性和最优性更快的收敛速度。
• 通过数值验证，展示该方法在约束最优控制问题中的有效性。

提出的方法

• PIPG 采用投影梯度框架，在对偶更新中引入比例和积分反馈项，受控制理论启发，以稳定并加速收敛。
• 该算法每轮迭代执行一次对原始集 D 的投影和一次对对偶锥 K 或其极锥 K° 的投影，确保计算成本较低。
• 在对偶变量更新中引入一个动态校正项，累积历史约束违反度，从而实现约束违反度的更快收敛。
• 该方法源自锥优化问题的鞍点重述，确保与原问题等价。
• 通过李雅普诺夫函数和能量衰减论证进行收敛性分析，以建立所述收敛速率。
• 通过将最优控制问题重新表述为包含第二-order锥和旋转第二-order锥约束的锥规划问题，将该算法应用于变换后的最优控制问题。

实验结果

研究问题

• RQ1 能否设计一种一阶方法，使锥优化中约束违反度的收敛速率超过 O(1/k)？
• RQ2 在对偶更新中引入积分作用是否能改善收敛性，同时不增加每轮迭代的复杂度？
• RQ3 在强凸性条件下，该方法能否实现原始-对偶间隙的 O(1/k²) 收敛速率和约束违反度的 O(1/k³) 收敛速率？
• RQ4 与 ADMM、PIPGeq 和 PDHG 相比，PIPG 在收敛速度和可行性方面表现如何？
• RQ5 PIPG 能否在具有复杂约束的实际最优控制问题中有效应用？

主要发现

• 在一般凸情况下，PIPG 对原始-对偶间隙和约束违反度均实现 O(1/k) 收敛速率，与 ADMM 和 PIPGeq 的最佳已知速率相当。
• 在强凸性条件下，PIPG 将原始-对偶间隙收敛速率提升至 O(1/k²)，与 PDHG 的加速速率一致。
• 关键的是，在强凸性条件下，PIPG 实现了约束违反度的 O(1/k³) 收敛速率，优于任何现有的一阶方法。
• 该方法保持了较低的每轮迭代成本，仅需一次对 D 的投影和一次对 K 或 K° 的投影，确保可扩展性。
• 在振荡质量系统和四旋翼路径规划的数值实验中，PIPG 展现出更优的收敛行为和可行性表现。
• 通过提升和锥约束将最优控制问题转化为锥规划问题，保留了问题结构，并使 PIPG 能够高效求解。