[论文解读] Finite Step Performance of First-order Methods Using Interpolation Conditions Without Function Evaluations

Bruce Lee, Peter Seiler|arXiv (Cornell University)|May 4, 2020

Stochastic Gradient Optimization Techniques参考文献 15被引用 5

一句话总结

本文提出一种新方法，仅通过梯度评估和插值条件，计算在具有Lipschitz连续梯度的强凸函数上，一阶优化算法的有限步最坏情况性能界。通过利用双重超对角占优矩阵，该方法将约束数量从阶乘级减少至O(N²)，实现无需函数评估约束的高效数值计算，并构造出达到最坏情况性能的示例函数。

ABSTRACT

We present a procedure to numerically compute finite step worst case performance guarantees on a given algorithm for the unconstrained optimization of strongly convex functions with Lipschitz continuous gradients. The solution method provided serves as an alternative approach to that derived by Taylor, Hendrickx, and Glineur in [Math. Prog. 161 (1-2), 2017]. The difference lies in the fact that our solution uses conditions for the interpolation of a set of points and gradient evaluations by the gradient of a function in the class of interest, whereas their solution uses conditions for the interpolation of a set of points, gradient evaluations, and function evaluations by a function in the class of interest. The motivation for this alternative solution is that, in many cases, neither the algorithm nor the performance metric of interest rely upon function evaluations. The primary development is a procedure to avoid suffering from the factorial growth in the number of these conditions with the size of the set to be interpolated when solving for the worst case performance.

研究动机与目标

• 开发一种数值高效的有限步最坏情况性能界计算方法，用于一阶优化算法。
• 消除基于插值的性能分析中对函数评估的需求，这对仅依赖梯度信息的算法而言通常无关紧要。
• 解决先前方法中插值约束数量的阶乘级增长问题，以提升可扩展性。
• 提供一个框架，用于构造达到计算所得最坏情况性能的显式函数。
• 通过共享的插值结构，建立有限步与渐近性能界之间的联系。

提出的方法

• 该方法利用一组点及其梯度对可由强凸函数与Lipschitz连续梯度生成的充要插值条件。
• 将性能界计算表述为一个凸优化问题，其约束来源于这些插值条件。
• 通过在插值条件的锥组合中利用双重超对角占优矩阵，将约束数量从阶乘级减少至O(N²)。
• 该方法完全避免函数评估，适用于仅依赖梯度信息的算法。
• 构建状态空间表示以建模算法动态及性能随时间的演化。
• 通过求解一个半定规划问题来计算最坏情况性能，即最小化标量ρ，受系统矩阵与松弛矩阵H的矩阵不等式约束。

实验结果

研究问题

• RQ1 能否在插值条件中完全避免函数评估，从而高效计算有限步最坏情况性能界？
• RQ2 如何在保持性能界精确性的同时，缓解插值约束数量的阶乘级增长问题？
• RQ3 是否可能在问题类中构造出显式函数，使其达到计算所得的最坏情况性能？
• RQ4 一阶方法中有限步与渐近收敛速率之间存在何种关系？
• RQ5 所提方法能否扩展至分析具有非线性性（如饱和）的反馈系统？

主要发现

• 所提方法仅使用梯度评估计算有限步最坏情况性能界，避免了不必要的函数评估约束。
• 插值约束数量呈二次增长，即O(N²)，消除了先前方法中限制可扩展性的阶乘级增长。
• 该方法实现了精确的最坏情况性能界，并构造出达到这些边界的显式示例函数。
• 数值结果表明，有限步性能衰减率与渐近收敛率非常接近，表明边界具有紧致性。
• 从同一框架中导出的渐近性能界，对于相同问题实例，比文献中现有边界更紧致。