[论文解读] PEPit: computer-assisted worst-case analyses of first-order optimization methods in Python

Baptiste Goujaud, Céline Moucer+4 more|arXiv (Cornell University)|Jan 11, 2022

Advanced Optimization Algorithms Research被引用 6

一句话总结

PEPit 是一个 Python 软件包，通过将性能估计问题（PEPs）转化为半正定规划（SDPs），自动完成一阶优化方法的最坏情况收敛性分析。它使用户能够以自然的方式编写算法，同时自动处理 SDP 建模，从而为梯度下降、SAGA 和加速分裂算法等方法提供数值紧致的最坏情况保证。

ABSTRACT

PEPit is a Python package aiming at simplifying the access to worst-case analyses of a large family of first-order optimization methods possibly involving gradient, projection, proximal, or linear optimization oracles, along with their approximate, or Bregman variants. In short, PEPit is a package enabling computer-assisted worst-case analyses of first-order optimization methods. The key underlying idea is to cast the problem of performing a worst-case analysis, often referred to as a performance estimation problem (PEP), as a semidefinite program (SDP) which can be solved numerically. To do that, the package users are only required to write first-order methods nearly as they would have implemented them. The package then takes care of the SDP modeling parts, and the worst-case analysis is performed numerically via a standard solver.

研究动机与目标

• 简化新手和专家用户对一阶优化方法最坏情况收敛性分析的访问。
• 自动化将性能估计问题（PEPs）形式化为半正定规划（SDPs）的繁琐过程，减少编码错误和工作量。
• 为包括梯度、邻近、投影或线性优化预言机在内的广泛方法类提供数值最坏情况分析。
• 支持标准和高级设置，如随机、复合和加速方法，并支持李雅普诺夫函数验证。
• 作为可重现、可扩展且具有教学价值的工具，用于验证、紧致化或发现新的收敛性保证。

提出的方法

• 将一阶方法的最坏情况分析形式化为性能估计问题（PEP），并以半正定规划（SDP）的形式表达。
• 自动化 SDP 建模过程：用户使用标准 Python 语法编写算法，PEPit 自动完成向 SDP 形式的转换。
• 使用标准 Python SDP 求解器（例如 Mosek、CVXPY）数值求解生成的 SDP，并计算最坏情况边界。
• 支持多种问题类别（例如凸、光滑、强凸）和算法组件（例如邻近、梯度、线性预言机）。
• 通过 SDP 实现李雅普诺夫函数搜索与验证，受控制理论中的积分二次约束（IQCs）启发。
• 提供模块化、开源的框架，包含 50 多个示例，支持新问题类别、预言机和算法的扩展。

实验结果

研究问题

• RQ1 能否使用计算机辅助方法自动且准确地计算一阶方法的最坏情况收敛性保证？
• RQ2 如何抽象化将性能估计问题（PEPs）形式化为半正定规划的复杂任务，以支持直观的用户输入？
• RQ3 PEPit 在随机优化和复合优化中，能在多大程度上改进现有的理论最坏情况边界？
• RQ4 该框架能否扩展以支持李雅普诺夫函数的发现与验证，用于收敛性分析？
• RQ5 PEPit 在多种优化方法和设置下，对已知收敛结果的重现或紧致化效果如何？

主要发现

• PEPit 为一阶方法计算了数值紧致的最坏情况保证，包括 point-SAGA，其结果略微优于既定的理论边界 $\mathbb{E}[V(x^{(t+1)})] \leq \frac{1}{1 + \mu\gamma} V(x^{(t)})$。
• 该软件包成功重现了加速梯度方法和 Douglas-Rachford 分裂法的已知收敛速率，结果与理论预期一致。
• 对于包含 $n=5$ 个函数的 point-SAGA，PEPit 的最坏情况保证优于参考边界，尤其在高 condition 数 $\kappa = L/\mu$ 时表现更优。
• 该框架支持对收敛性证明的快速数值验证与潜在紧致化，支持优化领域中的可重现研究。
• PEPit 的自动化 SDP 建模降低了实现错误的风险，使非专家也能开展高级最坏情况分析。
• 该软件包支持广泛的优化设置，包括随机、复合和单调算子方法，且具备面向未来扩展的可扩展性。