[论文解读] A geometric integration approach to smooth optimisation: Foundations of the discrete gradient method

Matthias J. Ehrhardt, Erlend S. Riis+2 more|arXiv (Cornell University)|May 16, 2018

Advanced Optimization Algorithms Research参考文献 45被引用 15

一句话总结

本文提出了一种基于离散梯度法的光滑优化几何积分框架，证明了其适定性、收敛速率和鲁棒性。该方法在凸目标函数下实现 O(1/k) 的收敛速率，在 Polyak–Łojasiewicz 条件下实现线性收敛，且在三种离散梯度及一种随机化变体上均通过理论与数值实验得到验证。

ABSTRACT

Discrete gradient methods are geometric integration techniques that can preserve the dissipative structure of gradient flows. Due to the monotonic decay of the function values, they are well suited for general convex and nonconvex optimisation problems. Both zero- and first-order algorithms can be derived from the discrete gradient method by selecting different discrete gradients. In this paper, we present a thorough analysis of the discrete gradient method for optimisation which provides a solid theoretical foundation. We show that the discrete gradient method is well-posed by proving the existence of iterates for any positive time step, as well as uniqueness in some cases, and propose an efficient method for solving the associated discrete gradient equation. Moreover, we establish an $O(1/k)$ convergence rate for convex objectives and prove linear convergence if instead the Polyak-Lojasiewicz inequality is satisfied. The analysis is carried out for three discrete gradients-the Gonzalez discrete gradient, the mean value discrete gradient, and the Itoh-Abe discrete gradient, as well as for a randomised Itoh-Abe method. Our theoretical results are illustrated with a variety of numerical experiments, and we furthermore demonstrate that the methods are robust with respect to stiffness.

研究动机与目标

• 为光滑优化中的离散梯度方法提供严格的理论基础，弥补其收敛性与稳定性理解方面的空白。
• 证明对于任意正时间步长，离散梯度更新方程的适定性，确保迭代解的存在性与唯一性。
• 为多种离散梯度格式建立收敛速率——凸目标函数下为 O(1/k)，在 Polyak–Łojasiewicz 条件下为线性收敛。
• 证明方法对刚性问题的鲁棒性，并适用于无导数与基于梯度的优化。
• 将理论收敛速率与循环坐标下降等已有方法进行比较，展示更优的界。

提出的方法

• 离散梯度法被表述为隐式更新：$ x^{k+1} = x^k - \tau_k \overline{\nabla}V(x^k, x^{k+1}) $，保持耗散结构。
• 分析了三种离散梯度：Gonzalez、平均值型与 Itoh–Abe，每种均满足均值定理与一致性性质。
• 提出了一种随机化的 Itoh–Abe 变体，使无导数优化在非光滑或黑箱问题中成为可能。
• 通过压缩映射论证证明了适定性，确保对任意 $ \tau_k > 0 $，迭代解存在且唯一。
• 收敛性分析基于能量下降不等式与李雅普诺夫函数，利用利普希茨连续性与强凸性假设推导出界。
• 提出了求解离散梯度方程的高效方法，确保数值稳定性与实际可实施性。

实验结果

研究问题

• RQ1 离散梯度方法是否对任意正时间步长均存在唯一解，从而保证适定性？
• RQ2 在凸与非凸设置下，离散梯度方法的收敛速率可保证为何种水平？
• RQ3 Itoh–Abe 离散梯度的收敛速率与循环坐标下降相比如何？
• RQ4 离散梯度方法能否在刚性优化问题中保持稳定与收敛？
• RQ5 随机化的 Itoh–Abe 方法在无导数优化中的理论性能如何？

主要发现

• 离散梯度方法是适定的：对任意 $ \tau_k > 0 $，更新方程均存在唯一解，确保数值可靠性。
• 对于凸目标函数，该方法实现 $ O(1/k) $ 的收敛速率，与梯度方法的最佳已知速率一致。
• 在 Polyak–Łojasiewicz 不等式条件下，方法表现出线性收敛，其速率参数 $ \beta = 4\overline{L}_{\text{sum}} \leq 4\sqrt{n}L $。
• 随机化的 Itoh–Abe 方法在优化后可达到与循环坐标下降相当的收敛速率，其中 $ \beta \approx 4\sqrt{n}L $。
• 数值实验验证了其对刚性的鲁棒性，即使在病态条件问题下也能实现稳定收敛。
• 理论分析表明，在最优参数调节下，Itoh–Abe 离散梯度的收敛速率界优于标准坐标下降法。