[论文解读] Dissipativity Theory for Nesterov's Accelerated Method

Bin Hu, Laurent Lessard|arXiv (Cornell University)|Jun 14, 2017

Advanced Optimization Algorithms Research参考文献 9被引用 18

一句话总结

本文提出了一种基于耗散性理论的框架，用于分析Nesterov加速方法，通过半定规划求解得到的能量型李雅普诺夫函数来验证收敛速率。该方法恢复了已知的$O(1/t^2)$次线性收敛速率，并推广至离散与连续时间下的线性与次线性收敛，提供了一种具有物理解释性、分析可处理的替代方法。

ABSTRACT

In this paper, we adapt the control theoretic concept of dissipativity theory to provide a natural understanding of Nesterov's accelerated method. Our theory ties rigorous convergence rate analysis to the physically intuitive notion of energy dissipation. Moreover, dissipativity allows one to efficiently construct Lyapunov functions (either numerically or analytically) by solving a small semidefinite program. Using novel supply rate functions, we show how to recover known rate bounds for Nesterov's method and we generalize the approach to certify both linear and sublinear rates in a variety of settings. Finally, we link the continuous-time version of dissipativity to recent works on algorithm analysis that use discretizations of ordinary differential equations.

研究动机与目标

• 通过控制论中的耗散性理论，为Nesterov加速方法提供一种具有物理解释性的、基于能量耗散的解释。
• 开发一种基于线性矩阵不等式（LMI）的简化框架，用于构造李雅普诺夫函数，从而实现收敛速率的分析。
• 将分析扩展至离散与连续时间设置下的线性与次线性收敛速率。
• 通过在耗散性理论框架下统一IQC框架与ODE离散化方法，弥合两者之间的差距。
• 通过更具可扩展性与可解释性的LMI公式化方法，实现鲁棒与自适应加速算法的设计。

提出的方法

• 将耗散性理论适配于优化问题，通过定义一个捕捉算法状态与梯度输入之间能量交换的供给率。
• 推导出一个线性矩阵不等式（LMI）条件，以确保李雅普诺夫函数的存在性，从而简化收敛性分析。
• 使用时变储能函数$ V( heta,t) $来建模系统的内部能量，其中$ heta $代表算法状态。
• 通过求解一个小型半定规划来构造李雅普诺夫函数，实现数值与解析构造的双重能力。
• 通过选择能恢复Su等人（2016）所提出李雅普诺夫函数的供给率，将框架特化于Nesterov方法。
• 将LMI条件应用于离散时间与连续时间的公式化，实现对$ O(1/t^2) $次线性收敛与线性收敛速率的分析。

实验结果

研究问题

• RQ1 耗散性理论能否为分析Nesterov加速方法提供一种具有物理解释性且数学上严谨的框架？
• RQ2 如何简化基于LMI的耗散性条件，以实现李雅普诺夫函数的解析构造？
• RQ3 所提出的框架能否在离散与连续时间下均恢复已知的$ O(1/t^2) $收敛速率？
• RQ4 与现有的IQC方法与ODE离散化方法相比，该耗散性方法在复杂性与通用性方面表现如何？
• RQ5 该框架能否扩展至分析弱凸或非强凸目标函数，从而支持鲁棒算法设计？

主要发现

• 所提出的耗散性框架恢复了Su等人（2016）在Nesterov方法连续时间ODE版本中使用的李雅普诺夫函数。
• 耗散性理论的LMI条件相比Lessard等人（2016）基于IQC的方法，生成了更简单、规模更小的半定规划，从而支持解析解的获得。
• 该方法在离散与连续时间下均能认证Nesterov加速方法的$ O(1/t^2) $收敛速率，与已知理论边界一致。
• 该框架可推广至强凸条件下的线性收敛分析，以及在较弱假设（包括弱凸目标）下的次线性收敛分析。
• 该方法通过求解单一LMI可直接构造李雅普诺夫函数，为收敛速率认证提供系统化且可扩展的方法。
• 基于能量耗散的视角为Nesterov方法的动力学提供了直观的物理解释，将算法行为与能量衰减联系起来。