[论文解读] On the Generalised Langevin Equation for Simulated Annealing

Martin Chak, Nikolas Kantas+1 more|arXiv (Cornell University)|Mar 13, 2020

Stochastic Gradient Optimization Techniques参考文献 72被引用 7

一句话总结

本文通过引入一个辅助变量，提出了一种带有记忆效应的广义朗之万方程，以改进非凸优化中的模拟退火方法。通过用奥恩斯坦-乌伦贝克过程替代布朗运动，该方法增强了状态空间中的混合与探索能力，在温和条件下实现了对全局最小值的收敛，并在数值实验中表现出优于标准欠阻尼和过阻尼动力学的性能。

ABSTRACT

In this paper, we consider the generalised (higher order) Langevin equation for the purpose of simulated annealing and optimisation of nonconvex functions. Our approach modifies the underdamped Langevin equation by replacing the Brownian noise with an appropriate Ornstein-Uhlenbeck process to account for memory in the system. Under reasonable conditions on the loss function and the annealing schedule, we establish convergence of the continuous time dynamics to a global minimum. In addition, we investigate the performance numerically and show better performance and higher exploration of the state space compared to the underdamped and overdamped Langevin dynamics with the same annealing schedule.

研究动机与目标

• 开发一种带有记忆效应的广义朗之万动力学，以更高效地实现非凸函数的全局优化。
• 在适当的退火调度下，建立理论上的全局最小值收敛性。
• 与标准欠阻尼和过阻尼朗之万动力学相比，提升状态空间中的探索与混合能力。
• 提供一个用于调节记忆参数（A, λ）以增强算法性能的框架。
• 将理论分析从标准朗之万动力学扩展至高阶、带记忆正则化的系统。

提出的方法

• 引入一个包含位置 X、速度 Y 和记忆变量 Z 的三元马尔可夫伊藤扩散过程（1.3），以建模持续惯性。
• 在 Z 动力学中使用奥恩斯坦-乌伦贝克过程作为噪声源，引入色噪声与记忆效应。
• 确保在恒定温度下不变测度与目标吉布斯分布一致，保持热力学平衡性质。
• 应用广义 Γ-微积分与巴克拉-埃梅里理论，证明在冷却调度下可收敛至全局最小值。
• 采用光滑化与熵耗散技术，处理退化噪声极限与弱收敛问题。
• 通过基准非凸函数的数值实验，比较成功率与探索效率，评估算法性能。

实验结果

研究问题

• RQ1 带有记忆效应的广义朗之万方程是否能提升非凸优化中模拟退火的收敛性与探索能力？
• RQ2 通过辅助过程引入记忆变量是否能实现更快的混合速度并更有效地逃离局部极小值？
• RQ3 记忆矩阵 A 与耦合矩阵 λ 的选择如何影响收敛速率与成功概率？
• RQ4 能否将标准欠阻尼朗之万动力学的理论收敛保证扩展至该高阶、带记忆正则化的系统？
• RQ5 在存在记忆效应的情况下，退火调度对收敛至全局最小值的影响如何？

主要发现

• 所提出的带记忆效应的广义朗之万动力学在损失函数与退火调度满足温和条件时，可收敛至非凸函数的全局最小值。
• 数值结果表明，与相同退火调度下的过阻尼和欠阻尼朗之万动力学相比，该方法在状态空间中的探索能力显著提升。
• 与标准欠阻尼动力学相比，该记忆增强系统的生成元的谱间隙可显著增大，表明其收敛至平衡态的速度更快。
• 记忆矩阵 A 与耦合矩阵 λ 的选择对算法性能有显著影响，其中 A2、A3 和 A4 配置表现出更高的成功率。
• 该方法在恒定温度下保持了正确的不变测度，确保与统计力学原理的一致性。
• 理论分析通过熵耗散与弱收敛技术证实了收敛性，即使在退化噪声极限下亦成立。