[論文レビュー] On the Generalised Langevin Equation for Simulated Annealing

Martin Chak, Nikolas Kantas+1 more|arXiv (Cornell University)|Mar 13, 2020

Stochastic Gradient Optimization Techniques参考文献 72被引用数 7

ひとこと要約

本稿では、非凸最適化のためのシミュレーテッドアニーリングを改善するために、補助変数を用いて記憶を持つ一般化されたランジュバン方程式を提案する。ブラウン運動をオーナイズ・ウーレンバック過程に置き換えることで、混合性と探索性が向上し、緩和条件が緩い範囲でもグローバル・ミニマへの収束を達成する。数値実験では、標準的なアンダーダンプドおよびオーバーダンプドダイナミクスよりも優れた性能を示した。

ABSTRACT

In this paper, we consider the generalised (higher order) Langevin equation for the purpose of simulated annealing and optimisation of nonconvex functions. Our approach modifies the underdamped Langevin equation by replacing the Brownian noise with an appropriate Ornstein-Uhlenbeck process to account for memory in the system. Under reasonable conditions on the loss function and the annealing schedule, we establish convergence of the continuous time dynamics to a global minimum. In addition, we investigate the performance numerically and show better performance and higher exploration of the state space compared to the underdamped and overdamped Langevin dynamics with the same annealing schedule.

研究の動機と目的

• 非凸関数のより効率的なグローバル最適化のため、記憶を持つ一般化されたランジュバンダイナミクスを開発すること。
• 適切な冷却スケジュールのもとでグローバル・ミニマへの理論的収束を確立すること。
• 標準的なアンダーダンプドおよびオーバーダンプドランジュエルンダイナミクスと比較して、状態空間内での探索性と混合性を向上させること。
• アルゴリズムの性能を向上させるために、記憶パラメータ（A, λ）を調整するためのフレームワークを提供すること。
• 標準ランジュエルンダイナミクスの理論的分析を、高階および記憶正則化付きのシステムへと拡張すること。

提案手法

• 位置X、速度Y、記憶変数Zの3成分からなるマルコフ連続確率微分方程式系（1.3）を導入し、持続的慣性をモデル化する。
• Zのダイナミクスにおけるノイズにオーナイズ・ウーレンバック過程を用い、色雑音および記憶効果を導入する。
• 定常温度のもとで不変測度がターゲットのギブス分布と一致することを保証し、平衡性の性質を維持する。
• 一般化されたΓ-計算およびバクリ＝エメリー理論を用いて、冷却スケジュールのもとでのグローバル・ミニマへの収束を証明する。
• 滑らか化およびエントロピー散逸技術を用いて、退化したノイズ極限および弱収束の取り扱いを行う。
• ベンチマーク非凸関数を用いた数値的評価を行い、成功確率および探索効率を比較する。

実験結果

リサーチクエスチョン

• RQ1 記憶を持つ一般化ランジュエルン方程式は、非凸最適化のためのシミュレーテッドアニーリングにおいて、収束性と探索性を向上させることができるか？
• RQ2 補助プロセスを用いた記憶変数の導入により、混合性が向上し、局所的ミニマからの脱出が促進されるか？
• RQ3 記憶行列Aおよび結合行列λの選択が、収束速度および成功確率に与える影響は何か？
• RQ4 標準的なアンダーダンプドランジュエルンダイナミクスからの理論的収束保証を、この高階および記憶正則化付きのシステムへと拡張可能か？
• RQ5 記憶効果が存在する状況において、冷却スケジュールの選択がグローバル・ミニマへの収束に与える影響は何か？

主な発見

• 提案された記憶付き一般化ランジュエルンダイナミクスは、損失関数および冷却スケジュールにやや緩い条件のもとで、非凸関数のグローバル・ミニマに収束することが示された。
• 数値的結果から、同じ冷却スケジュールのもとで、オーバーダンプドおよびアンダーダンプドランジュエルンダイナミクスと比較して、状態空間の探索性が顕著に向上していることが明らかになった。
• 記憶強化型システムの生成子の固有値ギャップは、標準的なアンダーダンプドダイナミクスよりも著しく大きくなることがあり、これは平衡状態への収束が速いことを示唆している。
• 記憶行列Aおよび結合行列λの選択はアルゴリズムの性能に強く影響し、A2、A3、A4の設定では成功確率が向上していることが観察された。
• 定常温度のもとで正しい不変測度を維持しており、統計力学の原則と整合性を保っている。
• 理論的分析により、エントロピー散逸および弱収束技術を用いて、退化したノイズ極限においても収束が保証されていることが確認された。