[論文レビュー] A geometric integration approach to smooth optimisation: Foundations of the discrete gradient method

Matthias J. Ehrhardt, Erlend S. Riis+2 more|arXiv (Cornell University)|May 16, 2018

Advanced Optimization Algorithms Research参考文献 45被引用数 15

ひとこと要約

本稿は、離散勾配法を用いた滑らか最適化のための幾何的積分フレームワークを確立し、適切な定義、収束速度、および頑健性を証明している。凸目的関数に対しては $ O(1/k) $ の収束を示し、Polyak–Łojasiewicz 条件下では線形収束を示しており、3種類の離散勾配および確率的変種を用いた理論的・数値的検証が行われている。

ABSTRACT

Discrete gradient methods are geometric integration techniques that can preserve the dissipative structure of gradient flows. Due to the monotonic decay of the function values, they are well suited for general convex and nonconvex optimisation problems. Both zero- and first-order algorithms can be derived from the discrete gradient method by selecting different discrete gradients. In this paper, we present a thorough analysis of the discrete gradient method for optimisation which provides a solid theoretical foundation. We show that the discrete gradient method is well-posed by proving the existence of iterates for any positive time step, as well as uniqueness in some cases, and propose an efficient method for solving the associated discrete gradient equation. Moreover, we establish an $O(1/k)$ convergence rate for convex objectives and prove linear convergence if instead the Polyak-Lojasiewicz inequality is satisfied. The analysis is carried out for three discrete gradients-the Gonzalez discrete gradient, the mean value discrete gradient, and the Itoh-Abe discrete gradient, as well as for a randomised Itoh-Abe method. Our theoretical results are illustrated with a variety of numerical experiments, and we furthermore demonstrate that the methods are robust with respect to stiffness.

研究の動機と目的

• 離散勾配法が滑らか最適化においてどのように収束性と安定性を示すかという理解のギャップを埋める、厳密な理論的基盤を提供すること。
• 任意の正の時間ステップに対して、離散勾配更新式が適切に定義されることを証明し、反復の存在と一意性を保証すること。
• 複数の離散勾配定式化に対して、凸目的関数では $ O(1/k) $、Polyak–Łojasiewicz 条件下では線形収束という収束速度を確立すること。
• 剛性問題に対しても安定性を保ち、導出不能または勾配ベースの最適化の両方に適用可能であることを示すこと。
• 周期的座標降下法などの既存手法と比較し、理論的収束速度の上限を改善していることを示すこと。

提案手法

• 離散勾配法は、保存的構造を維持する暗黙的更新として定式化される：$ x^{k+1} = x^k - \tau_k \overline{\nabla}V(x^k, x^{k+1}) $。
• 3つの離散勾配が分析対象となる：Gonzalez、平均値、Itoh–Abe。それぞれが平均値性および整合性の性質を満たす。
• 確率的 Itoh–Abe 変種が導入され、滑らかでないかブラックボックスな問題に対しても導出不能最適化が可能になる。
• 収縮写像の議論を用いて適切な定義が証明され、任意の $ \tau_k > 0 $ に対して反復の存在と一意性が保証される。
• 収束解析はエネルギー減少不等式とリャプノフ関数に依拠し、リプシッツ連続性および強凸性の仮定を用いて境界が導出される。
• 離散勾配方程式の効率的解法が提案され、数値的安定性と実装可能性が保証される。

実験結果

リサーチクエスチョン

• RQ1 任意の正の時間ステップに対して、離散勾配法が一意な解を有するか、すなわち適切に定義されるか？
• RQ2 凸および非凸設定下で、離散勾配法の収束速度はどの程度保証されるか？
• RQ3 Itoh–Abe 離散勾配の収束速度は、周期的座標降下法と比べてどうか？
• RQ4 剛性最適化問題に対しても、離散勾配法は安定性と収束性を維持できるか？
• RQ5 確率的 Itoh–Abe 法の理論的性能は、導出不能最適化においてどの程度か？

主な発見

• 離散勾配法は適切に定義されている：任意の $ \tau_k > 0 $ に対して、更新式は一意な解を有し、数値的信頼性が保証される。
• 凸目的関数に対しては、$ O(1/k) $ の収束速度が達成され、勾配法の最高水準の既知のレートと一致する。
• Polyak–Łojasiewicz 不等式下では線形収束を示し、レートパラメータは $ \beta = 4\overline{L}_{\text{sum}} \leq 4\sqrt{n}L $ となる。
• 最適化された場合、確率的 Itoh–Abe 法は周期的座標降下法と同等の収束速度を達成し、$ \beta \approx 4\sqrt{n}L $ となる。
• 数値実験により、剛性に対して頑健であることが確認され、悪条件問題に対しても安定した収束が得られる。
• 理論的解析により、最適パrameterチューニング下で、Itoh–Abe 離散勾配は標準的座標降下法よりも収束速度の境界が優れていることが示された。