[論文レビュー] Global Non-convex Optimization with Discretized Diffusions

Murat A. Erdogdu, Lester Mackey+1 more|arXiv (Cornell University)|Oct 29, 2018

Markov Chains and Monte Carlo Methods参考文献 26被引用数 8

ひとこと要約

本稿は、一般の滑らかで散逸的拡散過程（Langevinダイナミクスに限らない）のEuler離散化に対して、グローバル非凸最適化の保証を確立する。明示的なStein要因のバウンドと多次元Steinの方法を用いた非漸近的誤差解析により、任意の拡散に適した目的関数に対する計算可能な統合誤差および最適化誤差のバウンドを提供し、従来のLangevin理論の範囲を超えたグローバル最適化を可能にする。

ABSTRACT

An Euler discretization of the Langevin diffusion is known to converge to the global minimizers of certain convex and non-convex optimization problems. We show that this property holds for any suitably smooth diffusion and that different diffusions are suitable for optimizing different classes of convex and non-convex functions. This allows us to design diffusions suitable for globally optimizing convex and non-convex functions not covered by the existing Langevin theory. Our non-asymptotic analysis delivers computable optimization and integration error bounds based on easily accessed properties of the objective and chosen diffusion. Central to our approach are new explicit Stein factor bounds on the solutions of Poisson equations. We complement these results with improved optimization guarantees for targets other than the standard Gibbs measure.

研究の動機と目的

• Langevinアルゴリズムに限らない、より広いクラスの拡散過程へのグローバル最適化保証の拡張。
• 目的関数および拡散の容易に入手可能な性質に基づいて、計算可能な非漸近的誤差バウンドを統合および最適化に提供すること。
• 拡散の適切さを評価し、Wasserstein結合レートを計算するためのユーザーフレンドリーなツールの開発。
• 非Gibbs不変測度が、標準のGibbsターゲットよりも優れた最適化保証をもたらす可能性があることの実証。
• 凸および非凸関数の異なるクラス（特に重い尾を持つ関数を含む）に対して、異なる拡散が適切である条件を同定・形式化すること。

提案手法

• Poisson方程式の解に対するStein要因のバウンドを用いて、離散化された拡散過程の統合誤差バウンドを明示的に導出。その結果、$\mathcal{O}(1/\epsilon^2)$の誤差バウンドが得られる。
• Poisson方程式の解の微分をバウンドするための多次元Steinの方法のバージョンを導入し、非漸近的解析を可能にする。
• 滑らかな係数を持つ高速結合拡散の下で、擬リプシッツ関数に対する1次から4次までのStein要因のバウンドを提供。
• 拡散係数および目的関数の簡単な性質に基づいて、計算可能なWasserstein結合率バウンドを確立。
• Gibbsおよび非Gibbs不変測度の両方をターゲットとするフレームワークを提案し、後者の場合に収束が改善されることを示す。
• 理論を応用して、従来のLangevin理論ではカバーされない非凸的で、2次未満または線形未満の成長を示す目的関数（例：$f(x) \propto \|x\|^{2\alpha}$ for $\alpha < 1$）に適した新しい拡散を構築する。

実験結果

リサーチクエスチョン

• RQ1 非凸的目的関数に対して、グローバル最適化保証をLangevin拡散に限らず、他の滑らかで散逸的拡散に拡張できるか？
• RQ2 Stein要因解析を用いて、統合および最適化に適用可能な明示的かつ非漸近的誤差バウンドはどのように導出できるか？
• RQ3 目的関数および拡散係数の容易に入手可能な性質に基づいて、Stein要因をどのようにバウンドできるか？
• RQ4 非Gibbs不変測度は、標準のGibbs測度よりも優れた最適化誤差バウンドをもたらすことができるか？
• RQ5 どのような非凸関数のクラスが、Langevinダイナミクス以外の拡散を用いてグローバル最適化可能か？

主な発見

• 本稿は、Stein要因および拡散係数に基づいて、離散化された拡散過程の$\mathcal{O}(1/\epsilon^2)$の統合誤差バウンドを確立した。
• 滑らかな係数を持つ高速結合拡散の下で、擬リプシッツ関数に対する1次から4次までの明示的なStein要因バウンドを導出した。
• このフレームワークにより、計算可能なWasserstein結合率バウンドが可能となり、標準のLangevin設定を超える収束レートの導出が可能になった。
• 非Gibbs不変測度をターゲットとすることで、改善された最適化誤差バウンドが達成され、このような測度が標準のGibbs測度を上回ることを実証した。
• 理論により、非凸的で2次未満または線形未満の成長を示す関数（例：$f(x) \propto \|x\|^{2\alpha}$ for $\alpha < 1$）を最適化するための新しい拡散が同定された。これらの関数は、古典的Langevin理論の範囲外にある。