[論文レビュー] Langevin Monte Carlo without smoothness

Niladri S. Chatterji, Jelena Diakonikolas+2 more|arXiv (Cornell University)|May 1, 2019

Markov Chains and Monte Carlo Methods被引用数 2

ひとこと要約

本稿では、反復点に微小なガウスノイズを導入することで、非滑らかな対数凹分布に対して多項式時間収束を達成するラングヴィン・モンテカルロ（LMC）の変種を提示する。このノイズは、密度関数の対数を暗黙的に滑らかにする。主な貢献は、この摂動によって生じるバイアスとバイアスの制御可能性を厳密に分析し、勾配のリプシッツ連続性（滑らかさ）の仮定を必要とせずに非漸近的収束保証を可能にしたことである。

ABSTRACT

Langevin Monte Carlo (LMC) is an iterative algorithm used to generate samples from a distribution that is known only up to a normalizing constant. The nonasymptotic dependence of its mixing time on the dimension and target accuracy is understood mainly in the setting of smooth (gradient-Lipschitz) log-densities, a serious limitation for applications in machine learning. In this paper, we remove this limitation, providing polynomial-time convergence guarantees for a variant of LMC in the setting of nonsmooth log-concave distributions. At a high level, our results follow by leveraging the implicit smoothing of the log-density that comes from a small Gaussian perturbation that we add to the iterates of the algorithm and controlling the bias and variance that are induced by this perturbation.

研究の動機と目的

• 既存のLMC手法が非漸近的収束保証を得るためには滑らか（勾配のリプシッツ連続性を満たす）な対数密度関数を仮定しているという制限を解消すること。
• 機械学習の応用で一般的な非滑らかな対数凹分布からの効率的なサンプリングを可能にすること。
• ターゲット対数密度関数に滑らかさの仮定がない場合のLMCの理論的収束保証を提供すること。
• LMC反復点に微小なガウスノイズを追加することで生じるバイアスとバイアスのトレードオフを分析すること。

提案手法

• LMCアルゴリズムの反復点に微小なガウスノイズを導入し、非滑らかな対数密度関数を暗黙的に滑らかにする。
• 得られた摂動付きプロセスを、真のターゲット分布を近似する正則化されたサンプリングの一種として分析する。
• 対数凹分布の性質とガウスノイズの滑らかさ効果を用いて、摂動によって生じるバイアスを制御する。
• 摂動付き設定における確率的勾配推定値の分散を制御し、安定な収束を保証する。
• 集中不等式およびマルティングルールの議論を用いて、非滑らか条件のもとでの非漸近的混合時間の上限を導出する。
• 勾配のリプシッツ連続性を仮定しない条件下で、次元およびターゲット精度の観点から収束速度を確立する。

実験結果

リサーチクエスチョン

• RQ1 勾配のリプシッツ連続性を仮定しない非滑らかな対数凹分布に対して、LMCが多項式時間収束を達成できるか。
• RQ2 微小なガウスノイズを追加することで、LMCのサンプリングプロセスにおけるバイアスとバイアスにどのような影響を与えるか。
• RQ3 非滑らか状況下で、摂動の大きさと収束速度との間にはどのようなトレードオフがあるか。
• RQ4 摂動による暗黙的滑らかさが、LMC収束解析における明示的な滑らかさ仮定を置き換えることができるか。
• RQ5 非滑らかな対数凹分布の下で、摂動付きLMCの非漸近的混合時間の上限は何か。

主な発見

• 提案されたLMCの変種は、非滑らかな対数凹分布に対して多項式時間収束を達成し、勾配のリプシッツ連続性の仮定を不要にした。
• ガウスノイズによる摂動が暗黙的滑らかさを誘発し、ターゲット対数密度関数が非滑らかであっても収束を可能にする。
• 摂動によって生じるバイアスは有界であり、ノイズレベルを小さくすることで減少し、ターゲット分布との一貫性を保証する。
• 摂動構造のおかげで、確率的勾配の分散が制御され、安定な反復的更新が可能になる。
• 勾配のリプシッツ連続性を仮定しない条件下でも、次元およびターゲット精度の観点から非漸近的収束保証が確立された。
• 解析により、摂動がバイアスおよび分散に与える影響を定量的に管理でき、保証された収束速度が得られることを示した。