[論文レビュー] Proximal Langevin Algorithm: Rapid Convergence Under Isoperimetry

Andre Wibisono|arXiv (Cornell University)|Nov 4, 2019

Markov Chains and Monte Carlo Methods参考文献 53被引用数 14

ひとこと要約

本稿は、対数ソボレフ不等式やポンカラレ不等式などの等周的条件を満たす分布からのサンプリングに対して、Proximal Langevin Algorithm (PLA) の高速収束を確立する。三階微分可能性と対数ソボレフ不等式の下で、PLA は従来の手法と比較して対数ソボレフ定数に改善された依存性を示し、等周的条件下での非メトロポリス型サンプリングにおける最も速い既知の収束レートに一致する。

ABSTRACT

We study the Proximal Langevin Algorithm (PLA) for sampling from a probability distribution $ν= e^{-f}$ on $\mathbb{R}^n$ under isoperimetry. We prove a convergence guarantee for PLA in Kullback-Leibler (KL) divergence when $ν$ satisfies log-Sobolev inequality (LSI) and $f$ has bounded second and third derivatives. This improves on the result for the Unadjusted Langevin Algorithm (ULA), and matches the fastest known rate for sampling under LSI (without Metropolis filter) with a better dependence on the LSI constant. We also prove convergence guarantees for PLA in Rényi divergence of order $q > 1$ when the biased limit satisfies either LSI or Poincaré inequality.

研究の動機と目的

• 等周的条件を満たす分布からのサンプリングに対して、Proximal Langevin Algorithm (PLA) の高速収束保証を確立すること。
• 暗黙の更新とより強い滑らかさ仮定を活用することで、未調整Langevinアルゴリズムの既存の収束レートを改善すること。
• 対数ソボレフ不等式およびポンカラレ不等式の下で、KL 収束と Rényi 収束における PLA のバイアスと収束を分析すること。
• メトロポリスフィルタを必要とせずに、対数ソボレフ不等式下で最も速い既知の収束レートを PLA が達成できることを示すこと。
• ポンカラレ不等式または対数ソボレフ不等式に従うバイアス付き極限分布を想定した場合、Rényi 収束における反復複雑度の境界を提供すること。この境界は、次元依存係数を含む。

提案手法

• 本稿は、連続時間のLangevin力学を後退オイラー離散化としてPLAを分析し、ポテンシャル関数 f の三階微分が有界であることを仮定する。
• 対数ソボレフ不等式 (LSI) と三階微分が有界である条件の下で、KL 収束の収束を確立する。
• Rényi 収束の分析には、アルゴリズムの時間連続的補間を用い、Rényi 収束速度に関連する微分不等式を適用する。
• 証明は、バイアス付き極限分布 νε が設定に応じてポンカラレ不等式または LSI を満たすことに依存し、時間連続的経路を用いて収束の減衰を制御する。
• 主な技術的道具は、proximal 写像を双射として用いることと、等周的条件下での Rényi 収束減衰に関する補題の適用である。
• 解析は、Rényi 収束が大きい（>1）場合と小さい（≤1）場合の二つの状態に分ける。それぞれ線形減衰または指数減衰を示す。

実験結果

リサーチクエスチョン

• RQ1 三階微分可能性と対数ソボレフ不等式の下で、Proximal Langevin Algorithm は KL 収束において最適な収束レートを達成できるか？
• RQ2 PLA は、既存の未調整Langevinアルゴリズムと比較して、対数ソボレフ定数に改善された依存性を示すか？
• RQ3 バイアス付き極限分布がポンカラレ不等式または対数ソボレフ不等式を満たす場合、PLA の Rényi 収束の挙動はいかなるものか？
• RQ4 メトロポリスフィルタを必要とせずに、KL 収束において近似的に最適な反復複雑度を達成できるか？
• RQ5 等周的条件下で、PLA の反復複雑度は連続時間ダイナミクスと比較してどのように異なるか？

主な発見

• 対数ソボレフ不等式と三階微分可能性の下で、PLA は LSI 定数 α に改善された依存性を示し、KL 収束が O(1/α) のレートで減少する。これは、従来の ULA の結果と比較して改善されている。
• KL 収束における PLA の反復複雑度は、目標誤差 δ に対して O(1/δ) であり、LSI 条件下での非メトロポリス型サンプリングの最も速い既知のレートに一致する。
• Rényi 収束の次数 q>1 の場合、ポンカラレ不等式（定数 β）の下で収束レートは O(e^{-βεk/q}) となる。これは LSI 条件下のものと比較して n 倍の複雑度を要する。
• 初期の Rényi 収束が ≤1 の場合、アルゴリズムは Rényi 収束に対して指数減衰を示し、レート βε/q で収束が速くなる。
• 三階微分可能性の下で、PLA のバイアスは O(ε²) であることが示され、ULA の O(ε) バイアスと比較して反復複雑度が改善される。
• 解析により、O(1/βε) 回の反復後、Rényi 収束が 1 未満に低下することが示され、これにより指数減衰の境界をさらに適用できる。