[論文レビュー] Lower Bounds on Metropolized Sampling Methods for Well-Conditioned Distributions

Yin Tat Lee, Ruoqi Shen+1 more|arXiv (Cornell University)|Jun 9, 2021

Markov Chains and Monte Carlo Methods被引用数 6

ひとこと要約

本稿は、高次元における良好な条件の分布からのサンプリングに対して、メトロポリス補正付きランジュバン法（MALA）およびハミルトニアン・モンテカルロ法（HMC）の緩和時間と混合時間について、ほぼタイトな下界を確立する。MALAは良好な条件のガウス分布に対しては $\Omega(\kappa\sqrt{d}/\sqrt{\log d})$ ステップを要し、一般の良好な条件の密度関数に対しては $\Omega(\kappa\sqrt{d})$ を要することを示し、標準的な仮定の下で広く用いられるこれらのサンプリング手法に根本的な制限があることを明らかにする。

ABSTRACT

We give lower bounds on the performance of two of the most popular sampling methods in practice, the Metropolis-adjusted Langevin algorithm (MALA) and multi-step Hamiltonian Monte Carlo (HMC) with a leapfrog integrator, when applied to well-conditioned distributions. Our main result is a nearly-tight lower bound of $\\widetilde{\\Omega}(\\kappa d)$ on the mixing time of MALA from an exponentially warm start, matching a line of algorithmic results up to logarithmic factors and answering an open question of Chewi et. al. We also show that a polynomial dependence on dimension is necessary for the relaxation time of HMC under any number of leapfrog steps, and bound the gains achievable by changing the step count. Our HMC analysis draws upon a novel connection between leapfrog integration and Chebyshev polynomials, which may be of independent interest.

研究の動機と目的

• 機械学習および統計学における重要なファミリーである良好な条件の分布からのサンプリングにおけるMALAおよびHMCの根本的複雑性を理解すること。
• 一般のクエリモデルの下界とは異なり、アルゴリズム固有の下界を提示することで、アルゴリズム理論におけるギャップを埋めること。
• 固定ステップサイズおよび温かい初期状態の仮定なしに、MALAおよびHMCにおける本質的な性能障壁を特定すること。
• 変動または適応的ステップサイズが、特にHMCにおいてこれらの制限を克服できるかどうかを検討すること。
• 下界における条件数 $\kappa$ の必要性を評価し、温かい初期状態の還元可能性について検討すること。

提案手法

• MALAおよびHMCの性能が劣化する明示的なハードインスタンス（特定の良好な条件のガウス分布および一般の良好な条件の密度関数）を構築する。
• スペクトル技法およびチェビシェフ多項式の性質を用いて、HMCの遷移カーネルおよびスぺクトルギャップを分析する。
• 余弦に基づく証拠集合の構築を用いて分散およびディリクレ形式をバインドし、緩和時間の下界を導出する。
• スペクトル解析を用いて下界を導出するためのテストケースとして、ハードな二次関数 $f_{\textup{hqc}}$ を用いる。
• ヘッセ行列の固有値とステップサイズの関係を活用し、$\kappa$ および $d$ への依存関係を導出する。
• 温かい初期状態の仮定を用いて緩和時間から混合時間への還元を行い、MALAの混合時間下界が $\Omega(\kappa\sqrt{d}/\sqrt{\log d})$ であることを証明する。

実験結果

リサーチクエスチョン

• RQ1 MALAが良好な条件の分布で混合するのに必要な最小ステップ数は何か？ これは $\kappa$ および $d$ にどのように依存するか？
• RQ2 HMCは良好な条件の領域においてMALAより速く混合できるのか？ その性能に根本的な限界は何か？
• RQ3 固定ステップサイズはMALAおよびHMCの性能にどのような制限を及えるのか？ 変動ステップサイズはこれらの下界を克服できるか？
• RQ4 良好な条件の分布からのサンプリングにおける下界において、条件数 $\kappa$ は必須な要因か？
• RQ5 最近のプロキシマル・サンプリング技術を用いた還元により、既存の温かい初期状態の仮定を回避または改善できるか？

主な発見

• 任意の固定ステップサイズに対して、ヘッセ行列の固有値が $[1, \kappa]$ の範囲にある $d$ 次元のガウス分布が存在し、そのMALAの緩和時間は $\Omega(\kappa\sqrt{d}/\sqrt{\log d})$ である。
• 一般の良好な条件の密度関数に対して、MALAの緩和時間下界は $\Omega(\kappa\sqrt{d})$ である。
• HMCは、すべての $K \geq 1$ に対して、同じ条件下で緩和時間下界が $\Omega(\kappa\sqrt{d})$ である。これはステップサイズに依存しない。
• 指数的温かい初期状態からのMALAの混合時間は $\Omega(\kappa\sqrt{d}/\sqrt{\log d})$ であり、対数要因を除いて緩和時間下界と一致する。
• 証明で用いられる証拠集合の測度は $\exp(-d)$ 以上であるため、高次元においてもハードインスタンスがまれではないことが示される。
• 下界は対数要因を除いてタイトであり、良好な条件の領域における現在のMALAおよびHMCの上界がほぼ最適である可能性を示唆する。