[論文レビュー] Beyond Log-concavity: Provable Guarantees for Sampling Multi-modal Distributions using Simulated Tempering Langevin Monte Carlo

Holden Lee, Andrej Risteski+1 more|arXiv (Cornell University)|Jan 1, 2018

Bayesian Methods and Mixture Models被引用数 19

ひとこと要約

本稿では、マルチモーダルな分布、特に等分散ガウス混合分布に対して高速な混合を達成するため、ラングジュアン拡散とシミュレーテッド・テンペレーションを組み合わせた新しいサンプリング手法を提案する。動的に温度レベルを調整することで、標準的なラングジュアン拡散がマルチモーダルな設定で示す遅い混合（torpid mixing）を克服し、対数密度関数の勾配へのアクセスのみを用いて、このような分布に対して、初めての多項式時間のサンプリング保証を達成する。

ABSTRACT

A key task in Bayesian machine learning is sampling from distributions that are only specified up to a partition function (i.e., constant of proportionality). One prevalent example of this is sampling posteriors in parametric distributions, such as latent-variable generative models. However sampling (even very approximately) can be #P-hard. Classical results (going back to Bakry and Emery) on sampling focus on log-concave distributions, and show a natural Markov chain called Langevin diffusion mix in polynomial time. However, all log-concave distributions are uni-modal, while in practice it is very common for the distribution of interest to have multiple modes. In this case, Langevin diffusion suffers from torpid mixing. We address this problem by combining Langevin diffusion with simulated tempering. The result is a Markov chain that mixes more rapidly by transitioning between different temperatures of the distribution. We analyze this Markov chain for a mixture of (strongly) log-concave distributions of the same shape. In particular, our technique applies to the canonical multi-modal distribution: a mixture of gaussians (of equal variance). Our algorithm efficiently samples from these distributions given only access to the gradient of the log-pdf. To the best of our knowledge, this is the first result that proves fast mixing for multimodal distributions.

研究の動機と目的

• ベイズ機械学習におけるマルチモーダルな分布からの効率的サンプリングの課題に取り組む。標準的手法は混合が遅いため、失敗する。
• 古典的ラングジュアン拡散の制限を克服する。これは、対数凸性（単一モード）分布に対してのみ高速混合を保証する。
• 特に等分散ガウス混合分布を対象として、マルチモーダルな事後分布に対する保証付き効率的サンプリングアルゴリズムを開発する。
• 事後分布の対数密度関数の勾配へのアクセスのみを要するため、複雑なモデルに対しても実用的であることを保証する。
• 次元数や逆温度範囲などの関連パラメータに対して、混合時間の理論的保証を多項式時間で得ることを目的とする。

提案手法

• 目的分布の異なる温度レベル間を移動できるように、ラングジュアン拡散とシミュレーテッド・テンペレーションを組み合わせたハイブリッドマルコフ連鎖を導入する。
• 局所的モードから脱出できるように、高い温度での分布の探索を可能にする温度スケジュールを用いる。
• 各温度レベルでメトロポリス・ハスティングス補正を適用し、詳細釣合の条件を満たし、正しい定常分布を保証する。
• ガウス混合分布の個々の成分の強い対数凸性を活用し、各温度での混合時間をバウンディングする。
• 温度間の遷移メカニズムを設計し、モード間の迅速な探索を実現するとともに、正しい平衡分布への収束を維持する。
• 温度空間全体の連合状態空間におけるスペクトルギャップとコンductanceの分析を通じて、全体の連鎖が多項式時間で混合することを証明する。

実験結果

リサーチクエスチョン

• RQ1 シミュレーテッド・テンペレーションを厳密にラングジュアン拡散と組み合わせることで、マルチモーダルな分布に対して高速混合を達成できるか？
• RQ2 ガウス分布のような強い対数凸性を持つ成分の混合物からサンプリングする場合、その結果得られるアルゴリズムが多項式時間の混合時間を維持するか？
• RQ3 密度関数の完全な評価を必要とせず、対数事後分布の勾配へのアクセスのみで、効率性が保証されるか？
• RQ4 複数のモードを持つターゲット分布に対しても、結合連鎖の混合時間が次元数および逆温度範囲に関して多項式的であるか？
• RQ5 マルチモーダルな事後分布において、標準的なラングジュアン拡散と比較して、アルゴリズムの収束速度はどのように異なるか？

主な発見

• 提案手法は、等分散ガウス混合分布を含むマルチモーダルな分布に対して、多項式時間の混合を達成する。
• 本手法は、標準的なラングジュアン拡散が示すマルチモーダルな設定における遅い混合問題を、保証付きで克服する。
• 成分分布にやや弱い仮定を課した場合でも、次元数および逆温度範囲に関して、混合時間が多項式的にバウンディングされる。
• 本手法は、対数密度関数の勾配へのアクセスのみを要するため、高次元のベイズ推論問題に適用可能である。
• 理論的分析により、ラングジュアンダイナミクスとシミュレーテッド・テンペレーションを組み合わせたサンプリング手法について、マルチモーダル分布に対して初めての保証付き高速混合保証を確立した。
• 成分が強い対数凸性であり、同じ形状（例えば同じ共分散）を持つ限り、任意のモード数に対して成り立つ。