[論文レビュー] Concentration Inequalities and UQ Bounds for Hypocoercive MCMC Samplers

Jeremiah Birrell, Luc Rey-Bellet|arXiv (Cornell University)|Jul 27, 2019

Markov Chains and Monte Carlo Methods参考文献 43被引用数 5

ひとこと要約

本稿では、非可逆なMCMCサンプラーのエルゴード平均に対して、ベルンシュタイン型の集中不等式を確立し、後方予測の非漸近的信頼区間や、近似ダイナミクスを用いた際のバイアスの不確実性評価を可能にする。主な貢献は、非可逆性を有する半群理論とファインマン＝ヘイス式表現に基づく、厳密な性能保証フレームワークの構築である。

ABSTRACT

In this work we provide performance guarantees for hypocoercive non-reversible MCMC samplers $X_t$ with invariant measure $μ_*$; our results apply in particular to the Langevin equation, Hamiltonian Monte-Carlo, and the bouncy particle and zig-zag samplers. Specifically, we establish a concentration inequality of Bernstein type for ergodic averages $\frac{1}{T} \int_0^T f(X_t)\, dt$. As a consequence we provide two types of performance guarantees: (a) explicit non-asymptotic confidence intervals for $\int f dμ_*$ when using a finite time ergodic average with given initial condition $μ$ and (b) uncertainty quantification (UQ) bounds, expressed in terms of relative entropy rate, on the bias of $\int f dμ_*$ when using an alternative or approximate processes $\widetilde{X}_t$. (Results in (b) generalize results (arXiv:1812.05174) from the authors for coercive dynamics.) The concentration inequality is proved by combining the approach via Feynman-Kac semigroups first noted by Wu with the hypocoercive estimates of Dolbeault, Mouhot and Schmeiser (arXiv:1005.1495) developed for the Langevin equation and generalized to partially deterministic Markov processes by Andrieu et al. (arXiv:1808.08592).

研究の動機と目的

• 非可逆なヒポコーシブMCMCサンプラーの非漸近的性能保証を提供すること、特にエルゴード平均の信頼区間を含む。
• 真のダイナミクスの代わりに近似または代替の確率過程を用いることで生じるバイアスを定量化すること。
• 強 coercive 動的系にとどまらず、より一般的なヒポコーシブ設定への不確実性評価結果の拡張。
• ランジュバン、Zig-Zag、Bouncy Particle、ハイブリッドHMCといった多様なサンプラーの性能分析を、共通の理論的枠組みで統一すること。
• ドゥルベオール、ムワール、シュマイザーによるヒポコーシブ推定と、ファインマン＝ヘイス式半群を用いたエルゴード平均の集中不等式の確立。

提案手法

• ウー（2000年）が提唱したファインマン＝ヘイス式半群アプローチを用い、エルゴード平均 $ \frac{1}{T}\int_0^T f(X_t)\,dt $ に対してベルンシュタイン型の集中不等式を導出する。
• ドゥルベオール、ムワール、シュマイザー（2009年、2015年）のヒポコーシブ推定と、アンドリューら（2018年）による一般化を、部分的に決定的過程に適用する。
• スペクトルギャップの制御と $ L^2(\mu^*) $ における指数的収束を保証するため、修正されたスカラー積 $ \langle f,g\rangle_\epsilon = \langle f,g\rangle + \epsilon\langle f, Gg\rangle $ を用いる。
• 生成子 $ A = S + T $ の作用素ノルムとスペクトル特性（対称部と反対称部に分解）を用いて、分散およびバイアス項の境界を確立する。
• 定理3の3つの仮定（スペクトルギャップの制御、$ G $ の有界性、射影構造）を特定のサンプラーに対して検証することで、フレームワークを適用する。
• 明示的な境界 $ v_\pm $ および $ b_\pm $ を $ \|\widehat{f}\|_\infty $、$ \Lambda(\epsilon) $、および $ \text{Var}_{\mu^*}[f] $ の関数として導出し、集中不等式に結びつける。

実験結果

リサーチクエスチョン

• RQ1 初期条件が与えられた非可逆ヒポコーシブMCMCサンプラーのエルゴード平均に対して、非漸近的信頼区間を構築することは可能か？
• RQ2 近似過程 $ \widetilde{X}_t $ を用いた推定量のバイアスは、相対エントロピー率の観点からどのように定量化できるか？
• RQ3 強 coercive 動的系に限らない、ヒポコーシブダイナミクスへの集中不等式フレームワークの拡張は可能か、特に非可逆サンプラーに適用できるか？
• RQ4 Zig-Zag、Bouncy Particle、ハイブリッドHMCの文脈において、エルゴード平均の明示的性能境界は何か？
• RQ5 生成子のスペクトル特性と修正スカラー積が、エルゴード平均の集中挙動にどのように影響を与えるか？

主な発見

• 有限時間 $ T $ に対して、ヒポコーシブMCMCサンプラーのエルゴード平均に対するベルンシュタイン型の集中不等式が確立され、初期分布に明示的な依存関係を持つ。
• 初期測度 $ \mu $、関数 $ f $、時間 $ T $ に明示的に依存する $ \int f\,d\mu^* $ の非漸近的信頼区間が導出された。
• 代替過程 $ \widetilde{X}_t $ を用いた際の $ \int f\,d\mu^* $ のバイアスに対する不確実性評価境界が提供され、$ X_t $ と $ \widetilde{X}_t $ の法則間の相対エントロピー率を用いて表現された。
• 分散項の境界は $ v_\pm \leq \frac{(1+\epsilon)(1 - \epsilon^2/4)}{1-\epsilon} \cdot \frac{2\text{Var}_{\mu^*}[f]}{\Lambda(\epsilon)} $ を満たし、$ \Lambda(\epsilon) $ がヒポコーシブ収束速度を制御する。
• バイアス項は $ b_\pm \leq \frac{(1+\epsilon)^2}{1-\epsilon} \cdot \frac{\|\widehat{f}\|_\infty}{\Lambda(\epsilon)} $ で抑えられ、関数の変動とスペクトルギャップに明示的な依存関係があることが示された。
• バイレルとレイ＝ベルレット（2018年）の強 coercive 動的系への先行研究を、非可逆性を有するヒポコーシブ設定へと一般化し、Zig-Zag や Bouncy Particle を含む広範な非可逆サンプラーのクラスをカバーした。