[論文レビュー] Stein Point Markov Chain Monte Carlo

Wilson Ye Chen, Alessandro Barp+5 more|arXiv (Cornell University)|May 9, 2019

Markov Chains and Monte Carlo Methods被引用数 24

ひとこと要約

本稿では、反復最適化をマルコフ連鎖モンテカルロ法（MCMC）によるサンプリングに置き換えることで、計算コストを低減しつつ理論的整合性を維持する、新しい手法であるStein Point MCMC（SP-MCMC）を提案する。MCMCパスを用いて点を逐次選択することで、SP-MCMCは、ベイズ推論における複雑な事後分布の効率的かつスケーラブルな近似を実現し、収束保証を伴う。

ABSTRACT

An important task in machine learning and statistics is the approximation of a probability measure by an empirical measure supported on a discrete point set. Stein Points are a class of algorithms for this task, which proceed by sequentially minimising a Stein discrepancy between the empirical measure and the target and, hence, require the solution of a non-convex optimisation problem to obtain each new point. This paper removes the need to solve this optimisation problem by, instead, selecting each new point based on a Markov chain sample path. This significantly reduces the computational cost of Stein Points and leads to a suite of algorithms that are straightforward to implement. The new algorithms are illustrated on a set of challenging Bayesian inference problems, and rigorous theoretical guarantees of consistency are established.

研究の動機と目的

• Stein Pointsにおける点集合選択のための非凸最適化問題の高い計算コストを軽減すること。
• 既存の量子化手法の代替として、理論的整合性を保ちつつスケーラブルで実装可能な手法を開発すること。
• 反復的最適化の代わりにマルコフ連鎖サンプルを用いることで、計算不能な事後分布の効率的近似を可能とすること。
• 一般条件下で提案手法の理論的整合性を厳密に保証すること。
• 有限な計算予算のもとで、実用的かつ拡張可能なベイズ的不確実性評価のフレームワークを提供すること。

提案手法

• SP-MCMCは、Stein Pointsにおける非凸最適化ステップを、マルコフ連鎖サンプリング手順に置き換える。
• 各新しい点は、目的とする事後分布を標的とするマルコフ連鎖パスから選択され、繰り返しの最適化を回避する。
• Empirical measureとターゲット分布との距離を測るために、カーネルスティン不一致を用いる。
• 事前条件付きMCMCカーネルが採用され、事前条件行列Λは問題の次元に応じて適応的に選択される。
• アルゴリズムは逐次的に進行し、現在の連鎖状態を用いて次の点選択をガイドする。
• ターゲット密度の弱い正則性条件およびマルコフ連鎖のエルゴード性の下で、理論的整合性が確立される。

実験結果

リサーチクエスチョン

• RQ1 Stein Pointsの最適化にかかる計算負荷を、収束性や精度を損なわずに軽減できるか？
• RQ2 最適化をマルコフ連鎖サンプリングに置き換えても、Stein Pointsの理論的整合性が保たれるか？
• RQ3 SP-MCMCは、SVG、MED、Support Pointsといった既存手法と比較して、挑戦的なベイズ推論問題において性能と効率に優れているか？
• RQ4 対数正規化密度評価のみが可能である高次元で計算不能な事後分布に対しても、SP-MCMCを適用可能か？
• RQ5 事前条件行列およびカーネルの選択が、SP-MCMCの収束性と安定性に与える影響は何か？

主な発見

• SP-MCMCは、弱い正則性条件の下で、ターゲット事後分布の整合的近似を達成し、収束の理論的保証を有する。
• 繰り返しの非凸最適化ステップを排除することで、標準的なStein Pointsと比較して計算コストを顕著に低減する。
• d=4およびd=10のGoodwinオシレーター例において、SP-MCMCはMEDおよびSVGDを上回る性能を示した。特に、カーネルスティン不一致と有効サンプルサイズの観点で優位であった。
• d=10の場合、300点の後でSP-MCMCは約0.015のカーネルスティン不一致を達成し、同等の計算予算下でSVGやMEDを上回った。
• 固定事前条件行列（d=10の場合Λ=0.15I）を用いることで、高価なヘッシアン近似を必要とせず、安定的かつ効率的なサンプリングが可能となった。
• ターゲット密度が正規化定数までしか入手できない状況でも、SP-MCMCは高次元設定において頑健でスケーラブルであり、低不一致を維持した。