[論文レビュー] Optimization assisted MCMC

Ricky Fok, Aijun An+1 more|arXiv (Cornell University)|Sep 9, 2017

Markov Chains and Monte Carlo Methods参考文献 13被引用数 3

ひとこと要約

本稿では、共形的測地線によるグローバル最適化と局所探索（例：BFGS）を統合することで、高次元の多モード分布におけるモード探索を加速するフレームワーク、Optimization-Assisted MCMC を提案する。まず共形変換された多様体上の測地線経路を用いてモードを特定し、その後局所最適化で精緻化することで、MCMC サンプリングにおける収束速度が向上し、バイアスが顕著に低減される。平均推定における相対誤差に関しては、WHMC よりも最大で1桁の改善が達成された。

ABSTRACT

Markov Chain Monte Carlo (MCMC) sampling methods are widely used but often encounter either slow convergence or biased sampling when applied to multimodal high dimensional distributions. In this paper, we present a general framework of improving classical MCMC samplers by employing a global optimization method. The global optimization method first reduces a high dimensional search to an one dimensional geodesic to find a starting point close to a local mode. The search is accelerated and completed by using a local search method such as BFGS. We modify the target distribution by extracting a local Gaussian distribution aound the found mode. The process is repeated to find all the modes during sampling on the fly. We integrate the optimization algorithm into the Wormhole Hamiltonian Monte Carlo (WHMC) method. Experimental results show that, when applied to high dimensional, multimodal Gaussian mixture models and the network sensor localization problem, the proposed method achieves much faster convergence, with relative error from the mean improved by about an order of magnitude than WHMC in some cases.

研究の動機と目的

• 高次元の多モード事後分布における MCMC サンプリングの収束遅さとモード探索バイアスを解消すること。
• WHMC の限界、例えばランダムな初期点依存性や残差ポテンシャルの減算による架空のモード生成を克服すること。
• サンプリング開始前にモード同定の効率性と正確性を向上させ、MCMC 評価におけるリアルタイムバイアスを低減すること。
• 最適化を初期段階から未発見のモードに向けて誘導することで、すべての主要モードをよりよく探索できるようにすること。
• 詳細バランスを維持しつつ、MCMC にグローバル最適化を統合し、より高速で信頼性の高い収束を実現すること。

提案手法

• 本手法は、残差対数尤度から導出されるリーマン多様体上での共形的測地線を構築し、複数の局所最大値を通過可能な1次元の経路を実現する。
• この測地線上でのグローバル最適化戦略を用いて、サンプリング開始前に主要モードを特定し、顕著なモードを逃すリスクを低減する。
• 測地線上で特定されたモード推定値を、BFGS を用いた局所最適化で精緻化することで、精度と収束速度を向上させる。
• 発見された各モードの周囲に局所的ガウス近似を抽出することで、ターゲット分布を変更し、効率的なサンプリングとモード分離を可能にする。
• Wormhole Hamiltonian Monte Carlo (WHMC) に統合し、発見されたモードを用いて再生と提案分布をガイドする。
• モード間の遷移をワームホール計量でガイドするベクトル場を組み込んだ修正版ループフロッグ積分器を用いることで、モード間距離を短縮する。

実験結果

リサーチクエスチョン

• RQ1 測地線に基づくグローバル最適化経路は、高次元の多モード分布において複数のモードを信頼性高く特定できるか？
• RQ2 最適化による事前モード発見は、MCMC におけるサンプリングバイアスを低減し、収束速度を向上させるか？
• RQ3 平均および共分散推定における相対誤差の観点から、本手法は WHMC と比べてどのように差をつけるか？
• RQ4 共形幾何と測地線経路の使用は、残差ポテンシャル法で一般的に見られる勾配消失問題を回避できるか？
• RQ5 MCMC に最適化を統合することで、ランダムリスタートの必要性が低下し、再生効率が向上するか？

主な発見

• 提案手法は、高次元の多モードガウス混合モデルにおいて、WHMC よりも顕著に高速な収束を達成した。
• テスト事例において、平均推定における相対誤差は WHMC よりも約1桁改善された。
• 残差ポテンシャルに基づくアプローチで一般的に生じる架空のモードを効果的に回避できた。
• すべての主要モードをサンプリング開始前に特定することで、リアルタイムバイアスが低減され、事後分布推定の正確性が向上した。
• 共形的測地線の使用により、複数の吸引域を効率的に走破でき、モード発見の効率性が向上した。
• ワームホール計量と修正版ループフロッグ積分器を介した WHMC への統合により、ハミルトニアン力学を維持しつつ、モード間遷移を加速できた。