[論文レビュー] Kernel Adaptive Metropolis-Hastings

Dino Sejdinović, Heiko Strathmann+3 more|arXiv (Cornell University)|Jul 19, 2013

Gaussian Processes and Bayesian Inference参考文献 25被引用数 26

ひとこと要約

この論文では、再帰的カーネルヒルバート空間（RKHS）にマルコフ連鎖のサンプルをマップすることで局所的共分散構造を学習する勾配フリーで適応可能なMCMCアルゴリズム、カーネル適応メトロポリス・ハスティングス（MCMC Kameleon）を提案する。特徴空間の移動を解析的に統合することで、位置に依存するガウス提案分布を構築し、非線形なターゲットのサポートに適応する。複雑で非線形な分布において、固定および適応的サンプラーに比べて混合性能と分位数推定の正確性が著しく向上する。

ABSTRACT

A Kernel Adaptive Metropolis-Hastings algorithm is introduced, for the purpose of sampling from a target distribution with strongly nonlinear support. The algorithm embeds the trajectory of the Markov chain into a reproducing kernel Hilbert space (RKHS), such that the feature space covariance of the samples informs the choice of proposal. The procedure is computationally efficient and straightforward to implement, since the RKHS moves can be integrated out analytically: our proposal distribution in the original space is a normal distribution whose mean and covariance depend on where the current sample lies in the support of the target distribution, and adapts to its local covariance structure. Furthermore, the procedure requires neither gradients nor any other higher order information about the target, making it particularly attractive for contexts such as Pseudo-Marginal MCMC. Kernel Adaptive Metropolis-Hastings outperforms competing fixed and adaptive samplers on multivariate, highly nonlinear target distributions, arising in both real-world and synthetic examples. Code may be downloaded at https://github.com/karlnapf/kameleon-mcmc.

研究の動機と目的

• 高次元で強く非線形なターゲット分布、特に複雑なサポート構造を有する分布からの効率的サンプリングの課題に取り組む。
• 固定およびグローバルな適応的提案が、ターゲット分布の局所的で非ガウス的な依存関係を捉えられないという限界を克服する。
• 高階微分を必要とせず、局所幾何構造に基づいて提案を適応する計算効率の良い勾配フリーなMCMC手法を開発する。
• 尤度が不確実またはノイズが混入する場合の疑似周辺尤度MCMC設定においても、頑健な性能を発揮できるようにする。
• カーネル埋め込みを用いて局所的共分散構造を学習することで、実験的分位数推定と平均ノルムの正確性を向上させる。

提案手法

• カーネル特徴写像を用いて、入力空間のサンプルを再帰的カーネルヒルバート空間（RKHS）にマップする。
• チェーン履歴の経験的共分散作用素をRKHSで推定し、局所的な幾何的構造を捉える。
• 現在の状態を中心とする多変量正規分布として、入力空間における提案分布を構築する。その共分散はRKHSの共分散作用素から導出される。
• 特徴空間の移動を解析的に統合することで、元の空間における閉形式の位置に依存するガウス提案分布が得られる。
• ターゲット測度のカーネル埋め込みを用いて、勾配情報なしに提案の適応を制御する。
• 得られたアルゴリズムをメトロポリス・ハスティングスフレームワークに適用し、未正規化ターゲット密度に基づいて提案を受容または却下する。

実験結果

リサーチクエスチョン

• RQ1 カーネルに基づく特徴空間共分散推定は、非線形ターゲット分布におけるMCMCの提案適応を改善できるか？
• RQ2 RKHSにおける局所的共分散適応は、グローバル共分散適応と比較して混合性能と分位数正確性においてどのように異なるか？
• RQ3 勾配フリーでカーネルに基づくMCMCサンプラーは、バナナ分布やフラワー分布といった高次元で非線形性の強いターゲットにおいて、既存の適応的サンプラーを上回る性能を発揮できるか？
• RQ4 尤度が推定されている疑似周辺尤度MCMC設定において、提案手法は良好な性能を維持できるか？
• RQ5 アルゴリズムの性能は、カーネルの選定やチェーン履歴の部分サンプリングにどの程度依存するか？

主な発見

• 強い非線形性（b=0.1）を示す8次元バナナターゲットにおいて、MCMC Kameleonは標準メトロポリス（SM）、適応的メトロポリス（AM）、局所スケーリング付き適応的メトロポリス（AM-LS）を著しく上回る性能を発揮する。
• フラワー分布においても、AMが正しいグローバル共分散推定を持つにもかかわらず、局所構造を捉えられていないため、MCMC KameleonはAMおよびAM-LSに比して優れた分位数性能を達成する。
• 高い受容率（最適値に近い0.234）を維持しながら、正確な実験的平均ノルムと分位数を達成しており、高速な混合性能とサポートの適切な探索を示している。
• SMはランダムウォーク的挙動により失敗し、ターゲットの一つの領域に閉じ込められ、平均ノルムと分位数のずれが顕著になる。
• 固定スケールを用いたAMは過剰にスケーリングされた提案のため受容率が低く、AM-LSは過小スケーリングされた提案のため分位数性能が悪く、両者とも高密度領域を効果的に探索できない。
• アルゴリズムの性能は、非ガウス的かつ非楕円的ターゲット分布に対しても頑健であり、カーネルに基づく共分散学習により、局所的で曲がったサポート構造に適応できる能力を示している。