[論文レビュー] Moving Target Monte Carlo

Haoyun Ying, Keheng Mao+1 more|arXiv (Cornell University)|Mar 10, 2020

Markov Chains and Monte Carlo Methods参考文献 12被引用数 6

ひとこと要約

本稿では、真の事後分布の評価に高コストがかかる状況において、繰り返し事後分布の近似を更新することで、計算コストを低減する非マルコフ連鎖モンテカルロ法（Moving Target Monte Carlo, MTMC）を提案する。MTMCは、受理意思決定にのみ近似を用い、受理された場合にのみ近似を更新することで、真の事後分布への収束を保証するとともに、無駄な計算を最小限に抑える。理論的保証として、弱い条件下でも収束性と収束速度の推定が得られる。

ABSTRACT

The Markov Chain Monte Carlo (MCMC) methods are popular when considering sampling from a high-dimensional random variable $\mathbf{x}$ with possibly unnormalised probability density $p$ and observed data $\mathbf{d}$. However, MCMC requires evaluating the posterior distribution $p(\mathbf{x}|\mathbf{d})$ of the proposed candidate $\mathbf{x}$ at each iteration when constructing the acceptance rate. This is costly when such evaluations are intractable. In this paper, we introduce a new non-Markovian sampling algorithm called Moving Target Monte Carlo (MTMC). The acceptance rate at $n$-th iteration is constructed using an iteratively updated approximation of the posterior distribution $a_n(\mathbf{x})$ instead of $p(\mathbf{x}|\mathbf{d})$. The true value of the posterior $p(\mathbf{x}|\mathbf{d})$ is only calculated if the candidate $\mathbf{x}$ is accepted. The approximation $a_n$ utilises these evaluations and converges to $p$ as $n ightarrow \infty$. A proof of convergence and estimation of convergence rate in different situations are given.

研究の動機と目的

• 高次元ベイズ推論における未正規化事後分布の評価にかかる計算コストの高い問題に対処すること。
• MCMCにおける無駄な評価を減らすために、受理意思決定に用いる事後分布の進化する近似を用いること。
• 履歴サンプルに依存するが、依然として収束を保証する非マルコフ連鎖のサンプリング手法を開発すること。
• 提案手法に対して理論的収束保証と収束速度の推定を提供すること。
• 事前分布に関する知識が不要であることを示し、均一分布からの開始が可能であることを示すこと。

提案手法

• MTMCは各反復 $ n $ において、事後分布 $ p(\mathbf{x}|\mathbf{d}) $ の反復的更新近似 $ a_n $ を用いて受理確率を計算する。
• 真の事後分布 $ p(\mathbf{x}|\mathbf{d}) $ は、候補 $ \mathbf{x} $ が受理された場合にのみ評価され、高価な評価を最小限に抑える。
• 近似 $ a_n $ は受理されたサンプルを用いて更新され、$ n \to \infty $ のとき真の事後分布に収束することが保証される。
• 収束はカップリングの議論を用いて証明され、適応的MCMCの技術を非マルコフ連鎖の性質に対応させるために適応されている。
• 独立提案の場合には固有値解析を用いて収束速度を推定し、一般の場合にはカップリングの議論を用いる。
• 近似手法として最近傍探索や補間に基づく更新を柔軟に組み込むことができ、事前分布に関する知識が不要である。

実験結果

リサーチクエスチョン

• RQ1 履歴サンプルに依存するが、真の事後分布に収束する非マルコフ連鎖のサンプリング手法を設計できるか？
• RQ2 事前分布に関する知識がなくても、事後分布の近似を適応的に更新することで受理効率を向上させられるか？
• RQ3 履歴サンプルに基づく時変受理基準を用いるアルゴリズムの収束を保証する理論的条件は何か？
• RQ4 このような適応的アルゴリズムの収束速度を定量的に境界づけられるか？
• RQ5 事後分布が評価困難または高価な状況においても、この手法を適用できるか？

主な発見

• MTMCアルゴリズムは、履歴サンプルに依存する非マルコフ連鎖であるが、弱い条件下でも真の事後分布に収束することが保証される。
• 収束はカップリングの議論により証明され、サンプリング分布と目標分布との距離が時間とともに減少することが示された。
• 独立提案の場合、収束速度は $ \|P_m^N - a_m(\cdot)\| \leq (1 - \epsilon)^{\lceil N/N_0 \rceil} $ で有界であり、$ \epsilon $ はマイノリゼーション定数である。
• 近似が固定されている場合、収束速度はDoeblin条件と最小提案密度比に依存し、連続性およびコンパクト性の仮定の下で明示的な境界が導出可能である。
• 初期近似の選択に対してロバストである—均一分布であっても、定理4.6の2条件を満たしていれば収束が保証される。
• フレームワークは、局所的挙動に応じて補間や回帰手法を切り替えるような適応的近似戦略を許容し、理論的保証を損なわない。