[論文レビュー] Rate optimality of Random walk Metropolis algorithm in high-dimension with heavy-tailed target distribution

Kengo Kamatani|arXiv (Cornell University)|Jun 20, 2014

Markov Chains and Monte Carlo Methods参考文献 12被引用数 3

ひとこと要約

本稿では、重たい尾を持つ目標分布を伴う高次元設定において、ランダムウォークメトロポリス法（RWM）が、正規分布を刻み幅分布として用いることで最適収束速度を達成することを確立している。これは、重たい尾を持つ刻み幅が性能を向上させるとの予想とは対照的である。主な結果は、軽い尾を持つ目標分布では最適収束速度が $ d $、重たい尾を持つ目標分布では $ d^2 $ であり、両者とも標準正規刻み幅分布によって達成されることであり、これはすべての対称刻み幅分布の中で最適収束速度を達成する。

ABSTRACT

The choice of the increment distribution is crucial for the random-walk Metropolis-Hastings (RWM) algorithm. In this paper we study the optimal choice in high-dimension setting among all possible increment distributions. The conclusion is rather counter intuitive, but the optimal rate of convergence is attained by the usual choice, the normal distribution as the increment distribution. In particular, no heavy-tailed increment distribution can improve the rate.

研究の動機と目的

• 高次元設定における重たい尾を持つ目標分布を伴うランダムウォークメトロポリス法（RWM）の最適刻み幅分布を特定すること。
• 次元 $ d \to \infty $ の下でのRWMアルゴリズムの収束速度を、刻み幅分布の選択に注目して分析すること。
• 重たい尾を持つ刻み幅分布が、標準正規分布よりも収束速度を向上させられるかどうかという未解決の問題を解消すること。
• 軽い尾と重たい尾の両方の目標分布において、正規刻み幅分布が最適収束速度を達成することを確立すること。
• 重たい尾を持つ代替案が理論的に魅力的であるにもかかわらず、RWMにおいて広く用いられる正規分布の背後にある理論的根拠を提供すること。

提案手法

• 対称刻み幅分布 $ \Gamma^d $ を用いたRWMアルゴリズムを分析し、提案は $ x^* = x + w $、$ w \sim \Gamma^d $ であり、受容確率は $ \min\left\{1, \frac{p^d(x^*)}{p^d(x)}\right\} $ である。
• 目標分布 $ P^d $ を正規分布のスケール混合とし、混合分布 $ Q $ が離散的である場合を軽い尾、密度を持つ場合を重たい尾とする。
• 次元 $ d \to \infty $ の下で、混合分布 $ Q $ が固定され、滑らかさおよび減少性の条件を満たすものと仮定し、拡散極限のヒューリスティクスと漸近的解析を用いる。
• スティーンの方法と交換可能なペア構成を用いて、ランダムウォークの座標の分布と標準正規分布との間のワッサーシュタイン距離および全 Variation 距離を評価する。
• ギルサンフの公式を用いて、特に $ S \sim N(\sigma^2/2, \sigma^2) $ のような正規確率変数の指数チフトの期待値を解析し、モーメントの上限を導出する。
• $ \alpha(d) = o(d) $ の下で、座標差の収束確率がゼロに収束することを示し、非退化極限を得るには $ \alpha(d) \sim d $ である必要があることを証明し、$ \alpha(d) = d $ が非退化極限において最適であることを示す。

実験結果

リサーチクエスチョン

• RQ1 高次元の重たい尾を持つ目標分布を伴うRWMアルゴリズムにおいて、重たい尾を持つ刻み幅分布が収束速度を向上させられるか。
• RQ2 次元 $ d \to \infty $ の下でのRWMアルゴリズムの最適収束速度は何か。また、どの刻み幅分布がそれを達成するか。
• RQ3 標準正規刻み幅分布は、軽い尾と重たい尾の両方の目標分布において、すべての対称刻み幅分布の中で収束速度が最適であるか。
• RQ4 刻み幅分布の選択が、高次元における非退化拡散極限の存在に影響を与えるか。
• RQ5 非正規刻み幅を用いることで、軽い尾の場合は $ d $ を超える、重たい尾の場合は $ d^2 $ を超える収束速度を向上させられるか。

主な発見

• 軽い尾を持つ目標分布（例：多変量正規分布）では、最適収束速度は $ \alpha(d) = d $ であり、この速度は刻み幅分布が正規分布のとき達成される。
• 重たい尾を持つ目標分布（例：密度を持つ正規分布のスケール混合）では、最適収束速度は $ \alpha(d) = d^2 $ であり、再び正規刻み幅分布によって達成される。
• 重たい尾を持つ刻み幅分布は、軽い尾または重たい尾の両ケースにおいて、それぞれ $ d $ や $ d^2 $ を超える収束速度を向上させることはできない。
• 反復回数 $ \alpha(d) = o(d) $ の場合、刻み幅分布にかかわらず、RWMアルゴリズムの出力は少なくとも1つの座標で退化する。
• 正規刻み幅分布は、重たい尾の設定においても、すべての対称刻み幅分布の中で収束速度が最適である。これは、重たい尾を持つ目標分布をよりよく探索できると直感的に予想されるが、その予想とは対照的である。
• スティーンの方法とギルサンフの公式による理論的境界は、正規刻み幅分布が拡散極限における漸近的乖離を最小化することを確認し、その最適性を支持する。