[論文レビュー] On the limitations of single-step drift and minorization in Markov chain convergence analysis

Qian Qin, James P. Hobert|arXiv (Cornell University)|Mar 21, 2020

Markov Chains and Monte Carlo Methods参考文献 37被引用数 4

ひとこと要約

本稿では、1ステップのドリフトおよびミニマライゼーション（d&m）条件に基づく収束速度の上限評価が、高次元のマコフ連鎖において根本的に制限されていることを示している。d&m条件下で達成可能な最良の上限を分析することで、真の収束速度が速い場合でさえも、これらの手法が急速な混合を捉えられていないことが明らかになった。

ABSTRACT

Over the last three decades, there has been a considerable effort within the applied probability community to develop techniques for bounding the convergence rates of general state space Markov chains. Most of these results assume the existence of drift and minorization (d\&m) conditions. It has often been observed that convergence rate bounds based on single-step d\&m tend to be overly conservative, especially in high-dimensional situations. This article builds a framework for studying this phenomenon. It is shown that any convergence rate bound based on a set of d\&m conditions cannot do better than a certain unknown optimal bound. Strategies are designed to put bounds on the optimal bound itself, and this allows one to quantify the extent to which a d\&m-based convergence rate bound can be sharp. The new theory is applied to several examples, including a Gaussian autoregressive process (whose true convergence rate is known), and a Metropolis adjusted Langevin algorithm. The results strongly suggest that convergence rate bounds based on single-step d\&m conditions are quite inadequate in high-dimensional settings.

研究の動機と目的

• ドリフトおよびミニマライゼーション（d&m）に基づく収束速度の上限評価が、なぜしばしば過剰に保守的であるのか、特に高次元の設定においてその理由を調査すること。
• 与えられたd&m条件のもとで達成可能な最良の上限を定量化するためのフレームワークを構築すること。
• d&m手法が高次元問題に対して根本的に不適切であるかどうかを、上限評価と真の収束速度を比較することで評価すること。
• 具体的な例への適用を通じて、フレームワークを実用的に検証すること。例として、ガウス過程の自己回帰過程と、メトロポリス補正付きランジュバンアルゴリズムを用いる。

提案手法

• 与えられたd&m条件のもとで達成可能な最良の収束速度上限を分析する理論的フレームワークを提案する。
• 最良の上限を、与えられたマルコフ連鎖に対して可能なすべてのd&mに基づく収束速度上界の下界として定義する。
• 2変量のドリフト条件とカップリング技術を用いて、d&mに基づく最良の収束速度の下界を導出する。
• 具体的な例（ガウス自己回帰過程やメトロポリス補正付きランジュバンアルゴリズム）にフレームワークを適用し、性能を評価する。
• 集中不等式および尾部確率の評価（例：Φ(·)）を用いて、高次元における収束速度上限の漸近的挙動を定量化する。
• 全変動距離と量ρ*(P)を真の収束速度として定義し、d&mに基づく上界と比較する。

実験結果

リサーチクエスチョン

• RQ1 高次元のマコフ連鎖において、d&mに基づく収束速度の上限評価はどの程度制限されているか？
• RQ2 d&mを用いて達成可能な最良の収束速度上限は定量的に評価可能であり、それが真の収束速度と比べてどうなるか？
• RQ3 d&mに基づく上限がしばしば過剰に保守的である理由は何か？これは方法論的欠陥によるものか、根本的な制限によるものか？
• RQ4 d&mに基づく上限は、高次元のターゲット分布における急速な混合をどの程度うまく捉えていないか？
• RQ5 このフレームワークを用いることで、d&m手法が高次元MCMC収束解析において根本的に不適切であることを示せるか？

主な発見

• 高次元設定において、1ステップのd&m条件に基づく最良の収束速度上限は、真の収束速度ρ*(P)よりも厳密に悪い。
• ガウス自己回帰過程の例では、d&mに基づく上限が既知の真の収束速度よりも著しく緩いことが示された。
• メトロポリス補正付きランジュバンアルゴリズムでは、次元が増加するにつれてd&mに基づく上限が急速に悪化し、根本的な不適切さが明らかになった。
• フレームワークにより、d&mに基づく上限は、真の収束速度が速くても、あるしきい値を超えては改善できないことが判明した。
• d&m条件下での最良の上限の漸近的挙動は、次元が増加するにつれて1に近づくことが示され、高次元における性能の悪さが裏付けられた。
• 解析により、d&mに基づく上限は、ドリフト関数の選択が悪いからではなく、1ステップ遷移核の構造そのものに起因する根本的制限によって制限されていることが確認された。