[論文レビュー] General mixing time bounds for finite Markov chains via the absolute spectral gap

Daniel C. Jerison|arXiv (Cornell University)|Oct 30, 2013

Markov Chains and Monte Carlo Methods参考文献 25被引用数 8

ひとこと要約

本稿は、可逆性や既約性を仮定せずに、有限マルコフ連鎖の全変動混合時間に対する一般上界を、絶対スペクトルギャップと状態空間サイズを用いて確立する。主な結果は、従来の境界が失敗する非可逆連鎖を捉えることができる $N t_{\text{rel}} \log t_{\text{rel}}$ 階の有限上界であり、非負の固有値をもつ可逆連鎖に対しては、幾何的強定常時刻を用いたより鋭い境界が得られる。

ABSTRACT

We prove an upper bound on the total variation mixing time of a finite Markov chain in terms of the absolute spectral gap and the number of elements in the state space. Unlike results requiring reversibility or irreducibility, this bound is finite whenever the chain converges. The dependence on the number of elements means that the new bound cannot capture the behavior of rapidly mixing chains; but an example shows that such dependence is necessary. We also provide a sharpened result for reversible chains that are not necessarily irreducible. The proof of the general bound exploits a connection between linear recurrence relations and Schur functions due to Hou and Mu, while the sharpened bound for reversible chains arises as a consequence of the stochastic interpretation of eigenvalues developed by Diaconis, Fill, and Miclo. In particular, for every reversible chain with nonnegative eigenvalues $β_j$ we find a strong stationary time whose law is the sum of independent geometric random variables having mean $1/(1-β_j)$.

研究の動機と目的

• すべての有限マルコフ連鎖に対して、可逆性や既約性を仮定せずに、全変動混合時間の有限上界を提供すること。
• 既存の境界における $\log \pi_{\text{min}}^{-1}$ 依存性を、非可逆連鎖において必須となる状態空間サイズ $N$ への依存性に置き換えること。
• 固有値の確率的解釈と幾何的強定常時刻を用いて、非負の固有値をもつ可逆連鎖に対してより鋭い境界を確立すること。
• 非可逆連鎖において $N$ 依存性が必要であることを示すために、混合時間が $\Theta(N t_{\text{rel}})$ である非可逆連鎖を構築することで、一般上界における $N$-依存性が必要であることを示すこと。

提案手法

• Hou と Mu を通じた線形漸化式とシュール関数の関係を用いて、一般上界を導出する。
• Diaconis, Fill, および Miclo が開発した固有値の確率的解釈を応用し、平均 $1/(1 - \beta_j)$ の独立な幾何確率変数の和として定常時刻を構築する。
• 二項係数の見積もりと $\beta_\star^{t - (N-2)}$ の境界を用いて、全変動距離の上界を導出する。
• 不等式における $t$ の対数的表現をバインドするための凹関数線形化技術を用いる。
• 階乗項を簡略化するために、Stirlingの近似 $\log d! \geq d \log d - d + 1$ を用いる。
• $\beta_\star = 0$ および $\beta_\star > 0$ の場合の背理法とケース解析により、すべてのケースで境界が成り立つことを保証する。

実験結果

リサーチクエスチョン

• RQ1 絶対スペクトルギャップと状態空間サイズのみを用いて、可逆性や既約性を仮定せずに、すべての有限マルコフ連鎖に対して有限上界を導出できるか？
• RQ2 非可逆連鎖において混合時間境界の $N$-依存性は必要か？避けられるか？
• RQ3 可逆性のもとで、一般上界の $\log t_{\text{rel}}$ 要素を除去できるか？
• RQ4 既存の境界（例：命題1.1）と比較して、$\pi_{\text{min}}$ への依存性はどのように異なるか？
• RQ5 非可逆連鎖の実際の混合時間に関して、この境界の鋭さはどの程度か？

主な発見

• 一般混合時間境界は、$\beta_\star < 1$ を満たすすべての有限マルコフ連鎖に対して、$t_{\text{mix}}(\varepsilon) \leq 2N t_{\text{rel}} \log t_{\text{rel}} + 4(1 + \log 2)N t_{\text{rel}} + 2(\log \varepsilon^{-1} - 1)t_{\text{rel}}$ として成立する。
• 境界は $\pi_{\text{min}} = 0$ の場合でも有限であり、命題1.1とは異なり、$N$-依存性が実際に必要であることが、混合時間が $\Theta(N t_{\text{rel}})$ である非可逆連鎖の構築によって示された。
• 非負の固有値をもつ可逆連鎖に対しては、境界が $t_{\text{mix}}(\varepsilon) \leq 2\left(N + 2\log \varepsilon^{-1} - 1 + \sqrt{2(N-2)\log \varepsilon^{-1}}\right)t_{\text{rel}}$ に改善され、$\log t_{\text{rel}}$ 要素が除去される。
• 証明技法はシュール関数と線形漸化式の関係に依拠し、平均 $1/(1 - \beta_j)$ の独立な幾何確率変数の和として定常時刻を構築する。
• $t \approx N-1$ の近傍では境界が鋭くないが、$t$ が $N t_{\text{rel}} \log t_{\text{rel}}$ のオーダーになると有効になる。
• $\log t_{\text{rel}}$ 項は証明の結果として生じる可能性があり、$O(N t_{\text{rel}})$ より遅い混合時間を持つ連鎖は知られていないため、この因子が本当に必要かどうかは未解決のままである。