[論文レビュー] The Computational Complexity of Estimating Convergence Time

Nayantara Bhatnagar, Andrej Bogdanov+1 more|arXiv (Cornell University)|Jul 1, 2010

Markov Chains and Monte Carlo Methods参考文献 10被引用数 5

ひとこと要約

この論文は、マルコフ連鎖における収束時間の推定の計算的困難性を確立し、急速に混合する連鎖が時刻 $ t $ で定常分布に近いかどうか、または時刻 $ ct $ でそれから遠いかを区別することは、設定に応じて統計的ゼロ知識（SZK）、co-NP、PSPACE に属する計算困難であることを証明している。結果として、混合時間の多項式時間であることが分かっても、収束診断は標準の計算複雑性仮定のもとで依然として計算的に非効率的であることが示された。

ABSTRACT

An important problem in the implementation of Markov Chain Monte Carlo algorithms is to determine the convergence time, or the number of iterations before the chain is close to stationarity. For many Markov chains used in practice this time is not known. Even in cases where the convergence time is known to be polynomial, the theoretical bounds are often too crude to be practical. Thus, practitioners like to carry out some form of statistical analysis in order to assess convergence. This has led to the development of a number of methods known as convergence diagnostics which attempt to diagnose whether the Markov chain is far from stationarity. We study the problem of testing convergence in the following settings and prove that the problem is hard in a computational sense: Given a Markov chain that mixes rapidly, it is hard for Statistical Zero Knowledge (SZK-hard) to distinguish whether starting from a given state, the chain is close to stationarity by time t or far from stationarity at time ct for a constant c. We show the problem is in AM intersect coAM. Second, given a Markov chain that mixes rapidly it is coNP-hard to distinguish whether it is close to stationarity by time t or far from stationarity at time ct for a constant c. The problem is in coAM. Finally, it is PSPACE-complete to distinguish whether the Markov chain is close to stationarity by time t or far from being mixed at time ct for c at least 1.

研究の動機と目的

• マルコフ連鎖における収束時間推定問題を計算的決定問題として形式化すること。
• 急速に混合することが既知であるにもかかわらず、与えられた時刻 $ t $ においてマルコフ連鎖が定常分布に近いか遠いかを決定する計算複雑性を調査すること。
• 収束診断の限界を、その計算的困難性を分析することで評価すること。
• さまざまな仮定のもとで収束検出の厳密な複雑性境界（SZK、co-NP、PSPACE）を確立すること。
• 多項式時間の混合時間の境界が与えられていても、実際の計算においては収束診断が効率的に計算できないことを示すこと。

提案手法

• 収束検出を決定問題として形式化：時刻 $ t $ で連鎖が $ \frac{1}{4} $-近傍にあり、時刻 $ ct $ で $ \frac{1}{4} $-遠くにあるかどうかを区別する。
• 計算複雑性理論における既知の困難問題（例：NP、co-NP、PSPACE）から、チューリングマシンのシミュレーションを介して収束検出問題への還元を行う。
• 非決定的チューリングマシンからマルコフ連鎖を構築し、遷移に対して重み $ w = \lceil \frac{1000D^3c2^{3n}}{1-4\delta} \rceil $ を割り当て、受理／拒否の遷移には重み1を割り当てる。
• 状態の遷移をモデル化するため、自己ループと重み付き遷移を持つ有界次数のグラフ上の可逆ランダムウォークとしてマルコフ連鎖を定義する。
• 混合時間とグラフの接続性および辺の重み分布との関係を、混合度（conductance）と全 Variation 距離を用いて関係づける。
• YES ケース（受理パスが存在する）では、グラフは連結であり、混合時間は $ O(D^3 2^{3n} / (1-4\delta)) $ で有界であると証明する。一方、NO ケース（受理パスがない）では、連鎖は非連結のままであり、$ d(t) \geq 1 - 2t/w $ が成り立ち、混合が遅いことが示される。

実験結果

リサーチクエスチョン

• RQ1 混合時間が多項式時間であることが分かっているとしても、急速に混合するマルコフ連鎖が時刻 $ t $ で定常分布に近いかどうかを決定することは、計算的に困難であるか？
• RQ2 混合時間の決定問題の計算複雑性が分かっているとしても、実際の応用において統計的収束診断は非収束を信頼性高く検出できるか？
• RQ3 連鎖が急速に混合することが分かっている場合、収束検出問題の正確な複雑性クラスは何か？（例：異なる仮定のもとで。）
• RQ4 時刻 $ t $ と定数 $ c $ を含む $ ct $ の時間スケールに応じて、収束検出の困難さはどのように変化するか？特に $ c $ が小さい場合に注目する。
• RQ5 収束と非収束を区別する問題は、AM または co-AM クラスで効率的に解けるか、それともより困難であるか？

主な発見

• 急速に混合するマルコフ連鎖が時刻 $ t $ で定常分布に近いか、時刻 $ ct $ でそれから遠いかを区別する問題は、SZK-hard であり、AM ∩ co-AM に属する。
• 連鎖が急速に混合することが既知の場合、同じ問題は co-NP-hard であり、co-AM に属する。
• 時刻 $ t $ で連鎖が定常分布に近いか、時刻 $ ct $ で完全に混合していない状態かを区別する問題は、$ c \geq 1 $ の場合、PSPACE-complete である。
• YES ケース（受理パスが存在する）では、混合時間は $ \tau(1/4 - \delta) \leq 10D^3 2^{3n} / (1 - 4\delta) $ で有界であり、速やかな収束が保証される。
• NO ケース（受理パスがない）では、変動距離が $ d(t) \geq 1 - 2t/w $ を満たし、混合時間 $ \tau(1/4 + \delta) \geq w/4 $ であるため、混合が遅いことが示される。
• 還元により、NO ケースにおける最悪混合時間とYES ケースにおける最良混合時間の比が少なくとも $ c $ 以上であることが示され、両ケースを区別することが計算的に困難であることが確認された。