[論文レビュー] Lifting Markov Chains To Mix Faster: Limits and Opportunities

Simon Apers, Francesco Ticozzi+1 more|arXiv (Cornell University)|May 15, 2017

Markov Chains and Monte Carlo Methods参考文献 24被引用数 4

ひとこと要約

この論文は、拡大された状態空間を通じて局所的記憶を導入することにより、リフトド・マコフ連鎖が混合をどのようにかつなぜ加速するかを分析する。混合時間の境界が、局所的初期化が可能かどうか、およびターゲット分布がすべての初期化において不変かどうかという2つの制約に強く依存することを示している。主な発見は、混合時間の導出に必要な導出係数境界が、局所的初期化が制限されているか、不変性が強制されている場合にのみ成立することである。それ以外の場合は、直径時間（diameter time）で混合が達成可能であり、これは標準的な連鎖と比較して加速が不可能であることを示している。

ABSTRACT

Lifted Markov chains are Markov chains on graphs with added local "memory" and can be used to mix towards a target distribution faster than their memoryless counterparts. Upper and lower bounds on the achievable performance have been provided under specific assumptions. In this paper, we analyze which assumptions and constraints are relevant for mixing, and how changing these assumptions affects those bounds. Explicitly, we find that requesting mixing on either the original or the full lifted graph, and allowing for reducible lifted chains or not, have no essential influence on mixing time bounds. On the other hand, allowing for suitable initialization of the lifted dynamics and/or imposing invariance of the target distribution for any initialization do significantly affect the convergence performance. The achievable convergence speed for a lifted chain goes from diameter-time to no acceleration over a standard Markov chain, with conductance bounds limiting the effectiveness of the intermediate cases. In addition, we show that the relevance of imposing ergodic flows depends on the other criteria. The presented analysis allows us to clarify in which scenarios designing lifted dynamics can lead to better mixing, and provide a flexible framework to compare lifted walks with other acceleration methods.

研究の動機と目的

• リフトド・マコフ連鎖における混合時間の加速が可能かどうかを決定する制約を同定すること。
• 導出係数境界が、リフトド連鎖におけるより速い混合を制限するか、可能にするかという役割を明確にすること。
• リフトが効果を持たない状況、中間的な加速が得られる状況、最適な直径時間混合が達成される状況を比較すること。
• 量子ウォークなどの他の加速手法と比較するための公平なフレームワークを確立すること。
• 定常流れ（ergodic flows）と可約性（reducibility）が、リフトドダイナミクスにおける混合時間境界に与える影響を特定すること。

提案手法

• 局所的初期化（s）、ターゲット分布の不変性（i）、定常流れ（e）、可約性（r）、初期化制限（δ）の5つの制約に基づいて、リフトド・マコフ連鎖の状況を分類すること。
• 導出係数に基づく分析を用いて、これらの制約の異なる組み合わせ下での混合時間 τ(1/4) の下界を導出すること。
• 背理法と既知の境界との比較を用いて、導出係数境界が、局所的初期化が禁止されている（s）か、ターゲット分布の不変性が要求されている（i）場合にのみ成立することを証明すること。
• 例えば確率的ブリッジを用いた明示的例を構築し、(s) と (i) の両方が緩和された場合に直径時間での混合が達成されることを示すこと。
• スペクトル的およびカップリング的手法を用いて、混合時間とグラフの導出係数 Φ、および直径 D_G の関係を示し、中間的な状況では Φ が直径よりもタイトな境界を提供することを示すこと。
• 定常流れと初期化制限の相互作用を分析し、初期化が柔軟であれば、定常流れが存在しても性能に硬い制限を課さないことを示すこと。

実験結果

リサーチクエスチョン

• RQ1 リフトド・マコフ連鎖が標準的なマコフ連鎖よりも速く混合できる制約は何か？
• RQ2 局所的初期化とターゲット分布の不変性という仮定が、達成可能な混合時間境界にどのように影響するか？
• RQ3 導出係数が、リフトド連鎖における混合時間加速の根本的限界を決定する上で果たす役割は何か？
• RQ4 リフトが直径時間での混合を可能にすることができるか？ その条件は何か？
• RQ5 定常流れと可約性は、混合加速のためのリフトの有効性にどのように影響するか？

主な発見

• 局所的初期化もターゲット分布の不変性の要件もなければ、混合は直径時間で達成可能であり、これは標準的なマコフ連鎖と比較して加速が不可能であることを意味する。
• 導出係数境界が 1/(8Φ) または 1/(4Φ) のオーダーで現れるのは、局所的初期化が制限されている（s）か、不変性が強制されている（i）場合に限る。よりタイトな境界 1/(8Φ) は、(i) または (i,e) の条件下で成立する。
• 局所的初期化の制限（s）と不変性（i）の両方を要件とすると、リフトは効果を発揮せず、標準連鎖と同等の性能にとどまる。
• 定常流れ（e）が存在しても、初期化が制限されていない限り、混合時間に硬い制限を課さない。初期化が柔軟であれば、依然として加速が可能である。
• 不変性が要求される場合、導出係数境界 1/(8Φ) は厳密であり、可約性の緩和でさえも、これを上回るリフトは存在しない。
• このフレームワークにより、導出係数境界の決定的要因は (s) と (i) の2つの制約に限られ、他の要因（可約性や可約性）は加速の根本的限界にほとんど影響しないことが明確になった。