[論文レビュー] Accelerated Sampling on Discrete Spaces with Non-Reversible Markov Processes

Samuel Power, Jacob Vorstrup Goldman|arXiv (Cornell University)|Dec 10, 2019

Markov Chains and Monte Carlo Methods参考文献 46被引用数 13

ひとこと要約

本稿は、対称性や生成子といった群論的構造を活用して、離散空間上での効率的なMCMCサンプリングを実現する連続時間非可逆マルコフジャンプ過程の族を導入する。3つのアルゴリズム—Zanellaプロセス、タブーサンプラー、離散Zig-Zag/dCS—を提案し、可逆手法と比較して混合性と計算効率が向上することを示し、構造的で離散的なターゲットにおいて、有効サンプルサイズ（ESS）を最大13倍向上させる実験的成果を示している。

ABSTRACT

We consider the task of MCMC sampling from a distribution defined on a discrete space. Building on recent insights provided in [Zan19], we devise a class of efficient continuous-time, non-reversible algorithms which make active use of the structure of the underlying space. Particular emphasis is placed on how symmetries and other group-theoretic notions can be used to improve exploration of the space. We test our algorithms on a range of examples from statistics, computational physics, machine learning, and cryptography, which show improvement on alternative algorithms. We provide practical recommendations on how to design and implement these algorithms, and close with remarks on the outlook for both discrete sampling and continuous-time Monte Carlo more broadly.

研究の動機と目的

• 離散状態空間における効率的で構造に配慮したMCMCサンプリング手法の不足に応えること。特に連続空間の対応手法と比較して。
• 従来の可逆MCMCの限界を克服し、混合性と収束性を向上させる非可逆ダイナミクスを導入すること。
• 離散状態空間内に内在する代数的構造—特に群の対称性と生成子—を活用して、より効率的なサンプリングアルゴリズムを設計すること。
• 離散化を回避し、連続時間で正確にシミュレート可能な実装可能なアルゴリズムを開発すること。
• 歪み詳細釣合条件と不変性を用いた理論的保証により、漸近的正確性を確立すること。

提案手法

• 離散空間 X 上で所望の不変分布 π を持つ一般クラスの連続時間マルコフジャンプ過程（MJP）を構築し、バランス関数から導かれるジャンプレートを用いる。
• 離散的サンプリングのための基礎的非可逆MJPとしてZanellaプロセスを導入し、局所的にバランスの取れた提案を連続時間に一般化する。
• 低順序の生成子群を対象として、最近の移動を避けることでバックトラッキングを防ぎ、探索性を向上させるタブーサンプラーを設計する。
• 高階／無限階の生成子群を対象として、離散的座標サンプラー（dCS）と離散Zig-Zagプロセス（dZZ）を提案し、生産的な方向への持続的運動を促進する。
• 離散化誤差を回避し、スリーシングなしにリアルタイムで効率的なサンプリングを可能にするために、MJPの正確なシミュレーションを用いる。
• 特に生成子作用と対称性群を活用して、状態空間の内在的幾何構造に適合したダイナミクスを設計する。

実験結果

リサーチクエスチョン

• RQ1 任意の分布に対して、不変性を保ちつつ、離散空間上での非可逆的連続時間マルコフ過程を体系的に構築できるか？
• RQ2 群の対称性や生成子といった代数的構造を、離散MCMCにおける混合性向上にアルゴリズム的に活用できるか？
• RQ3 構造的で離散的なサンプリング問題において、非可逆ダイナミクスは可逆手法に比べてどの程度の性能向上を達成できるか？
• RQ4 持続的運動（dZZ, dCS）とバックトラッキング回避戦略（タブーサンプラー）のどちらが優れているか、それぞれの状況は何か？
• RQ5 離散空間上でのMJPの正確な連続時間シミュレーションは、標準的な離散時間MCMCに比べて実用的な効率向上をもたらせるか？

主な発見

• Zanellaプロセス、タブーサンプラー、dCS、dZZは、歪み詳細釣合条件または詳細釣合条件を満たすことにより、漸近的正確性を達成し、正しい不変分布を保証する。
• 格子ガウス分布において、dCSはZanellaプロセスに比べて有効サンプルサイズ（ESS）が約13倍向上し、dZZは10倍の改善を示した。
• dZZは持続的運動のおかげで優れた自己相関除去特性を示す一方、dCSはより広範な探索と低い1イテレーションあたりコストのおかげで高いESS/sを維持する。
• 条件付き順列検定およびシャーリングトン＝キルカレー・スピンガラス問題において、新規サンプラーは標準的な可逆MCMCよりも高速な混合性と収束性を示した。
• タブーサンプラーは低順序生成子設定においてバックトラッキングを効果的に防止し、ベイズ変数選択のような問題における探索効率を向上させた。
• これらのアルゴリズムは統計、物理学、機械学習、暗号技術など多様な分野で安定した性能向上を示し、広範な適用可能性と一貫性のある利点を示した。