[論文レビュー] Markov Chain Sampling in Discrete Probabilistic Models with Constraints

Chengtao Li, Stefanie Jegelka+1 more|arXiv (Cornell University)|Aug 2, 2016

Markov Chains and Monte Carlo Methods参考文献 5被引用数 1

ひとこと要約

本稿では、制約付き離散確率的モデルに対する高速なマルコフ連鎖モンテカルロ（MCMC）サンプラーを開発し、特にストロングレイリー（SR）測度とデターミナント・ポイント・プロセス（DPPs）に焦点を当てる。鋭い多項式的混合時間バウンドを確立し、DPPsの導入から40年以上にわたり解決されていなかった、最初の証明可能に高速なMCMCサンプラーを提供する。

ABSTRACT

We study probability measures induced by set functions with constraints. Such measures arise in a variety of real-world settings, where prior knowledge, resource limitations, or other pragmatic considerations impose constraints. We consider the task of rapidly sampling from such constrained measures, and develop fast Markov chain samplers for them. Our first main result is for MCMC sampling from Strongly Rayleigh (SR) measures, for which we present sharp polynomial bounds on the mixing time. As a corollary, this result yields a fast mixing sampler for Determinantal Point Processes (DPPs), yielding (to our knowledge) the first provably fast MCMC sampler for DPPs since their inception over four decades ago. Beyond SR measures, we develop MCMC samplers for probabilistic models with hard constraints and identify sufficient conditions under which their chains mix rapidly. We illustrate our claims by empirically verifying the dependence of mixing times on the key factors governing our theoretical bounds.

研究の動機と目的

• 実世界の応用において、事前知識やリソース制限によって生じる硬い制約を伴う離散確率的モデルからの効率的サンプリングの課題に対処すること。
• スルーレイリー（SR）測度と呼ばれる、望ましい負の依存性を示す確率測度クラスに特化した、高速混合マルコフ連鎖サンプラーを開発すること。
• 一般の確率的モデルに硬い制約を適用する枠組みを拡張し、迅速な混合を保証する十分条件を同定すること。
• デターミナント・ポイント・プロセス（DPPs）に対する最初の証明可能に高速なMCMCサンプラーを提供すること。DPPsは40年以上前に導入されて以来、長年の未解決問題であった。

提案手法

• スルーレイリー（SR）測度の構造に適合したメトロポリス・ハスティングス・マルコフ連鎖サンプラーを設計し、その負の依存性の性質を活用する。
• スぺクトルギャップとコンductanceの性質を分析することで、マルコフ連鎖の混合時間に対する多項式的上界を確立する。
• DPPsがSR測度の特別な場合であることを示し、これにより高速混合の保証をそのまま継承できることを応用する。
• 負の関連性や強い対数凸性といった構造的条件を同定することで、制約付き確率的モデルにおけるMCMCサンプラーの迅速な混合を保証する一般的な手法を導入する。
• 遷移核と定常分布の体系的分析により、収束性の性質を検証する。
• 制約密度やモデルパラメータの変動下での混合時間の測定を通じて、理論的バウンドを実証的に検証する。

実験結果

リサーチクエスチョン

• RQ1 硬い制約を伴う離散確率的モデル、特に集合関数から生じるモデルに対して、高速混合MCMCサンプラーを構築可能か？
• RQ2 制約付き確率的モデルの構造にどのような十分条件が、そのマルコフ連鎖の多項式的混合時間を保証するか？
• RQ3 スルーレイリー測度のクラスは、証明可能に高速なMCMCサンプラーを許容するか？ もし許容するならば、混合時間バウンドは何か？
• RQ4 提案された枠組みにより、長年にわたりベンチマークとしての役割を果たしてきたが、そのようなサンプラーが存在しなかったDPPsに対して、最初の証明可能に高速なMCMCサンプラーを導出可能か？
• RQ5 制約密度やモデルパラメータといった主要要因が、実験的混合時間にどのように影響するか？ また、理論的予測と一致するか？

主な発見

• 本稿では、スルーレイリー（SR）測度を標的にするマルコフ連鎖の混合時間に対して鋭い多項式的バウンドを確立し、定常分布への高速収束を保証する。
• 直接的な結果として、デターミナント・ポイント・プロセス（DPPs）に対する最初の証明可能に高速なMCMCサンプラーが達成され、確率的モデリング分野における数十年にわたる未解決問題が解決された。
• SR測度を超える構造的条件——例えば負の関連性や強い対数凸性——を同定することで、制約付き確率的モデルのMCMCサンプラーが多項式時間で混合するための十分条件を特定した。
• 実験的結果により、混合時間が制約密度やモデルパラメータといった理論的要因に予測可能な方法で依存することが確認され、理論的バウンドの妥当性が裏付けられた。
• 分析により、SR測度の負の依存性の性質が高速混合を可能にする上で中心的な役割を果たすことが示され、効率的なサンプリングの理論的基盤が提供された。