[論文レビュー] Modified log-Sobolev inequalities for strong-Rayleigh measures

Jonathan Hermon, Justin Salez|arXiv (Cornell University)|Feb 7, 2019

Markov Chains and Monte Carlo Methods被引用数 4

ひとこと要約

本稿は、強レイリー条件よりも弱い負の相関条件である確率的被覆性（SCP）の下で、ブールラティス \\{0,1\\}^n 上の可逆マルコフ連鎖に対して普遍的な修正ログソボレフ不等式を確立する。主な貢献は、$k$-同次測度の下で混合時間の上限が $kn\log\log\frac{1}{\pi(x)}$ であることを示したことであり、MCMCによる濃縮とサンプリングへの応用を含む。

ABSTRACT

We establish universal modified log-Sobolev inequalities for reversible Markov chains on the boolean lattice $\{0,1\}^n$, under the only assumption that the invariant law $π$ satisfies a form of negative dependence known as the stochastic covering property. This condition is strictly weaker than the strong Rayleigh property, and is satisfied in particular by all determinantal measures, as well as any product measure over the set of bases of a balanced matroid. In the special case where $π$ is $k-$homogeneous, our results imply the celebrated concentration inequality for Lipschitz functions due to Pemantle & Peres (2014). As another application, we deduce that the natural Monte-Carlo Markov Chain used to sample from $π$ has mixing time at most $kn\log\log\frac{1}{π(x)}$ when initialized in state $x$. To the best of our knowledge, this is the first work relating negative dependence and modified log-Sobolev inequalities.

研究の動機と目的

• ブールラティス上のマルコフ連鎖に対して、負の相関条件下での普遍的関数不等式を構築すること。
• 負の相関と修正ログソボレフ不等式の間のギャップを埋めること、これは以前に未解決であった関係である。
• $k$-同次および確率的被覆性条件の下で、MCMCサンプラーの明示的な混合時間の上限を導出すること。
• 修正ログソボレフ枠組みを用いて、リプシッツ関数に対するペマントル・ペレスの濃縮不等式を回復および一般化すること。
• 座標平均化を用いた構成的技法を提供し、均一なスペクトル的および関数的境界を持つ生成子を構築すること。

提案手法

• 強レイリーよりも弱い負の相関条件として、確率的被覆性（SCP）を導入し、行列式測度およびバランスの取れたマトロイド測度を含む。
• $x_\ell$ の値に基づく分割スキームを用いて、各座標 $\ell$ に対してフリップスワップ生成子 $Q^{(\ell)}$ を構築し、$\lambda(Q^{(\ell)}), \alpha(Q^{(\ell)}) \geq 1$ および $\Delta(Q^{(\ell)}) \leq n$ を満たすようにする。
• すべての座標について生成子を平均化して $Q^\star = \frac{1}{n}\sum_{\ell=1}^n Q^{(\ell)}$ を得る。これにより、スペクトル的および関数的境界が保存される。
• ヘルストの議論を用いて、修正ログソボレフ不等式から指数型尾部確率の上界を導出し、$\alpha(Q)$ を最大片側2次変動 $v(f)$ を通じて尾部の上界に結びつける。
• 関数的不等式を適用して、混合時間の上限 $t_{\textsc{mix}}(x;\varepsilon) \leq \frac{1}{\alpha(Q)}\left(\log\log\frac{1}{\pi(x)} + \log\frac{1}{2\varepsilon^2}\right)$ を得る。
• $k$-同次測度 $\pi$ の場合、生成子 $Q^\star$ に対して $-Q^\star(x,x) \leq 2k$ が成り立つことを示し、最終的な混合時間の上限 $kn\log\log\frac{1}{\pi(x)}$ を得る。

実験結果

リサーチクエスチョン

• RQ1 強レイリーよりも弱い負の相関条件下で、ブールラティス上の可逆マルコフ連鎖に対して修正ログソボレフ不等式を確立できるか？
• RQ2 確率的被覆性（SCP）が、MCMCサンプラーの普遍的関数不等式および混合時間の上限を導くのに十分か？
• RQ3 リプシッツ関数に対するペマントル・ペレスの濃縮不等式は、修正ログソボレフ不等式を用いて回復および一般化可能か？
• RQ4 SCPの下で、$k$-同次測度を標的分布とするMCMCサンプラーの最適な混合時間の上限は何か？
• RQ5 座標別生成子をどのように平均化すれば、均一なスペクトル的および関数的境界を持つグローバル生成子が得られるか？

主な発見

• 本稿は、不変測度 $\pi$ が確率的被覆性を満たす任意の可逆マルコフ連鎖に対して、修正ログソボレフ不等式を確立する。
• $k$-同次測度の下では、初期状態 $x$ で初期化された本稿で構築されたMCMCサンプラーの混合時間は、$kn\log\log\frac{1}{\pi(x)}$ 以下であることが示され、従来の境界を改善する。
• ヘルストの議論を用いて、最大片側2次変動 $v(f)$ に依存する分散代理変数を持つ指数型濃縮不等式を導出する。
• 確率的被覆性が強レイリー性よりも厳密に弱いが、必要な関数的不等式を導くのに十分であることが示された。
• 座標別生成子 $Q^{(\ell)}$ の構築およびそれらの平均化による $Q^\star$ の構成により、修正ログソボレフ定数 $\alpha(Q^\star) \geq 1$ の均一な下界が保証される。
• 本フレームワークは、$\pi$ が $k$-同次である場合、ペマントル・ペレスの濃縮不等式を特別な場合として回復し、このアプローチの一般性と強さを示している。