[论文解读] On sampling graphical Markov models

Megan Bernstein, Prasad Tetali|arXiv (Cornell University)|May 26, 2017

Markov Chains and Monte Carlo Methods参考文献 14被引用 6

一句话总结

本文提出了一种用于在马尔可夫等价类内进行DAG均匀采样的马尔可夫链，并分析其混合时间。当图中不存在大规模且高度重叠的团时，该链可在多项式时间内混合；而当存在大规模且高度重叠的团时，混合时间会呈指数级下降。主要贡献在于对快速混合条件的结构化表征，以及对何、贾与余提出的相关链的遍历性证明。

ABSTRACT

We consider sampling and enumeration problems for Markov equivalence classes. We create and analyze a Markov chain for uniform random sampling on the DAGs inside a Markov equivalence class. Though the worst case is exponentially slow mixing, we find a condition on the Markov equivalence class for polynomial time mixing. We also investigate the ratio of Markov equivalence classes to DAGs and a Markov chain of He, Jia, and Yu for random sampling of sparse Markov equivalence classes.

研究动机与目标

• 开发并分析一种用于在马尔可夫等价类内进行DAG均匀采样的马尔可夫链。
• 识别链在多项式时间内混合的条件，避免指数级延迟。
• 通过基于偏序集的结构定理，研究DAG与马尔可夫等价类之间的比例关系。
• 为赫、贾与余提出的用于稀疏马尔可夫等价类采样的马尔可夫链，提供一个更简洁的遍历性证明。
• 通过反例展示标准路径法与耦合法的局限性，即在汉明距离较大但链路径长度较短的情况下。

提出的方法

• 设计一种可逆马尔可夫链，通过在马尔可夫等价类的基图表示中翻转无向边来实现。
• 使用基图——一种包含有向边与无向边的PDAG——来表示马尔可夫等价类中的所有DAG。
• 利用基于诱导子图的受保护边表征方法，确保边翻转操作保持基图的性质。
• 基于偏序集的结构定理，分析DAG与马尔可夫等价类之间的比例关系。
• 通过证明任意两个在汉明距离为一的基图之间，可通过长度至多为二的路径相连，从而证明赫、贾与余链的遍历性。
• 构造反例：汉明距离为二的基图可能需要Ω(n)步才能连接，表明标准收敛性分析技术存在局限。

实验结果

研究问题

• RQ1 在马尔可夫等价类内的DAG上，边翻转马尔可夫链在何种条件下可实现多项式时间混合？
• RQ2 大规模且高度重叠的团的存在如何影响采样链的混合时间？
• RQ3 给定图中DAG数量与马尔可夫等价类数量之间的结构关系是什么？
• RQ4 是否可以更简洁地证明赫、贾与余提出的用于稀疏马尔可夫等价类采样的马尔可夫链的遍历性？
• RQ5 为何标准收敛性分析技术（如标准路径法或耦合法）对赫、贾与余链的混合时间分析无效？

主要发现

• 所提出的用于在马尔可夫等价类内采样DAG的马尔可夫链，若其底层图不包含大规模且高度重叠的团，则可在多项式时间内混合。
• 当基图中包含大规模且有显著交集的团（约一半大小）时，该链表现出指数级缓慢的混合。
• 基于偏序集的结构定理使对DAG与马尔可夫等价类之间比例关系的深入分析成为可能，尽管精确计数问题仍待解决。
• 本文为赫、贾与余提出的用于稀疏马尔可夫等价类采样的马尔可夫链提供了更短、更简洁的遍历性证明。
• 反例表明，两个在汉明距离为二的基图可能需要Ω(n)步才能连接，表明基于路径的收敛性分析方法很可能失败。
• 赫、贾与余提出的链被证明是遍历的，任意两个仅在一条边上有差异的基图之间，均存在长度至多为二的路径。