[论文解读] Towards Optimal Learning of Chain Graphs

Jose M. Peña|arXiv (Cornell University)|Sep 25, 2011

Bayesian Modeling and Causal Inference被引用 1

一句话总结

本文将Meek猜想从贝叶斯网络扩展至链图，证明若链图H是另一链图G所诱导的独立性模型的独立性映射，则G可通过一系列边添加以及可行的分裂/合并操作转化为H，且在每一步均保持独立性映射性质。关键贡献在于提出了一种构造性算法（Method G2H），在较弱假设下实现了链图从数据中高效且渐近正确的学习。

ABSTRACT

In this paper, we extend Meek's conjecture (Meek 1997) from directed and acyclic graphs to chain graphs, and prove that the extended conjecture is true. Specifically, we prove that if a chain graph H is an independence map of the independence model induced by another chain graph G, then (i) G can be transformed into H by a sequence of directed and undirected edge additions and feasible splits and mergings, and (ii) after each operation in the sequence H remains an independence map of the independence model induced by G. Our result has the same important consequence for learning chain graphs from data as the proof of Meek's conjecture in (Chickering 2002) had for learning Bayesian networks from data: It makes it possible to develop efficient and asymptotically correct learning algorithms under mild assumptions.

研究动机与目标

• 将原本针对有向无环图（DAGs）提出的Meek猜想扩展至更广泛的链图（CGs）类别。
• 通过证明独立性映射可通过有效操作相互转换，为从观测数据学习链图提供理论基础。
• 提出一种构造性算法（Method G2H），当H是G所诱导模型的独立性映射时，可将任意链图G转化为另一链图H。
• 确保每个变换步骤均保持独立性映射性质，从而支持设计高效且渐近正确的学习算法。

提出的方法

• 通过证明若H是I(G)的独立性映射，则G可通过一系列有向与无向边添加以及可行分裂和合并操作转化为H，将Meek猜想扩展至链图。
• 提出一种构造性算法Method G2H，首先通过边添加和可行分裂/合并操作，将G转化为相对于与H一致的链α的最小I-映射Gα。
• 利用与H一致的链α引导变换过程，确保与目标图H的结构一致性。
• 采用对一系列图操作的归纳论证，证明每步操作后当前图仍为有效链图，且I(H) ⊆ I(G)始终保持不变。
• 依赖于分离命题的保持（即每步均有I(G) ⊆ I(Gt)），以在变换过程中维持独立性映射性质。
• 证明Method G2H的最后一步（第3行）将H中的边添加至Gα，确保G最终变为H，且I(H) ⊆ I(G)在每步操作后仍成立。

实验结果

研究问题

• RQ1 Meek猜想能否从DAGs扩展至链图，使得一个独立性映射可通过有效操作转化为另一个？
• RQ2 是否存在一种构造性操作序列——包括边添加及可行分裂/合并——使得当H是I(G)的独立性映射时，可将链图G转化为另一链图H？
• RQ3 该变换序列中的每步操作是否均保持H作为G所诱导模型的独立性映射的性质？
• RQ4 此类变换序列能否用于构建链图的高效且渐近正确的学习算法？

主要发现

• 已证明链图的扩展Meek猜想成立：若H是I(G)的独立性映射，则G可通过一系列边添加及可行分裂和合并操作转化为H。
• 变换序列中每步操作均保持H作为I(G)的独立性映射的性质，确保I(H) ⊆ I(G)始终成立。
• 所提出的Method G2H算法以一种保持链图结构及每步独立性映射性质的方式构造此类操作序列。
• 从G到Gα（相对于链α的最小I-映射）的变换通过边添加及可行分裂/合并实现，且每步均保持I(Gα) ⊆ I(G)。
• 最后一步将H中的边添加至Gα，确保最终图恰好为H，且每步操作后I(H) ⊆ I(G)仍成立。
• 该结果使得在较弱假设下开发高效且渐近正确的链图学习算法成为可能，其影响与Chickering对贝叶斯网络的证明相类似。