[论文解读] Discovering Markov Blanket from Multiple interventional Datasets

Kui Yu, Lin Liu+1 more|arXiv (Cornell University)|Jan 25, 2018

Bayesian Modeling and Causal Inference参考文献 25被引用 6

一句话总结

该论文提出MIMB，一种新颖算法，用于从未知干预目标的多个干预数据集中发现目标变量的马尔可夫毯（MB）。通过理论分析未知干预和非同分布条件下的可识别性，MIMB利用干预数据恢复了MB及其因果方向（例如区分父节点与子节点），在合成数据集和真实世界数据集上均优于现有方法，在准确性和效率方面表现更优。

ABSTRACT

In this paper, we study the problem of discovering the Markov blanket (MB) of a target variable from multiple interventional datasets. Datasets attained from interventional experiments contain richer causal information than passively observed data (observational data) for MB discovery. However, almost all existing MB discovery methods are designed for finding MBs from a single observational dataset. To identify MBs from multiple interventional datasets, we face two challenges: (1) unknown intervention variables; (2) nonidentical data distributions. To tackle the challenges, we theoretically analyze (a) under what conditions we can find the correct MB of a target variable, and (b) under what conditions we can identify the causes of the target variable via discovering its MB. Based on the theoretical analysis, we propose a new algorithm for discovering MBs from multiple interventional datasets, and present the conditions/assumptions which assure the correctness of the algorithm. To our knowledge, this work is the first to present the theoretical analyses about the conditions for MB discovery in multiple interventional datasets and the algorithm to find the MBs in relation to the conditions. Using benchmark Bayesian networks and real-world datasets, the experiments have validated the effectiveness and efficiency of the proposed algorithm in the paper.

研究动机与目标

• 解决现有马尔可夫毯发现方法仅依赖观测数据且无法推断因果方向的局限性。
• 确定在何种条件下可利用多个干预数据集正确恢复目标变量的马尔可夫毯。
• 确定在何种条件下可通过干预数据中的MB发现准确识别目标变量的真实原因。
• 开发一种高效且理论基础坚实的算法，用于从未知干预变量的多个干预数据集中发现马尔可夫毯。
• 在基准数据集和真实世界数据集上验证所提方法，证明其在准确性和效率方面优于现有方法。

提出的方法

• 理论分析确立了在多个具有未知干预的干预数据集下，可识别真实马尔可夫毯及其因果结构（包括父子关系）的条件。
• MIMB将多个分布不一致的数据集中的条件独立性检验进行整合，采用一致性方法推断MB及其边的方向。
• 该算法利用干预引起的d-分离模式：若在对第三个变量进行干预后，两个变量仍保持依赖，则表明存在涉及该变量的因果路径。
• MIMB采用两阶段策略：首先通过跨数据集的条件独立性检验识别候选MB变量；其次利用干预效应（例如在原因上干预后出现独立性）推断因果方向。
• 该方法通过将每个数据集视为独立的干预情境，并在所有数据集间实施一致性检查，从而处理非同分布的数据。
• 该算法设计具有可扩展性和高效性，通过剪枝和提前停止策略最小化条件独立性检验次数。

实验结果

研究问题

• RQ1 在何种干预设置下，可从未知干预的多个干预数据集中正确发现目标变量的真实马尔可夫毯？
• RQ2 在何种条件下，可通过目标变量的马尔可夫毯在多个干预数据集中识别其原因？
• RQ3 当干预变量未知时，如何有效从未知干预的多个干预数据集中发现马尔可夫毯及其因果结构？
• RQ4 何种理论条件可确保此类设置下MB发现与因果方向识别的正确性？
• RQ5 所提方法在应用于干预数据时，是否可在准确性和效率方面优于现有MB发现算法？

主要发现

• 在教育数据集上，MIMB使用朴素贝叶斯分类器达到最高分类准确率（0.7494 ± 0.0173），优于He-Geng（0.7428 ± 0.0127）和基线方法（0.7461 ± 0.0136）。
• MIMB显著优于He-Geng和基线方法，平均仅需317 ± 105次检验，而He-Geng需24,877 ± 2,609次，基线方法需2,498 ± 996次。
• 该方法成功识别出收入、fcollege、mcollege和tuition对教育具有显著影响，p值均≤ 0.0068，表明具有强统计显著性。
• MIMB正确推断出收入和mcollege对教育成就的影响强于tuition，与领域合理性一致。
• 该算法在多次运行中均以高度一致性恢复了教育变量的MB，证明其在非同分布数据条件下的鲁棒性。
• 理论分析证实，在特定干预条件下（如对父母或子女进行干预），真实MB及其因果结构可从未知干预的多个干预数据集中被识别。