[论文解读] Learning Measurement Models for Unobserved Variables

Ricardo Silva, Richard Scheines+2 more|arXiv (Cornell University)|Oct 19, 2012

Bayesian Modeling and Causal Inference参考文献 9被引用 24

一句话总结

本文提出了一种新颖的算法，通过识别共享单一潜在共同原因的观测变量分区，来发现未观测（潜伏）变量的测量模型。该算法在标准因果贝叶斯网络假设下具有渐近正确性，无需事先知道潜伏变量的数量，且不假设潜伏变量之间的线性关系，从而能够利用标准搜索算法从净化后的测量模型中可靠推断潜伏因果结构。

ABSTRACT

Department of Philosophy technical report

研究动机与目标

• 解决从观测数据中识别未观测（潜伏）变量及其因果关系的挑战，特别是在无法直接测量因果因素的情况下。
• 开发一种方法，发现共享单一潜伏共同原因的观测变量分区，从而可将标准因果贝叶斯网络搜索算法应用于潜伏结构。
• 提供一种有原则的、渐近正确的算法，无需事先知道潜伏变量的数量，也无需对它们之间关系的功能形式做假设。
• 在各种条件下（包括非高斯和非线性模型）对模拟数据评估该算法的性能。

提出的方法

• 通过分析条件独立性和协方差结构，识别出共享单一潜伏共同原因的观测变量不相交子集。
• 应用净化步骤以去除混杂或不纯净的观测变量，确保每个剩余的观测变量仅有一个潜伏父节点。
• 该方法依赖于马尔可夫性和忠实性假设，假设观测变量为连续型且具有二阶矩，且与潜伏父节点线性相关，外加加法噪声。
• 使用统计检验（如Wishart检验和Bollen的无分布假设检验）评估模型拟合度，并识别潜伏变量图的有效净化。
• 该算法在观测变量的协方差矩阵上运行，并利用四变量关系中的约束来推断潜伏结构。
• 它不假设潜伏变量之间的线性关系，因此可适用于比现有方法更广泛的一类模型。

实验结果

研究问题

• RQ1 我们能否在不知道潜伏变量数量的前提下，自动发现共享单一潜伏共同原因的观测变量分区？
• RQ2 在何种条件下，可以正确应用标准因果贝叶斯网络搜索算法来推断潜伏变量结构？
• RQ3 我们能否开发一种渐近正确且对潜伏变量之间未知函数形式具有鲁棒性的方法？
• RQ4 该算法在各种数据条件下（包括非高斯和非线性模型）恢复真实潜伏结构的性能如何？

主要发现

• 该算法能以高精度成功识别净化后的测量模型，在5000个样本的线性模型中，检测缺失潜伏变量和错误指标的误差接近于零。
• 在非线性模型中，该算法在50,000个样本下，不纯度的误差率为0.03 ± 0.07，缺失指标的误差率为0.10 ± 0.13，显示出对非高斯性的鲁棒性。
• 即使在非正态数据下，Wishart检验表现合理，而Bollen的无分布假设检验并未显著提升结果，表明Wishart检验在实际应用中已足够。
• 因子分析方法（尤其是默认标准）通常低估了真实的潜伏变量数量，而结合卡方检验迭代与启发式聚类的方法在线性设定下实现了接近零的误差。
• 当假设成立时，该算法在恢复潜伏结构方面优于传统因子分析，特别是在存在不纯度或缺失指标的情况下。
• 该方法是首个在不假设潜伏变量之间线性关系的前提下实现渐近正确的算法，使其在现实世界因果发现问题中具有广泛适用性。