[论文解读] ParallelPC: an R package for efficient constraint based causal exploration

Thuc Duy Le, Tao Hoang+3 more|arXiv (Cornell University)|Oct 11, 2015

Bayesian Modeling and Causal Inference参考文献 9被引用 5

一句话总结

本论文介绍了 ParallelPC，一个 R 包，通过在多核 CPU 上高效并行化，显著加速了基于约束的因果发现算法（如 PC、FCI、RFCI、PC-simple、IDA 和 Joint-IDA）。通过将条件独立性（CI）检验分配到各个核心，并引入内存高效模式，该包在保持与串行实现完全相同结果的同时，显著减少了运行时间，使在标准个人计算机上对高维数据集（如基因表达数据）进行实际的因果探索成为可能。

ABSTRACT

Discovering causal relationships from data is the ultimate goal of many research areas. Constraint based causal exploration algorithms, such as PC, FCI, RFCI, PC-simple, IDA and Joint-IDA have achieved significant progress and have many applications. A common problem with these methods is the high computational complexity, which hinders their applications in real world high dimensional datasets, e.g gene expression datasets. In this paper, we present an R package, ParallelPC, that includes the parallelised versions of these causal exploration algorithms. The parallelised algorithms help speed up the procedure of experimenting big datasets and reduce the memory used when running the algorithms. The package is not only suitable for super-computers or clusters, but also convenient for researchers using personal computers with multi core CPUs. Our experiment results on real world datasets show that using the parallelised algorithms it is now practical to explore causal relationships in high dimensional datasets with thousands of variables in a single multicore computer. ParallelPC is available in CRAN repository at https://cran.rproject.org/web/packages/ParallelPC/index.html.

研究动机与目标

• 为解决高维数据集（如基因表达数据）中基于约束的因果发现算法的高计算复杂度问题。
• 实现在配备多核 CPU 的标准个人计算机上高效且可扩展的因果结构学习，而不仅限于超级计算机或集群。
• 在保持 PC、FCI 和 IDA 等成熟算法结果正确性的前提下，减少因果推断流程中的运行时间和内存使用。
• 提供一个统一、用户友好的 R 包，集成 12 种条件独立性检验方法，并支持关键因果发现方法的并行化版本。
• 通过优化运行速度和内存效率，使大规模因果探索在实际应用中可行。

提出的方法

• 在 Stable-PC 算法的每一层中并行化条件独立性（CI）检验，以消除顺序依赖性并提升性能。
• 实现一种动态负载均衡策略，通过估算可用内存，并将 CI 检验均匀分配到所有可用 CPU 核心。
• 引入内存高效模式，略微增加运行时间但显著降低峰值内存使用量，适用于内存有限的系统。
• 集成来自 pcalg 和 bnlearn R 包的 12 种不同 CI 检验方法，包括高斯检验、互信息检验和 Fisher Z 检验，以支持灵活的算法配置。
• 通过复用 PC 算法的并行化骨架学习框架，将并行化扩展至 FCI、RFCI、PC-simple、IDA 和 Joint-IDA。
• 通过复现相同的算法逻辑和输出结构，确保与原始 pcalg 包在功能和结果上完全一致。

实验结果

研究问题

• RQ1 并行化是否能显著减少 PC、FCI 和 IDA 等基于约束的因果发现算法在高维数据集上的运行时间？
• RQ2 在资源受限环境中，内存高效模式对性能和内存使用的影响如何？
• RQ3 多核个人计算机在处理包含数千个变量的数据集时，其因果发现能力在多大程度上可行？
• RQ4 FCI、RFCI 和 IDA 的并行化版本是否与它们的串行版本产生完全相同的结果？
• RQ5 在并行化因果发现中，哪种条件独立性检验在多种不同类型数据上表现最为稳健？

主要发现

• ParallelPC 中 PC、FCI、RFCI、IDA 和 Joint-IDA 的并行化版本相比其串行版本实现了显著更快的运行时间，性能提升与所用 CPU 核心数成正比。
• 在配备多核 CPU 的标准个人计算机上，该包使在包含多达数千个变量的高维数据集中进行因果结构学习成为可能，使此类分析在常规研究中变得实用。
• 内存高效模式通过动态分配 CI 检验，显著降低了峰值内存使用量，使在内存有限的系统上运行而不会崩溃成为可能。
• 该包在功能和结果上与 pcalg 包保持一致，确保了结果的可重现性和可信度。
• 在并行化 FCI 算法中使用互信息作为 CI 检验，在保持结果一致性的同时，为非高斯数据提供了灵活性。
• 在乳腺癌基因表达数据集（92 个 miRNA，1500 个 mRNA）和 Adult 数据集（100 个二值变量）上的实验表明，该并行化算法具有良好的可扩展性，并能正确推断出因果结构。