[論文レビュー] ParallelPC: an R package for efficient constraint based causal exploration

Thuc Duy Le, Tao Hoang+3 more|arXiv (Cornell University)|Oct 11, 2015

Bayesian Modeling and Causal Inference参考文献 9被引用数 5

ひとこと要約

この論文では、PC、FCI、RFCI、PC-simple、IDA、Joint-IDA などの制約ベースの因果発見アルゴリズムを、マルチコアCPU上で効率的な並列処理によって高速化するRパッケージであるParallelPCを紹介する。条件付き独立性（CI）検定をコアに分散させるとともに、メモリ効率の良いモードを備えることで、順方向実装と同一の結果を保ちながら実行時間を顕著に短縮し、標準的な個人用コンピュータ上でも遺伝子発現データのような高次元データセットにおける実用的な因果探索を可能にする。

ABSTRACT

Discovering causal relationships from data is the ultimate goal of many research areas. Constraint based causal exploration algorithms, such as PC, FCI, RFCI, PC-simple, IDA and Joint-IDA have achieved significant progress and have many applications. A common problem with these methods is the high computational complexity, which hinders their applications in real world high dimensional datasets, e.g gene expression datasets. In this paper, we present an R package, ParallelPC, that includes the parallelised versions of these causal exploration algorithms. The parallelised algorithms help speed up the procedure of experimenting big datasets and reduce the memory used when running the algorithms. The package is not only suitable for super-computers or clusters, but also convenient for researchers using personal computers with multi core CPUs. Our experiment results on real world datasets show that using the parallelised algorithms it is now practical to explore causal relationships in high dimensional datasets with thousands of variables in a single multicore computer. ParallelPC is available in CRAN repository at https://cran.rproject.org/web/packages/ParallelPC/index.html.

研究の動機と目的

• 遺伝子発現データのような高次元データセットにおける制約ベースの因果発見アルゴリズムの高い計算複雑性に対処すること。
• スパコンやクラスタに限定されず、標準的なマルチコアCPU搭載の個人用コンピュータ上でも、効率的かつスケーラブルな因果構造学習を可能にすること。
• PC、FCI、IDA などの既存アルゴリズムの正しさを保ちながら、因果推論パイプラインにおける実行時間とメモリ使用量を削減すること。
• 12種類の条件付き独立性検定と主要な因果発見手法の並列化バージョンを統合した、一元的で使いやすいRパッケージを提供すること。
• 両方の速度とメモリ効率を最適化することで、大規模な因果探索を現実の応用で実現可能にする。

提案手法

• 安定PCアルゴリズムの各段階内で条件付き独立性（CI）検定を並列化し、順序依存性を排除して性能を向上させること。
• 利用可能なメモリを推定し、CPUコアに均等にCI検定を配分する動的ロードバランシング戦略を実装すること。
• わずかに実行時間を延長するが、ピークメモリ使用量を削減するメモリ効率の良いモードを導入し、RAMが限られたシステムにも適応可能にすること。
• pcalgおよびbnlearn Rパッケージに含まれる12種類のCI検定（ガウス分布、相互情報量、フィッシャーのZ検定など）を統合し、アルゴリズムの構成を柔軟にすること。
• PCから得た並列化されたスケルトン学習フレームワークを再利用することで、FCI、RFCI、PC-simple、IDA、Joint-IDAに対しても並列化を拡張すること。
• 元のpcalgパッケージと同一のアルゴリズム的論理と出力構造を再現することで、機能的および結果の同等性を保証すること。

実験結果

リサーチクエスチョン

• RQ1 PC、FCI、IDA などの制約ベースの因果発見アルゴリズムに対して、並列処理が高次元データセット上で実行時間を顕著に短縮できるか？
• RQ2 リソース制限のある環境下で、メモリ効率の良いモードが性能とメモリ使用量に与える影響はいかほどか？
• RQ3 数千の変数を含むデータセットにおいて、マルチコア搭載の個人用コンピュータが因果発見をどの程度処理できるか？
• RQ4 並列化されたFCI、RFCI、IDAのバージョンが、順方向実装と同一の結果を生成するか？
• RQ5 非ガウス分布データにも柔軟に対応できるように、さまざまなデータタイプにおいて最も頑健な結果をもたらすCI検定はどれか？

主な発見

• ParallelPCにおけるPC、FCI、RFCI、IDA、Joint-IDAの並列化バージョンは、順方向実装と比較して顕著に高速化され、使用したCPUコア数に比例した性能向上を達成している。
• マルチコアCPUを搭載した標準的な個人用コンピュータ上でも、数千の変数を含む高次元データセットにおける因果構造学習が可能となり、日常的な研究においても実用的である。
• メモリ効率の良いモードは、CI検定を動的に分散させることでピークメモリ使用量を削減し、RAMが限られたシステムでもクラッシュせずに実行可能である。
• pcalgパッケージと同等の機能的および結果的同等性を維持しており、結果の再現可能性と信頼性を保証している。
• 並列化されたFCIアルゴリズムで相互情報量をCI検定に使用した場合、非ガウス分布データに対しても一貫した結果が得られ、柔軟性を示した。
• 乳がんの遺伝子発現データセット（92個のmiRNA、1500個のmRNA）およびAdultデータセット（100個のバイナリ変数）を用いた実験により、並列化されたアルゴリズムが有効にスケーリングされ、正しい因果構造が得られることを確認した。