[논문 리뷰] ParallelPC: an R package for efficient constraint based causal exploration

Thuc Duy Le, Tao Hoang외 3명|arXiv (Cornell University)|2015. 10. 11.

Bayesian Modeling and Causal Inference참고 문헌 9인용 수 5

한 줄 요약

이 논문은 다중 코어 CPU에서 효율적인 병렬 처리를 통해 제약 기반 인과 발견 알고리즘—PC, FCI, RFCI, PC-simple, IDA, Joint-IDA—의 실행 속도를 높이는 R 패키지인 ParallelPC를 소개한다. 조건부 이상성(CI) 테스트를 코어 간에 분산하고 메모리 효율 모드를 포함함으로써, 순차적 구현과 동일한 결과를 유지하면서도 런타임을 크게 단축시킨다. 이로 인해 표준 개인용 컴퓨터에서도 유전자 발현 데이터와 같은 고차원 데이터셋에서 실용적인 인과 탐색이 가능해진다.

ABSTRACT

Discovering causal relationships from data is the ultimate goal of many research areas. Constraint based causal exploration algorithms, such as PC, FCI, RFCI, PC-simple, IDA and Joint-IDA have achieved significant progress and have many applications. A common problem with these methods is the high computational complexity, which hinders their applications in real world high dimensional datasets, e.g gene expression datasets. In this paper, we present an R package, ParallelPC, that includes the parallelised versions of these causal exploration algorithms. The parallelised algorithms help speed up the procedure of experimenting big datasets and reduce the memory used when running the algorithms. The package is not only suitable for super-computers or clusters, but also convenient for researchers using personal computers with multi core CPUs. Our experiment results on real world datasets show that using the parallelised algorithms it is now practical to explore causal relationships in high dimensional datasets with thousands of variables in a single multicore computer. ParallelPC is available in CRAN repository at https://cran.rproject.org/web/packages/ParallelPC/index.html.

연구 동기 및 목표

• 유전자 발현 데이터와 같은 고차원 데이터셋에서 제약 기반 인과 발견 알고리즘의 높은 계산 복잡도 문제를 해결하기 위해.
• 스퍼컴퓨터나 클러스터가 아닌 표준 개인용 컴퓨터의 다중 코어 CPU에서도 효율적이고 확장 가능한 인과 구조 학습을 가능하게 하기 위해.
• 기존 알고리즘인 PC, FCI, IDA 등에서 검증된 결과의 정확성을 유지하면서도 인과 추론 파이프라인의 런타임과 메모리 사용량을 줄이기 위해.
• 12개의 조건부 이상성 테스트와 핵심 인과 발견 방법의 병렬화된 버전을 통합한 통합적이고 사용자 친화적인 R 패키지를 제공하기 위해.
• 속도와 메모리 효율성을 최적화하여 실세계 응용에서 대규모 인과 탐색을 실현 가능하게 하기 위해.

제안 방법

• 안정적-PC 알고리즘의 각 단계에서 조건부 이상성(CI) 테스트를 병렬 처리하여 순서 의존성을 제거하고 성능을 향상시키기 위해.
• 가용 메모리를 추정하고 CI 테스트를 가용 CPU 코어에 균일하게 분배하는 동적 로드 밸런싱 전략을 구현하기 위해.
• 메모리 사용량을 약간 증가시키지만 최대 메모리 사용량을 줄이는 메모리 효율 모드를 도입하여 메모리가 제한된 시스템에서도 사용 가능하도록 하기 위해.
• pcalg 및 bnlearn R 패키지에서 제공하는 가우시안, 상호정보량, 피셔의 Z 테스트를 포함한 12종의 다양한 CI 테스트를 통합하여 알고리즘 구성의灵活性를 높이기 위해.
• PC에서 파생된 병렬화된 스켈레톤 학습 프레임워크를 재사용하여 FCI, RFCI, PC-simple, IDA, Joint-IDA에 병렬 처리를 확장하기 위해.
• 원래 pcalg 패키지와 동일한 알고리즘 논리와 출력 구조를 재현함으로써 기능 및 결과의 동등성을 확보하기 위해.

실험 결과

연구 질문

• RQ1 고차원 데이터셋에서 PC, FCI, IDA와 같은 제약 기반 인과 발견 알고리즘의 런타임을 병렬 처리로 상당히 줄일 수 있는가?
• RQ2 자원이 제한된 환경에서 메모리 효율 모드가 성능과 메모리 사용에 어떤 영향을 미치는가?
• RQ3 몇천 개의 변수를 포함한 데이터셋에서 다중 코어 개인용 컴퓨터가 얼마나 잘 인과 발견을 처리할 수 있는가?
• RQ4 병렬화된 FCI, RFCI, IDA의 결과가 순차적 구현과 동일한가?
• RQ5 다양한 데이터 유형에서 병렬화된 인과 발견에 사용될 때 어떤 조건부 이상성 테스트가 가장 강력한 결과를 낼 수 있는가?

주요 결과

• ParallelPC의 병렬화된 PC, FCI, RFCI, IDA, Joint-IDA는 순차적 구현 대비 뚜렷한 런타임 향상을 보이며, 사용된 CPU 코어 수에 비례하여 성능 향상이 발생한다.
• 표준 개인용 컴퓨터의 다중 코어 CPU를 사용할 경우, 수천 개의 변수를 포함한 고차원 데이터셋에서도 인과 구조 학습이 가능해져 일상 연구에서의 분석이 실용적이게 된다.
• 메모리 효율 모드는 CI 테스트를 동적으로 분배함으로써 최대 메모리 사용량을 줄여 제한된 RAM이 있는 시스템에서도 충돌 없이 실행 가능하게 한다.
• 패키지는 pcalg 패키지와 동일한 기능 및 결과를 유지하여 결과의 재현성과 신뢰성을 보장한다.
• 병렬화된 FCI 알고리즘에서 상호정보량을 CI 테스트로 사용할 경우 비정규 분포 데이터에 유연하게 대응하면서도 일관된 결과를 도출하였다.
• 유방암 유전자 발현 데이터셋(92개 miRNA, 1500개 mRNA)과 Adult 데이터셋(100개 이진 변수)을 대상으로 한 실험을 통해 병렬화된 알고리즘이 효과적으로 확장되며 정확한 인과 구조를 도출하는 것으로 확인되었다.