[논문 리뷰] PC algorithm for Gaussian copula graphical models

Naftali Harris, Mathias Drton|arXiv (Cornell University)|2012. 07. 01.

Bayesian Modeling and Causal Inference참고 문헌 10인용 수 4

한 줄 요약

이 논문은 피어슨 상관계수 대신 순위 기반 상관계수(Spearman의 rho)를 사용하여 가우시안 코풀라 그래픽 모델에 대한 PC 알고리즘의 고차원 일致성을 확립한다. 이는 정규성 하에서는 Pearson PC와 유사한 성능을 유지하고 비정규성 하에서는 유의미하게 뛰어난 성능을 보이며, 계산 비용은 거의 증가하지 않는다.

ABSTRACT

The PC algorithm uses conditional independence tests for model selection in graphical modeling with acyclic directed graphs. In Gaussian models, tests of conditional independence are typically based on Pearson correlations, and high-dimensional consistency results have been obtained for the PC algorithm in this setting. We prove that high-dimensional consistency carries over to the broader class of Gaussian copula or extit{nonparanormal} models when using rank-based measures of correlation. For graphs with bounded degree, our result is as strong as prior Gaussian results. In simulations, the `Rank PC' algorithm works as well as the `Pearson PC' algorithm for normal data and considerably better for non-normal Gaussian copula data, all the while incurring a negligible increase of computation time. Simulations with contaminated data show that rank correlations can also perform better than other robust estimates considered in previous work when the underlying distribution does not belong to the nonparanormal family.

연구 동기 및 목표

• 고전적 정규 모델을 초월하여 더 넓은 범주인 가우시안 코풀라(비정규) 모델로 PC 알고리즘의 고차원 일치성 확장을 목표로 한다.
• 순위 기반 상관계수 측정법이 고차원 설정에서 PC 알고리즘의 일치성 성질을 유지할 수 있는지 조사한다.
• 정규 및 비정규 데이터 분포 하에서 표준 피어슨 PC 알고리즘과의 비교를 통해 순위 기반 PC 알고리즘의 경험적 성능을 평가한다.
• 진짜 분포가 비정규 코풀라 가족에서 벗어나도 순위 상관계수가 그래픽 모델 선택에서 얼마나 강건한지 평가한다.
• 유계 차수 조건 하에서 순위 상관계수를 사용한 그래픽 모델 선택의 이론적 근거를 제공한다.

제안 방법

• 조건부 독립성 검정에서 피어슨 부분상관계수를 순위 기반 부분상관계수(Spearman의 rho)로 대체하여 PC 알고리즘을 변형한다.
• 가설 검정에서 표본 크기 조정을 적용한다: 조건 집합 S에 대해 유효 표본 크기를 |S| + 3만큼 감소시켜 degrees of freedom를 보정한다.
• 피어슨의 z-변환을 적용한 순위 부분상관계수의 기준값 함수 γ(n, |S|, z)를 사용하며, z는 표준 정규분포의 분위수로 선택한다.
• 정밀행렬의 최소 고유값과 희박성 제약 조건을 바탕으로 순위 상관계수 추정에 대한 균일한 오차 한계 ε를 도입한다.
• 증가하는 차원과 표본 크기 하에서 점근적 일치성을 확보하기 위해 zn = √(n−3) · log[(1 + cn/3)/(1 − cn/3)]의 분위수 시퀀스를 사용한다.
• 두 가지 핵심 경계를 통해 일치성 증명: (1) 높은 확률로 추정 오차 |ρ̂uv|S − ρuv|S| < cn/3 이 성립하고, (2) 기준값 γ(n, |S|, zn)가 [cn/3, 2cn/3] 내에 위치하여 점근적으로 올바른 검정 결정을 내림.

실험 결과

연구 질문

• RQ1 가우시안 코풀라 모델에서 피어슨 상관계수 대신 순위 기반 상관계수를 사용할 경우 PC 알고리즘이 여전히 일치성을 유지하는가?
• RQ2 다변량 정규 데이터 하에서 순위 기반 PC 알고리즘의 성능은 표준 피어슨 PC 알고리즘과 어떻게 비교되는가?
• RQ3 비정규, 비정규 코풀라 데이터 분포 하에서 순위 기반 PC 알고리즘의 경험적 성능은 어떠한가?
• RQ4 진짜 분포가 비정규 코풀라 가족에서 벗어나도 순위 상관계수가 그래픽 모델 선택에서 성능 향상에 기여하는가?
• RQ5 특히 유계 차수 그래프 조건 하에서 순위 기반 PC 알고리즘이 고차원 일치성을 유지하는 조건은 무엇인가?

주요 결과

• 그래프의 차수가 유계일 경우, 원래의 PC 알고리즘이 정규 모델에서 성립하는 조건과 동일한 조건 하에서 순위 기반 PC 알고리즘은 가우시안 코풀라 모델에서도 고차원 일치성을 달성한다.
• 정규 데이터 하에서는 순위 기반 PC 알고리즘의 모델 선택 정확도가 피어슨 PC 알고리즘과 유사하다.
• 비정규 가우시안 코풀라 데이터 하에서는 순위 기반 PC 알고리즘의 엣지 복구 정확도가 피어슨 PC 알고리즘을 유의미하게 뛰어넘는다.
• 순위 기반 PC 알고리즘의 계산 비용은 피어슨 PC 알고리즘과 거의 동일하며, 순위 변환과 조정된 자유도로 인한 증가는 거의 무시할 수 있다.
• 오염 또는 비정규 코풀라 가족에서의 이탈이 있을 경우, 순위 상관계수의 성능은 이전 연구에서 고려된 다른 강건 추정기보다 뛰어나다.
• 이론적 분석을 통해 적절한 유의수준 시퀀스 zn을 선택할 경우, 순위 기반 PC에서 사용하는 조건부 독립성 검정은 확률이 1로 수렴하는 점근적 정확성을 확보한다.