[논문 리뷰] High Dimensional Semiparametric Gaussian Copula Graphical Models

Han Liu, Fang Han외 3명|arXiv (Cornell University)|2012. 02. 10.

Statistical Methods and Inference인용 수 3

한 줄 요약

이 논문은 정규분포가 아닌 데이터 또는 오염된 데이터에서도 최적의 파rametric 수렴 속도를 달성하는 강건한 고차원 그래픽 모델 추정기인 nonparanormal skeptic을 제안한다. 이 방법은 정규분포 기반 점수 대신 순서 통계 기반 상관계수(스피어만의 rho 및 켄달의 타우)를 사용하여 정밀행렬을 추정한다. 이는 비정규성 또는 오염된 데이터 조건에서도 정밀행렬 추정 및 그래프 복원에 대해 최적의 파rametric 수렴 속도를 달성하며, 기존의 가우시안 그래픽 모델 및 이전 nonparanormal 방법에 비해 통계적으로 효율적이고 강건한 대안이 된다.

ABSTRACT

In this paper, we propose a semiparametric approach, named nonparanormal skeptic, for efficiently and robustly estimating high dimensional undirected graphical models. To achieve modeling flexibility, we consider Gaussian Copula graphical models (or the nonparanormal) as proposed by Liu et al. (2009). To achieve estimation robustness, we exploit nonparametric rank-based correlation coefficient estimators, including Spearman's rho and Kendall's tau. In high dimensional settings, we prove that the nonparanormal skeptic achieves the optimal parametric rate of convergence in both graph and parameter estimation. This celebrating result suggests that the Gaussian copula graphical models can be used as a safe replacement of the popular Gaussian graphical models, even when the data are truly Gaussian. Besides theoretical analysis, we also conduct thorough numerical simulations to compare different estimators for their graph recovery performance under both ideal and noisy settings. The proposed methods are then applied on a large-scale genomic dataset to illustrate their empirical usefulness. The R language software package huge implementing the proposed methods is available on the Comprehensive R Archive Network: http://cran. r-project.org/.

연구 동기 및 목표

• 정규분포에서 벗어나 있거나 이상치를 포함하는 데이터에서 고차원 무향 그래픽 모델 추정을 위한 강건하고 효율적인 방법을 개발하기 위해.
• 고차원 설정에서 정밀행렬 추정 및 그래프 복원에 대해 최적의 파rametric 수렴 속도를 달성하기 위해.
• 모수적 변환 함수 추정이 필요 없도록 하여, 이전 nonparanormal 접근법에 비해 튜닝 복잡도를 감소시키기 위해.
• 실제로 정규분포일 경우에도 가우시안 그래픽 모델에 대한 안전하고 통계적으로 효율적인 대안을 제공하기 위해.
• 데이터 오염 조건에서 정규분포 기반 점수보다 순서 기반 추정기(Spearman’s rho, Kendall’s tau)가 우수한 성능을 보임을 입증하기 위해.

제안 방법

• 비모수적 순서 기반 상관계수 추정기(예: 스피어만의 rho, 켄달의 타우)를 사용하여 모수적 변환 함수 추정을 직접 생략하는 반모수적 방법인 nonparanormal skeptic을 제안한다.
• 모수적 변환 함수에 대한 가정 없이도 기저 상관계수 행렬을 추정하기 위해 스피어만의 rho와 켄달의 타우를 강건한 추정기로 사용한다.
• 기존의 파라미터 기반 그래픽 모델 절차(예: 그래픽 라소, CLIME, 그래픽 Dantzig 선택기)에 순서 기반 상관계수 추정치를 삽입하여 최종 정밀행렬 및 그래프 추정을 수행한다.
• 켄달의 타우에 대해 U-통계량 표현을 사용하고, 호프딩 부등식을 적용하여 순서 기반 상관계수 추정기의 농도 경계를 유도한다.
• 이론적 분석은 기존의 CLIME 및 그래픽 Dantzig 선택기 결과를 활용하여 비정규모델 하에서 최소최대 최적성(minimax optimality)을 입증한다.
• 모수적 변환 함수의 일致성 추정은 보조적 구성요소로 제공되며, skeptic의 핵심 절차에서는 필수적이지 않다.

실험 결과

연구 질문

• RQ1 스피어만의 rho 및 켄달의 타우와 같은 순서 기반 상관계수 추정기들이 고차원 nonparanormal 그래픽 모델에서 최적의 파라미터 수렴 속도를 달성할 수 있는가?
• RQ2 데이터 오염 또는 비정규성 조건에서 nonparanormal skeptic이 원래의 정규분포 기반 nonparanormal 추정기보다 뛰어난 성능을 보일 수 있는가?
• RQ3 실제로 정규분포일 경우에도 순서 기반 추정기의 강건성이 최적의 통계적 효율성을 유지할 수 있는가?
• RQ4 nonparanormal skeptic과 기존의 파rametric 추정기(예: CLIME, 그래픽 라소) 사이의 이론적 관계는 무엇인가?
• RQ5 nonparanormal skeptic과 이전 nonparanormal 방법 간의 튜닝 파ram터 수와 계산 복잡도는 어떻게 비교되는가?

주요 결과

• nonparanormal skeptic은 nonparanormal 모델 하에서 정밀행렬 추정 및 그래프 복원에 대해 최적의 파라미터 수렴 속도인 O(√(log d / n))를 달성하며, 이는 이론적으로 가능한 최고의 속도이다.
• 낮은 오염 수준에서는 정규분포 기반 점수 추정기가 略적으로 더 효율적이지만, 오염 수준이 높아지면 nonparanormal skeptic이 유의미하게 뛰어난 성능을 보이며 강건성을 입증한다.
• 모수적 변환 함수 추정이 필요 없기에, Liu 등(2009)에 비해 튜닝 복잡도가 감소한다.
• 이론적 분석을 통해 nonparanormal 가족이 가우시안 가족보다 더 넓은 범위임에도 불구하고, nonparanormal skeptic이 최소최대 최적성을 유지함을 확인한다.
• 수치 시뮬레이션 결과, nonparanormal skeptic은 이상치가 있는 조건에서도 정상 조건과 유사한 높은 그래프 복원 정확도를 유지한다.
• 대규모 유전자 데이터셋에 대한 실증적 검증을 통해 생물학적 조절 네트워크를 구성하는 데 실용적 유용성을 입증하였다.