[논문 리뷰] The huge Package for High-dimensional Undirected Graph Estimation in R

Tuo Zhao, Han Liu외 3명|PubMed|2020. 06. 26.

Statistical Methods and Inference참고 문헌 23인용 수 485

한 줄 요약

이 논문은 확장 가능한 고차원 비방향 그래프 추정을 위한 거대 R 패키지 huge를 소개하고, semiparametric 및 screening 옵션을 갖춘 여러 방법(MB 및 glasso)을 구현하며, glasso와의 성능을 비교합니다.

ABSTRACT

We describe an R package named huge which provides easy-to-use functions for estimating high dimensional undirected graphs from data. This package implements recent results in the literature, including Friedman et al. (2007), Liu et al. (2009, 2012) and Liu et al. (2010). Compared with the existing graph estimation package glasso, the huge package provides extra features: (1) instead of using Fortan, it is written in C, which makes the code more portable and easier to modify; (2) besides fitting Gaussian graphical models, it also provides functions for fitting high dimensional semiparametric Gaussian copula models; (3) more functions like data-dependent model selection, data generation and graph visualization; (4) a minor convergence problem of the graphical lasso algorithm is corrected; (5) the package allows the user to apply both lossless and lossy screening rules to scale up large-scale problems, making a tradeoff between computational and statistical efficiency.

연구 동기 및 목표

• 데이터로부터 고차원 비방향 그래프를 추정하는 R 패키지를 제공한다.
• 확장성을 위한 향상을 포함하여 여러 추정 방법(MB 및 그래프 라소)을 통합한다.
• 반정준 가우시안 코퓰라 모델링과 데이터 기반 모델 선택을 지원한다.
• 효율성을 높이기 위한 데이터 생성, 전처리, 시각화 및 screening 옵션을 제공한다.

제안 방법

• 이식성과 효율성을 위해 C로 구현된 핵심 엔진.
• 좌표 감소법과 희소 행렬을 이용한 MB 공분산 선택 및 그래프 라소 추정을 지원한다.
• semi-parametric Gaussian copula 그래프를 위한 nonparanormal 변환을 구현한다.
• 추정 전에 차원 축소를 위한 lossless 및 lossy 상관관계 screening을 포함한다.
• StARS, RIC, 확장 BIC(그래프 라소용)를 통한 모델 선택을 제공한다.
• igraph 기반 플로팅을 통한 그래프 시각화를 포함한다.

실험 결과

연구 질문

• RQ1 R에서 MB 및 graphical lasso 접근법을 사용하여 고차원 비방향 그래프를 데이터로부터 어떻게 효과적으로 추정할 수 있는가?
• RQ2 그래프 추정 전에 screening(손실 없는 및 손실 있는) 통합의 속도와 정확도 측면 이점은 무엇인가?
• RQ3 비paranormal 변환이 고차원에서 반모수적 Gaussian copula 그래프 추정을 어떻게 가능하게 하는가?
• RQ4 다양한 모델 선택 기준(StARS, RIC, EBIC)이 huge에서 규제 매개변수 선택에 대해 어떻게 작동하는가?

주요 결과

Method	d=1000	d=2000	d=3000	d=4000
huge -Meinshausen-Bühlmann (lossy)	0.938(0.054)	3.562(0.581)	8.238(0.822)	19.06(1.845)
huge -Meinshausen-Bühlmann	1.247(0.060)	11.88(2.136)	38.86(3.882)	104.0(5.574)
glasso -Meinshausen-Bühlmann	27.91(0.286)	216.9(2.557)	717.0(2.870)	1688(9.991)
huge -graphical lasso (lossy)	23.03(2.261)	222.4(23.92)	709.3(37.68)	1552(86.14)
huge -graphical lasso (lossless)	24.24(2.951)	267.5(39.48)	819.5(47.39)	1750(55.78)
glasso -graphical lasso	79.68(2.338)	742.5(9.831)	2348(12.08)	5455(17.25)

• Huge는 MB 기반 추정에서 glasso보다 더 빠른 성능을 달성하며, 특히 lossy screening에서 속도 향상이 나타난다(최대 약 500%의 속도 향상).
• Lossy screening은 변수당 Lasso 문제를 d에서 n으로 축소하여, d >> n일 때 효율을 개선한다.
• Huge의 그래프 라소 추정도 lossless 및 lossy screening으로 이점을 얻어, glasso에 비해 상당한 속도 향상을 제공한다.
• 이 패키지는 상관 임계값 조정 등 추가 방법과 데이터 생성, 전처리, 시각화 등 포괄적 프레임워크를 제공한다.
• 실험은 d와 n에 따라 다양한 실행 시간을 보여주며, 고차원 환경에서 huge의 확장성 이점을 강조한다.