[논문 리뷰] Penalized EM algorithm and copula skeptic graphical models for inferring networks for mixed variables

Fentaw Abegaz, Ernst C. Wit|arXiv (Cornell University)|2014. 01. 21.

Statistical Methods and Inference참고 문헌 22인용 수 3

한 줄 요약

이 논문은 고차원 혼합형 데이터(연속형, 이진형, 카운트형, 순서형 변수 포함)로부터 희소 그래픽 모델을 추론하기 위한 두 가지 새로운 방법—copula EM glasso 및 copula skeptic glasso—을 제안한다. $\ell_1$-벌점 확장 순위우도와 EM 알고리즘 또는 쌍별 커플라 추정을 조합함으로써, 정규성 가정에 위배되거나 다양한 변수 유형이 혼합된 상황에서도 강건한 네트워크 추론이 가능해지며, 시뮬레이션 및 실제 유전체 데이터(유방암 및 옥수수 유전체 데이터 포함)에서 뛰어난 성능을 보였다.

ABSTRACT

In this article, we consider the problem of reconstructing networks for continuous, binary, count and discrete ordinal variables by estimating sparse precision matrix in Gaussian copula graphical models. We propose two approaches: $\ell_1$ penalized extended rank likelihood with Monte Carlo Expectation-Maximization algorithm (copula EM glasso) and copula skeptic with pair-wise copula estimation for copula Gaussian graphical models. The proposed approaches help to infer networks arising from nonnormal and mixed variables. We demonstrate the performance of our methods through simulation studies and analysis of breast cancer genomic and clinical data and maize genetics data.

연구 동기 및 목표

• 표준 정규분포 가정이 실패하는 고차원 혼합형 데이터(연속형, 이진형, 카운트형, 순서형)로부터 무향 그래픽 모델을 추론하는 데 도전하는 것.
• 가우시안 커플라 그래픽 모델에서 희소 정밀행렬을 추정하기 위한 계산적으로 효율적이고 통계적으로 강건한 방법을 개발하는 것.
• 비정규성에 강건하고 모수적 마진 분포 모형화가 필요 없는 네트워크 추론을 가능하게 하는 것.
• 실제 생물학적 데이터셋(유방암 유전체 및 임상 데이터, 옥수수 유전체 데이터 포함)에 본 방법들을 적용하여 생물학적으로 의미 있는 조건부 의존성 관계를 밝혀내는 것.
• 시뮬레이션 연구와 실제 데이터 분석을 통해 제안된 방법의 성능을 기존 방법들과 비교하여 그래프 복원 정확도와 계산 확장성에 중점을 두고 평가하는 것.

제안 방법

• 혼합 이산형 및 연속형 변수에 대해 유효한 추론이 가능한 위험성 없는 마진 분포를 갖는 확장 순위우도(ERL)를 사용하여 마진 분포에 영향을 받지 않는 추론이 가능하다.
• EM 알고리즘 프레임워크 내에서 ERL에 대해 $\ell_1$-벌점 최대우도 추정을 적용함으로써 고차원에서 희소 정밀행렬 추정이 가능해진다 (copula EM glasso).
• 동일한 가족에 속하지 않는 파라미터적 이변량 커플라를 사용하여 쌍별 순위 상관관계를 추정하는 커플라 심각도 접근법을 적용하여 비정규심각도 방법보다 정확도가 향상된다.
• 쌍별 커플라 추정치를 사용하여 상관계수 행렬을 구성하고, 이를 역행렬하여 $\ell_1$-벌점 하에서 정밀행렬을 추정한다 (copula skeptic glasso).
• copula EM glasso 접근법에서 결측치를 효율적으로 처리하기 위해 EM 알고리즘을 구현하여 계산 효율성을 유지한다.
• 모델 적합도와 희소성의 균형을 맞추기 위해 최소 BIC 기준을 사용하여 튜닝 파rameter를 선택한다.

실험 결과

연구 질문

• RQ1 $\ell_1$-벌점 확장 순위우도와 EM 알고리즘을 조합한 copula EM glasso 방법이 고차원 혼합형 변수 네트워크에서 진짜 조건부 인적성 구조를 효과적으로 복원할 수 있는가?
• RQ2 파라미터적 이변량 커플라를 사용하여 쌍별 순위 상관관계를 추정하는 커플라 심각도 접근법이 기존 비정규심각도 방법보다 그래프 복원 정확도에서 뛰어나게 성능을 발휘하는가?
• RQ3 제안된 방법들이 실제 유전체 데이터셋(유방암 및 옥수수 유전체 데이터 포함)에서 알려진 생물학적 상호작용을 얼마나 잘 복원하는가?
• RQ4 매우 고차원 설정(예: 수천 개의 변수)에서 copula EM glasso와 copula skeptic glasso 간의 상대적 계산 효율성과 확장성은 어떠한가?
• RQ5 다중 검정 문제에 직면해도, 방법들이 옥수수에서 염색체 간 전방위 유전자 상호작용을 탐지할 수 있는가?

주요 결과

• 시뮬레이션 연구에서 copula EM glasso 방법은 혼합형 변수 유형이 있는 중간 수준의 고차원 설정에서 진짜 그래프 구조를 잘 복원하는 것으로 나타났다.
• copula skeptic glasso 방법은 높은 계산 효율성을 보이며, 특히 수천 개의 변수가 있는 매우 고차원 데이터에 적합하여 권장된다. 이는 쌍별 커플라 추정에 의존하기 때문이다.
• 유방암 데이터에서는 임상 및 유전적 변수 간의 희소 조건부 의존성 네트워크를 식별하였으며, 질병의 치명적 경과와 악성도와 관련된 유전자 증폭 또는 삭제를 강조하였다.
• 옥수수 유전체 데이터셋에서는 상당한 이염색체 간 상호작용(예: 염색체 1-2, 5-8, 6-7 간 마커 간 상호작용)을 탐지하여 잠재적인 전방위 조절 상호작용을 시사하였다.
• 옥수수 데이터에서 최소 BIC 기준은 튜닝 파rameter를 약 0.05로 선택하였으며, 이는 희소성과 생물학적 타당성 사이의 균형을 잘 반영하고 있음을 시사한다.
• 결과적으로 두 방법 모두 비정규성에 강건하며, 모수적 마진 분포 모형화 없이도 복잡한 의존성 관계를 효과적으로 모델링할 수 있음을 지지한다.