[논문 리뷰] Heterogeneity Adjustment with Applications to Graphical Model Inference

Jianqing Fan, Han Liu외 2명|arXiv (Cornell University)|2016. 02. 17.

Statistical Methods and Inference참고 문헌 38인용 수 5

한 줄 요약

이 논문은 높은 차원의 데이터 분석에서 배치 효과를 모델링하고 제거하기 위해 저질수치 주성분 분석을 사용하는 일반적인 프레임워크인 ALPHA를 제안한다. 차원의 복잡성의 '행운'과 정보가 풍부한 공변량을 활용함으로써, ALPHA는 동질적인 잔차의 일致된 추정을 가능하게 하여 뇌 영상 및 유전체학과 같은 높은 차원 설정에서 그래픽 모델 추론을 크게 향상시킨다.

ABSTRACT

Heterogeneity is an unwanted variation when analyzing aggregated datasets from multiple sources. Though different methods have been proposed for heterogeneity adjustment, no systematic theory exists to justify these methods. In this work, we propose a generic framework named ALPHA (short for Adaptive Low-rank Principal Heterogeneity Adjustment) to model, estimate, and adjust heterogeneity from the original data. Once the heterogeneity is adjusted, we are able to remove the biases of batch effects and to enhance the inferential power by aggregating the homogeneous residuals from multiple sources. Under a pervasive assumption that the latent heterogeneity factors simultaneously affect a large fraction of observed variables, we provide a rigorous theory to justify the proposed framework. Our framework also allows the incorporation of informative covariates and appeals to the "Bless of Dimensionality". As an illustrative application of this generic framework, we consider a problem of estimating high-dimensional precision matrix for graphical model inference based on multiple datasets. We also provide thorough numerical studies on both synthetic datasets and a brain imaging dataset to demonstrate the efficacy of the developed theory and methods.

연구 동기 및 목표

• 고차원 데이터 분석에서 기존의 배치 효과 보정 방법에 대한 체계적인 이론적 근거가 부족한 문제를 해결하기 위해.
• 다양한 데이터 소스 간의 이질성을 모델링하고 조정하기 위한 일반적이고 이론적으로 탄탄한 프레임워크를 개발하기 위해.
• 진정한 생물학적 또는 통계적 신호를 유지하면서 배치 효과와 같은 혼란 요인을 제거하여 그래픽 모델 추론의 신뢰성을 높이기 위해.
• 외부 데이터가 이용 가능한 경우 정보가 풍부한 공변량을 이질성 조정 과정에 통합하여 추정 정확도를 향상시키기 위해.
• 광범위한 요인 모델 가정 하에 잔차 추정과 정밀 행렬 복원의 이론적 일致성을 확립하기 위해.

제안 방법

• 각 데이터 배치의 공분산 구조에 이질성이 저질수치 성분으로 모델링되는 반모수적 요인 모델을 수립한다.
• 특히 광범위한 가정 하에서 효과적인 주성분 분석(PCA) 또는 투영된 PCA를 사용하여 저질수치 이질성 요인을 추정한다.
• 추정된 이질성 성분을 사용하여 원래 데이터를 조정함으로써, 배치 효과가 제거된 동질적인 잔차를 도출한다.
• 외부 공변량을 활용한 체계적 근사법을 적용하여, 공변량이 정보가 많고 표본 수가 제한된 경우 추정 정확도를 향상시킨다.
• 조정된 잔차에 대해 CLIME 절차를 적용하여 고차원 정밀 행렬 추정을 수행하고, 그래픽 모델 추론을 가능하게 한다.
• 최대 노름 하에서 잔차 행렬의 추정 오차와 모집단 공분산 행렬에 대한 이론적 보장을 제공한다.

실험 결과

연구 질문

• RQ1 고차원 설정에서 다수의 데이터 소스 간의 이질성을 조정하기 위한 일반적이고 이론적으로 타당한 프레임워크를 개발할 수 있는가?
• RQ2 대부분의 변수가 잠재적 요인에 영향을 받는 광범위한 가정이 이질성 성분의 일관된 추정을 어떻게 가능하게 하는가?
• RQ3 정보가 풍부한 공변량이 특히 각 배치의 표본 수가 적을 경우 이질성 추정의 정확도를 얼마나 향상시킬 수 있는가?
• RQ4 배치 효과 제거 후 ALPHA 프레임워크는 그래픽 모델 추론의 신뢰성과 일관성을 얼마나 향상시키는가?
• RQ5 이질성 조정 이후 잔차 행렬과 정밀 행렬 추정기의 이론적 성질은 무엇인가?

주요 결과

• ALPHA는 최대 노름 하에서 잔차 행렬과 모집단 공분산 행렬의 일관된 추정을 달성하며, 추정 오차에 대한 이론적 보장을 제공한다.
• 시뮬레이션 데이터에서, 메서드 1과 2는 조정이 없는 경우 11.6%였던 공유되지 않는 간선 비율을 각각 8.0%와 8.6%로 감소시켰으며, 이는 일관성 향상을 시사한다.
• 뇌 영상 데이터셋에서, 조정된 네트워크는 ADHD에서 알려진 기능적 연결성의 약화와 일치하는 통계적으로 유의미한 평균 상관관계 감소(0.001, p-value < 2.2e-16)를 보였다.
• 배측두엽(주황색)과 좌측 전두엽(초록색), 두정엽(분홍색)에서 건강한 대조군과 ADHD 환자 간의 종속성 구조 변화가 가장 뚜렷했다.
• 배치 효과로 인한 잘못된 간선을 줄이기 위해 단순 집계 방법에 비해 성능이 뛰어나며, 카이제곱 검정의 p-value는 특정 뇌 영역에서 공유되지 않는 간선의 비정규 분포를 나타내었다.
• 외부 정보가 이용 가능한 경우 투영된 PCA와 공변량을 활용한 방법이 추정 정확도를 향상시키며, 표본 수가 충분한 경우 기존의 PCA도 여전히 효과적이다.