[논문 리뷰] Two-Sample Testing in High-Dimensional Models

Nicolas Städler, Sach Mukherjee|arXiv (Cornell University)|2012. 10. 16.

Statistical Methods and Inference참고 문헌 20인용 수 12

한 줄 요약

이 논문은 회귀 모델과 가우시안 그래픽 모델과 같은 다양한 모델에서 고차원 두 표본 검정을 위한 일반적인 데이터 분할 기반 방법을 제안한다. 표본 분할, $\ell_1$-패널티 추정, 그리고 다중 분할에 걸친 p-value 집계를 결합함으로써, 가중 카이제곱 분포를 통한 점근적 유효한 추론을 달성하여 $p \gg n$ 인 경우에도 신뢰할 수 있는 검정을 가능하게 한다. 이 방법은 단일 분할의 'p-value 럭키' 문제를 피하고, 순열 검정보다 검정력이 뛰어나다.

ABSTRACT

We propose novel methodology for testing equality of model parameters between two high-dimensional populations. The technique is very general and applicable to a wide range of models. The method is based on sample splitting: the data is split into two parts; on the first part we reduce the dimensionality of the model to a manageable size; on the second part we perform significance testing (p-value calculation) based on a restricted likelihood ratio statistic. Assuming that both populations arise from the same distribution, we show that the restricted likelihood ratio statistic is asymptotically distributed as a weighted sum of chi-squares with weights which can be efficiently estimated from the data. In high-dimensional problems, a single data split can result in a "p-value lottery". To ameliorate this effect, we iterate the splitting process and aggregate the resulting p-values. This multi-split approach provides improved p-values. We illustrate the use of our general approach in two-sample comparisons of high-dimensional regression models ("differential regression") and graphical models ("differential network"). In both cases we show results on simulated data as well as real data from recent, high-throughput cancer studies.

연구 동기 및 목표

• 고차원 두 표본 문제에서 $p \gg n$ 인 경우 신뢰할 수 있는 유의성 검정이 부족한 문제를 해결하기 위해.
• 고차원 선형 회귀 및 가우시안 그래픽 모델을 포함한 다양한 모델에 적용 가능한 일반적인 프레임워크를 개발하기 위해.
• 단일 데이터 분할의 불안정성('p-value 럭키')을 다중 분할 및 p-value 집계를 통해 극복하기 위해.
• 가장자기된 가중 카이제곱 분포를 갖는 점근적 귀무분포를 이론적으로 근거화하여 데이터로부터 추정 가능한 접근법을 제공하기 위해.
• 고 throughput 생물학적 데이터에서 차별적 상호작용, 예를 들어 암 유전체에서의 차별적 네트워크를 통계적으로 검정할 수 있도록 하기 위해.

제안 방법

• 두 집단의 데이터를 두 부분으로 나누어, 하나는 모델 선별용, 다른 하나는 검정용으로 사용한다.
• 첫 번째 분할에서 $\ell_1$-패널티 최대우도 추정을 사용하여 활성 매개변수 집합을 선별함으로써 희박성과 선별 성질을 확보한다.
• 두 번째 분할에서 비중첩 모델(개별 vs. 통합 매개변수 공간)을 비교하는 제한된 최대우도 비율 통계량을 계산한다.
• 제한된 최대우도 비율 통계량의 점근적 귀무분포를 독립된 $\chi^2$ 변수들의 가중합으로 규명하고, 이 가중치는 데이터로부터 추정한다.
• 분할 과정을 다수 반복하여 p-value를 집계함으로써 변동성을 감소시키고 신뢰성을 향상시킨다.
• 패널티 최대우도 추정을 통해 차별적 회귀(고차원 선형 모델) 및 차별적 네트워크(가우시안 그래픽 모델)에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 고차원 모델에서 $p \gg n$ 인 경우 일반적인 두 표본 검정 프레임워크를 개발할 수 있는가?
• RQ2 고차원에서 기존의 최대우도 비율 검정이 무너지는 상황에서 어떻게 신뢰할 수 있는 유의성 검정을 수행할 수 있는가?
• RQ3 데이터 분할과 p-value 집계는 고차원 환경에서 단일 분할 p-value의 불안정성을 완화시킬 수 있는가?
• RQ4 비중첩 고차원 모델에서 제한된 최대우도 비율 통계량의 점근적 귀무분포는 무엇인가?
• RQ5 이 방법은 암 아형 간 유전자 조절 네트워크나 회귀 효과의 생물학적으로 의미 있는 차이를 탐지할 수 있는가?

주요 결과

• 귀무가정 하에서 제한된 최대우도 비율 통계량은 가중 카이제곱 분포의 합으로 점근적으로 분포하며, 이 가중치는 데이터로부터 일致적으로 추정할 수 있다.
• 다중 분할 접근법은 단일 분할 대비 p-value의 변동성을 크게 감소시켰으며, 각 비교에 대해 500개의 p-value 히스토그램으로 이를 확인하였다.
• 피부암 대 혈액세포선에서의 차별적 회귀 분석에서 다중 분할 방법은 p-value 0.022를 도출하였고, 순열 검정은 0.220을 기록하여 더 높은 검정력을 보였다.
• 폐암과 대장암 간의 차별적 네트워크 분석에서 두 방법 모두 p-value가 근처 0에 가까웠으며, 다중 분할 방법은 $<10^{-4}$의 p-value를 기록하였다.
• 통합된 데이터에서의 역검증 결과 p-value가 1에 가까웠으며, 이는 귀무가정 하에서 방법의 타당성과 강건성을 확인하였다.
• 실제 TCGA와 CCLE의 고 throughput 암 유전체 분석 데이터에서 이 방법은 차별적 유전자 발현과 네트워크 구조를 성공적으로 탐지하였다.