[논문 리뷰] Asymptotically Independent U-Statistics in High-Dimensional Testing

Yinqiu He, Gongjun Xu외 2명|arXiv (Cornell University)|2018. 09. 02.

Random Matrices and Applications참고 문헌 66인용 수 4

한 줄 요약

이 논문은 고차원 전반적 검정을 위한 渐近적 독립성 U-통계량의 가족을 제안하며, 다양한 차수의 p-값을 적응적으로 조합하여 희박, 조밀, 중간 대안에 걸쳐 강건한 검정력을 확보한다. 주요 기여는 귀무가설 하에서 서로 다른 차수의 U-통계량이 渐近적 독립성과 정규성을 만족함을 입증하여, 피셔의 방법을 통한 유효한 p-값 조합이 가능하게 했으며, 다양한 대안에 걸쳐 뛰어난 검정력을 확보한다.

ABSTRACT

Many high-dimensional hypothesis tests aim to globally examine marginal or low-dimensional features of a high-dimensional joint distribution, such as testing of mean vectors, covariance matrices and regression coefficients. This paper constructs a family of U-statistics as unbiased estimators of the $\ell_p$-norms of those features. We show that under the null hypothesis, the U-statistics of different finite orders are asymptotically independent and normally distributed. Moreover, they are also asymptotically independent with the maximum-type test statistic, whose limiting distribution is an extreme value distribution. Based on the asymptotic independence property, we propose an adaptive testing procedure which combines $p$-values computed from the U-statistics of different orders. We further establish power analysis results and show that the proposed adaptive procedure maintains high power against various alternatives.

연구 동기 및 목표

• 진짜 대안의 구조(희박, 조밀, 중간)가 알려져 있지 않을 때 고차원 전반적 검정에서 낮은 통계적 검정력 문제를 해결한다.
• 고차원 매개변수(예: 평균 벡터, 공분산 행렬, 회귀 계수)의 ℓp-노름에 대한 무편향 추정량을 구성하는 통합 프레임워크를 개발한다.
• 귀무가설 하에서 서로 다른 차수의 U-통계량이 渐近적 독립성과 정규성을 만족함을 입증하여, 유효한 p-값 조합이 가능하도록 한다.
• 다양한 차수의 U-통계량에서 유도된 p-값을 조합하여 다양한 대안 유형에 걸쳐 높은 검정력을 유지하는 적응형 검정 절차를 제안한다.
• 이론적 검정력 분석과 수치적 검증을 통해 광범위한 대안에 걸쳐 강건한 성능을 보임을 제시한다.

제안 방법

• i.i.d. 관측치의 커널 함수를 사용하여, ∥E∥a_a = ∑_{l∈L} e^a_l 를 무편향 추정량으로서 차수 a의 U-통계량을 구성한다.
• U-통계량의 차수 a를 U(a) = (P^n_a)^{-1} ∑_{l∈L} ∑_{1≤i1≠⋯≠ia≤n} ∏_{k=1}^a K_l(z_{i_{(k-1)γ_l+1}}, ..., z_{i_{kγ_l}}) 로 정의하며, 여기서 K_l 는 매개변수 e_l 에 대한 무편의 커널이다.
• 귀무가설 하에서 서로 다른 차수의 U-통계량 간의 渐近적 독립성을 확보하며, 이를 위해 공동 渐近적 정규성을 증명한다.
• 다양한 차수의 U-통계량에서 유도된 p-값을 피셔의 방법을 통해 조합하여 강건한 검정력을 갖춘 적응형 검정을 구성한다.
• 귀무가설 하에서 최대형 통계량(U(∞))의 점근적 분포를 추정하기 위해 순열 또는 점근적 근사법을 사용한다.
• 이 적응형 절차를 이중표본 평균 및 공분산 검정, GWAS 적용 등 실제 문제에 적용한다.

실험 결과

연구 질문

• RQ1 고차원 귀무가설 하에서 서로 다른 차수의 U-통계량이 渐近적 독립성을 만족하는가?
• RQ2 다양한 차수의 U-통계량에서 유도된 p-값을 조합하면 희박, 조밀, 중간 대안 전반에 걸쳐 높은 검정력을 갖는 검정 절차를 얻을 수 있는가?
• RQ3 희미한, 희박한, 중간 대안 하에서 기존의 제곱합 및 최대형 검정과 비교해 본다면, 제안된 U-통계량은 어떻게 성능을 보이는가?
• RQ4 서로 다른 차수의 U-통계량 간의 渐近적 독립성과 그 점근적 분포에 대한 이론적 근거는 무엇인가?
• RQ5 진짜 대안의 구조가 알려져 있지 않거나 설정에 따라 변할 때도 적응형 절차가 높은 검정력을 유지할 수 있는가?

주요 결과

• 서로 다른 유한 차수의 U-통계량은 귀무가설 하에서 渐近적 독립성과 공동 정규분포를 만족하며, 이는 유효한 p-값 조합이 가능함을 의미한다.
• 차수 a=2인 U-통계량은 제곱합 유형의 추정량이며, 높은 차수(예: a→∞)는 최대형 통계량을 근사하여 서로 다른 대안 구조를 반영한다.
• 극한의 희미한 경우(모델 1)에서, U(1)과 U(2)는 각각 p=300일 때 실증 검정력 0.416과 0.484를 기록하며, 적응형 절차(adpUf2)는 0.781에 도달한다.
• 극한의 희박한 경우(모델 2)에서, 고차수 U-통계량(U(4), U(∞))는 거의 1에 가까운 검정력을 보이며, U(1)과 U(2)는 p=300일 때 각각 0.049와 0.122로 급격히 감소한다.
• 중간 정도로 희박하고 희미한 경우(모델 3)에서, 유한 차수의 U(5)가 가장 높은 검정력(0.946, p=300)을 기록하며, 다른 방법들(Chen, Sriva, Schott)이 실패하는 상황에서도 적응형 절차(adpUf2)는 높은 검정력(0.940, p=300)을 유지한다.
• 제안된 적응형 절차(adpUf2)는 계산 비용이 큰 방법들(Pan1, Pan2)과 비교해 유사하거나 더 뛰어난 검정력을 확보하면서도, 특히 p가 클수록 훨씬 더 효율적이다.