[논문 리뷰] A Unified Framework for Testing High Dimensional Parameters: A Data-Adaptive Approach

Cheng Zhou, Xinsheng Zhang외 2명|arXiv (Cornell University)|2018. 08. 08.

Statistical Methods and Inference참고 문헌 13인용 수 6

한 줄 요약

이 논문은 $U$-통계량과 $p \in \{1,\dots,\infty\}$ 에서의 새로운 $L_p$-노름 변종을 사용하여 고차원 가설 검정을 위한 데이터 적응형 통합 프레임워크를 제안한다. 이는 다양한 대립가설 시나리오에서 동시에 높은 검정력을 제공한다. 계산 효율성이 높은 승수 부트스트랩을 도입하였으며, 시뮬레이션 및 fMRI 데이터에서 최적성과 뛰어난 경험적 성능을 입증하였다. 데이터 적응형 검정은 ADHD와 대조군 간 비교에서 $p$-값 0.000을 기록하였다.

ABSTRACT

High dimensional hypothesis test deals with models in which the number of parameters is significantly larger than the sample size. Existing literature develops a variety of individual tests. Some of them are sensitive to the dense and small disturbance, and others are sensitive to the sparse and large disturbance. Hence, the powers of these tests depend on the assumption of the alternative scenario. This paper provides a unified framework for developing new tests which are adaptive to a large variety of alternative scenarios in high dimensions. In particular, our framework includes arbitrary hypotheses which can be tested using high dimensional $U$-statistic based vectors. Under this framework, we first develop a broad family of tests based on a novel variant of the $L_p$-norm with $p\in \{1,\dots,\infty\}$. We then combine these tests to construct a data-adaptive test that is simultaneously powerful under various alternative scenarios. To obtain the asymptotic distributions of these tests, we utilize the multiplier bootstrap for $U$-statistics. In addition, we consider the computational aspect of the bootstrap method and propose a novel low-cost scheme. We prove the optimality of the proposed tests. Thorough numerical results on simulated and real datasets are provided to support our theory.

연구 동기 및 목표

• 고차원 모수에 대한 통합적이고 강력한 검정이 존재하지 않으며, 대립가설의 구조가 알려져 있지 않은 상황에서 이를 해결하고자 한다.
• 고차원 환경에서 조밀한 대안과 희박한 대안 양쪽 모두에 적응할 수 있는 프레임워크를 개발하고자 한다.
• 고차원에서 $U$-통계량 기반 추론의 계산 가능성과 이론적 타당성을 확보하고자 한다.
• 장애 패tern에 대한 사전 지식 없이도 다양한 대안 시나리오에서 높은 검정력을 유지할 수 있는 단일 검정을 제공하고자 한다.
• 실제 fMRI 데이터를 바탕으로 방법을 경험적으로 검증하여 뇌 활동의 그룹 간 차이를 탐지할 수 있는 능력을 입증하고자 한다.

제안 방법

• 프레임워크는 각각 $q$개의 모수에 대해 고정된 순서 $m$을 가진 커널 함수 $\Phi_s$ 를 사용하여 고차원 모수를 추정하는 $U$-통계량을 사용한다.
• 다양한 대안적 구조에 민감한 광범위한 검정통계량 가족을 구성하기 위해 $p \in \{1,\dots,\infty\}$ 에서의 $L_p$-노름의 새로운 변종을 도입한다.
• 개별 $L_p$-노름 검정을 최적의 감도 균형을 이루는 가중치 체계를 사용하여 조합함으로써 데이터 적응형 검정을 구성한다.
• 검정통계량의 渐近 분포를 근사하기 위해 승수 부트스트랩을 활용하여 고차원 점점 증가하는 점근적 조건 하에서도 타당한 추론을 보장한다.
• 부트스트랩의 계산 부담을 줄이기 위한 저비용 계산 체계를 제안하여 고차원 데이터에 대한 확장성을 확보한다.
• 약한 모멘트 및 의존 조건 하에서 이론적 최적성을 증명하였으며, 부트스트랩 근사의 일致성을 확립하였다.

실험 결과

연구 질문

• RQ1 단일 검정이 고차원 모수 검정에서 조밀한 대안과 희박한 대안 양쪽 모두에서 높은 검정력을 달성할 수 있는가?
• RQ2 다양한 대안 시나리오에서 검정력을 유지하기 위해 $L_p$-노름 검정의 데이터 적응형 조합은 어떻게 구성할 수 있는가?
• RQ3 고차원에서 $U$-통계량 기반 검정통계량의 표본 분포를 근사하는 데 있어 계산 효율적인 방법은 무엇인가?
• RQ4 고차원 환경에서 $U$-통계량에 대해 승수 부트스트랩을 어떻게 적응 및 최적화할 수 있는가?
• RQ5 제안된 프레임워크는 실세계 고차원 데이터, 예를 들어 fMRI 스캔에서 기존 방법보다 뛰어나게 성능을 발휘하는가?

주요 결과

• 데이터 적응형 검정은 ADHD와 대조군 간 ALFF의 차이를 탐지하는 데 있어 $p$-값 0.000을 기록하여 그룹 간 차이에 대한 강력한 통계적 증거를 제공하였다.
• $s_0 = 40$ 인 경우, $L_p$-노름 검정은 $p \in \{1,\dots,\infty\}$ 전부에서 $p$-값 0.001을 기록하여 그룹 간 차이를 일관되게 탐지함을 보였다.
• 통제군 간 비교에서도 검정은 강건성을 유지하였으며, $s_0 = 8000$ 인 경우 $p$-값은 0.282에서 0.406 사이로 변화하여 귀무가설 하에서 검정의 타당성을 확인하였다.
• 제안된 저비용 부트스트랩 체계는 분포 근사 정확도를 유지하면서도 계산 비용을 크게 감소시켰다.
• 이론적 최적성이 입증되었으며, 다양한 대안 모델 하에서 검출의 최소최대 속도를 달성하는 것으로 나타났다.
• 시뮬레이션 및 실제 fMRI 데이터에서의 경험적 결과는 데이터 적응형 검정이 다양한 시나리오에서 개별 $L_p$-노름 검정보다 뛰어난 성능을 보임을 확인하였다.