[논문 리뷰] Homoscedasticity tests for both low and high-dimensional fixed design regressions

Zhidong Bai, Guangming Pan외 1명|arXiv (Cornell University)|2016. 03. 12.

Statistical Methods and Inference참고 문헌 17인용 수 4

한 줄 요약

이 논문은 선형 회귀 모델에 대한 동분산성 검정을 저차원 및 고차원 고정 설계 설정에서 제안하며, OLS 잔차에서 유도된 계수변동도 기반 검정 통계량의 渐近 정규성을 확립함으로써 이를 달성한다. 이 방법은 설계 행렬이 고정이든 랜덤이든 유효성을 확보하기 위해 헷 매트릭스를 활용하며, 동분산성 가정 없이도 渐近 정규성을 증명함으로써 동분산성 가정이 없는 귀무가설 하에서도 높은 검정력 확보를 가능하게 한다.

ABSTRACT

This paper is to prove the asymptotic normality of a statistic for detecting the existence of heteroscedasticity for linear regression models without assuming randomness of covariates when the sample size $n$ tends to infinity and the number of covariates $p$ is either fixed or tends to infinity. Moreover our approach indicates that its asymptotic normality holds even without homoscedasticity.

연구 동기 및 목표

• 고차원 선형 회귀에서 고정 설계 행렬과 랜덤 설계 행렬 모두에서 유효한 동분산성 검정을 개발하는 것.
• 귀무가설 하에서 동분산성을 가정하지 않고도 계수변동도 기반 검정 통계량의 渐近 정규성을 확립하는 것.
• 기존의 고차원 동분산성 검정을 개선하여 독립 동일분포(i.i.d.) 공변수 가정을 제거하고 고정 설계 하에서도 유효성을 확보하는 것.
• 이상치나 비정규성에 강건한 검정력을 확보하기 위해, 이질분산성 존재하에서도 검정 통계량의 渐近 정규성을 입증함으로써 검정력 향상

제안 방법

• 검정 통계량 T는 제곱된 OLS 잔차의 정규화된 표본 첨도로 정의되며, 일정 분산에서의 이탈을 측정한다.
• T의 渐近 분포는 헷 매트릭스 P에 의해 변환된 잔차 벡터의 1차 및 2차 모멘트를 기반으로 델타 방법을 통해 유도된다.
• 유도 과정은 고차원 난수 벡터의 4차 및 8차 모멘트가 유계임을 전제로 하며, 이는 고차원에서의 이차형식의 공동 渐近 모멘트에 기반한다.
• 잔차의 분포를 Pε로 표현하기 위해 헷 매트릭스 P를 사용함으로써, i.i.d. 공변수 가정 없이도 고정 설계 하에서의 분석이 가능해진다.
• 증명은 오차 벡터의 4차 및 8차 모멘트의 모멘트 전개와 조합적 분해를 활용하며, 투영 행렬을 통해 의존성을 고려한다.
• 이 방법은 공변수의 분포에 대한 가정을 회피하며, 헷 매트릭스의 구조에 초점을 두어 고정 설계 및 랜덤 설계 모두에 적용 가능하다.

실험 결과

연구 질문

• RQ1 고차원 회귀에서 고정 설계 행렬이 존재할 경우에도 유효한 동분산성 검정을 구성할 수 있는가?
• RQ2 표본 크기 n이 증가함에 따라 공변수의 수 p도 증가할 때, 잔차에 대한 계수변동도 검정 통계량이 여전히 渐近 정규성을 유지하는가?
• RQ3 이질분산성 하에서도 검정 통계량의 渐 asymptotic 정규성이 유지되는가? 이를 통해 높은 검정력이 확보되는가?
• RQ4 독립 동일분포 또는 정규 공변수 가정 없이도 검정을 정당화할 수 있는가?
• RQ5 동분산성 귀무가설 하에서 검정 통계량의 명시적 渐 asymptotic 평균과 분산은 무엇인가?

주요 결과

• 귀무가설 하에서 동분산성이 성립함에도 불구하고, p/n → y ∈ [0,1)일 때 검정 통계량 T는 渐 asymptotic 정규성을 갖는다. 이는 고차원 설정을 포함한다.
• 동분산성을 가정하지 않더라도 T의 渐 asymptotic 정규성이 유지되어, 이질분산성을 탐지하는 데 높은 통계적 검정력을 확보한다.
• T의 渐 asymptotic 평균은 약 3n·tr(P∘P)/((n−p)² + 2(n−p)) − 1이며, 분산은 헷 매트릭스의 모멘트로부터 유도된다.
• 검정은 헷 매트릭스 P의 구조에 기반하므로 고정 설계 행렬에서도 유효하다. 이는 랜덤 공변수 가정이 필요하지 않음을 의미한다.
• 검정 통계량의 渐 asymptotic 분포는 비정규 오차 분포에 대해서도 강건하며, 오직 8차 모멘트가 유계임을 요구한다.
• 이 방법은 브루슈-패건 및 화이트 검정과 같은 고전적 검정을 일반화하며, 고차원 및 비점근적 해석을 고정 설계 하에서도 가능하게 한다.