[논문 리뷰] Goodness of fit tests for high-dimensional models

Rajen D. Shah, Peter Bühlmann|arXiv (Cornell University)|2015. 11. 10.

Statistical Methods and Inference참고 문헌 28인용 수 3

한 줄 요약

이 논문은 저차원 및 고차원 선형 모형에서 적합도 검정을 위한 통합 프레임워크인 잔차 예측(RP) 검정을 소개한다. OLS 또는 Lasso 피팅에서 스케일링된 잔차를 회귀분석하고 예측 오차를 검정 통계량으로 사용하며, 임계값은 시뮬레이션 또는 파라미터 부트스트랩을 통해 확보함으로써, 이 검정들은 이방성과 비선형성과 같은 모형의 잘못된 특정화를 효과적으로 탐지할 수 있으며, 변수 유의성 검정에서 최신 기법들을 능가한다.

ABSTRACT

In this work we propose a framework for constructing goodness of fit tests in both low and high-dimensional linear models. We advocate applying regression methods to the scaled residuals following either an ordinary least squares or Lasso fit to the data, and using some proxy for prediction error as the final test statistic. We call this family Residual Prediction (RP) tests. We show that simulation can be used to obtain the critical values for such tests in the low-dimensional setting, and demonstrate using both theoretical results and extensive numerical studies that some form of the parametric bootstrap can do the same when the high-dimensional linear model is under consideration. We show that RP tests can be used to test for significance of groups or individual variables as special cases, and here they compare favourably with state of the art methods, but we also argue that they can be designed to test for as diverse model misspecifications as heteroscedasticity and different types of nonlinearity. 1

연구 동기 및 목표

• 저차원 및 고차원 선형 모형에 모두 적용 가능한 적합도 검정을 위한 통합 프레임워크를 개발하는 것.
• 예측 변수의 수가 표본 크기를 초과할 때 유효한 가설 검정을 구성하는 데 도전하는 문제를 해결하는 것.
• 변수 유의성 이외의 다양한 모형의 잘못된 특정화, 예를 들어 이방성과 비선형성을 탐지할 수 있도록 하는 것.
• 시뮬레이션 또는 파라미터 부트스트랩을 사용하여 임계값 추정을 계산적으로 실현 가능한 방법으로 제공하는 것.
• 고차원 설정에서 개별 또는 그룹 변수의 유의성 검정에서 기존 기법들을 능가하는 것.

제안 방법

• 일반 최소제곱 또는 Lasso를 사용하여 선형 모형을 피팅하고 스케일링된 잔차를 계산한다.
• 설계 행렬에 대한 이러한 스케일링된 잔차의 회귀를 중심 단계로 삼아 검정 통계량을 구성한다.
• 잔차 회귀에서의 예측 오차를 최종 검정 통계량으로 사용한다.
• 저차원 설정에서는 시뮬레이션을 사용하여 임계값을 확보한다.
• 고차원 설정에서는 파라미터 부트스트랩을 사용하여 임계값을 추정한다.
• 이 검정은 이방성과 비선형성과 같은 다양한 모형 위반 사항에 민감하도록 설계된다.

실험 결과

연구 질문

• RQ1 저차원 및 고차원 선형 모형에서 적합도 검정을 위한 통합 프레임워크를 개발할 수 있는가?
• RQ2 伝통적 방법이 실패하는 고차원 설정에서 검정 통계량의 임계값을 신뢰성 있게 계산할 수 있는가?
• RQ3 RP 검정은 변수 유의성 검정을 넘어서 비선형성과 이방성을 어느 정도 탐지할 수 있는가?
• RQ4 기존 최신 기법들과 비교할 때 RP 검정의 검정력과 크기(power 및 size)는 어떻게 되는가?
• RQ5 잔차 회귀에서 예측 오차를 검정 통계량으로 사용하면 고차원 모형에서 타당하고 강력한 추론을 얻을 수 있는가?

주요 결과

• 시뮬레이션 연구에서 RP 검정은 개별 또는 그룹 변수의 유의성 검정에서 타당한 크기 제어와 양호한 검정력을 확보하며, 최신 기법들을 능가한다.
• 고차원 설정에서는 파라미터 부트스트랩이 정확한 임계값을 제공하여 신뢰할 수 있는 추론을 가능하게 한다.
• 이 프레임워크는 표준 유의성 검정을 넘어서 이방성과 비선형성 같은 다양한 모형의 잘못된 특정화를 탐지할 수 있도록 충분히 유연하다.
• 시뮬레이션 연구에서 시뮬레이션을 통해 확보한 임계값은 저차원 설정에서 타당함을 확인한다.
• 잔차 회귀에서의 예측 오차를 검정 통계량으로 사용함으로써 강력하고 해석 가능한 검정 절차를 얻을 수 있다.
• 이 방법은 다양한 모형 구성과 오차 구조에서 강력한 실증 성능를 유지한다.