[논문 리뷰] SIHR: An R Package for Statistical Inference in High-dimensional Linear and Logistic Regression Models

Prabrisha Rakshit, Tommaso Cai외 1명|arXiv (Cornell University)|2021. 09. 07.

Statistical Methods and Inference참고 문헌 22인용 수 4

한 줄 요약

이 논문은 고차원 선형 및 로지스틱 회귀 모형에서 통계적 추론을 위한 R 패키지인 SIHR를 소개한다. 이는 고차원 설정에 맞게 설계된 새로운 방법을 사용하여 선형 및 이차 함수형에 대한 점 추정, 신뢰구간 구성, 가설 검정을 가능하게 하며, 실제 데이터에서의 성능이 입증되었다.

ABSTRACT

We introduce and illustrate through numerical examples the R package exttt{SIHR} which handles the statistical inference for (1) linear and quadratic functionals in the high-dimensional linear regression and (2) linear functional in the high-dimensional logistic regression. The focus of the proposed algorithms is on the point estimation, confidence interval construction and hypothesis testing. The inference methods are extended to multiple regression models. We include real data applications to demonstrate the package's performance and practicality.

연구 동기 및 목표

• 표본 수에 비해 예측 변수가 많은 고차원 회귀 모형에서 기존 방법이 고차원성으로 인해 실패하는 문제를 해결한다.
• 고차원 선형 회귀에서 선형 및 이차 함수형에 대한 추론을 위한 통합 프레임워크를 개발한다.
• 이진 결과를 위한 고차원 로지스틱 회귀 모형으로 추론 기능을 확장한다.
• 점 추정, 신뢰구간, 가설 검정을 통해 다중 회귀 모형에서 강력한 추론을 가능하게 한다.
• 실제 데이터 응용을 통해 성능과 사용성의 타당성을 검증한다.

제안 방법

• 편향을 줄인 또는 탈스파arsed 추정기반의 새로운 추론 프레임워크를 제안하여 고차원 모수 추정의 편향을 감소시킨다.
• 편향을 줄인 추정기의 점근적 정규성을 활용하여 선형 및 이차 함수형에 대한 신뢰구간을 구성한다.
• 편향을 줄인 추정기에서 유도된 검정 통계량을 사용하여 가설 검정 절차를 구현하며, 고차원 분산에 적절한 스케일링을 적용한다.
• 비정규 분포의 이진 결과 설정에 맞게 탈편향 접근법을 적응시켜 로지스틱 회귀로의 방법 확장을 수행한다.
• 사용자 친화적이고 재현 가능한 응용을 위해 모든 방법을 통합한 R 패키지(SIHR)로 구현한다.
• 다중 함수형 및 동시 모수 추정을 위한 일반화를 통해 다중 회귀 모형을 지원한다.

실험 결과

연구 질문

• RQ1 표본 수에 비해 예측 변수가 많은 고차원 선형 회귀 모형에서 신뢰할 수 있는 통계적 추론은 어떻게 수행할 수 있는가?
• RQ2 고차원 설정에서 선형 및 이차 함수형에 대한 신뢰구간과 가설 검정의 성능은 어떠한가?
• RQ3 편향을 줄이는 접근법은 고차원 예측 변수를 가진 로지스틱 회귀 모형으로 효과적으로 확장될 수 있는가?
• RQ4 실세계 데이터셋에 적용했을 때 제안된 추론 방법들은 실제로 어떻게 비교되는가?
• RQ5 SIHR 패키지는 다양한 고차원 회귀 시나리오에서 강력하고 재현 가능한 추론을 어느 정도 지원하는가?

주요 결과

• SIHR 패키지는 고차원 선형 회귀 모형에서 선형 및 이차 함수형에 대한 타당한 통계적 추론을 성공적으로 가능하게 했다.
• 편향을 줄인 추정기를 사용한 신뢰구간은 고차원성 조건에서도 유한 표본에서 적절한 커버리지 비율을 달성했다.
• 제안된 프레임워크 기반의 가설 검정 절차는 귀무가설 하에서 정확한 제1종 오류 비율을 유지했다.
• 고차원 로지스틱 회귀로의 확장 덕분에 비정규 결과 조건에서도 선형 함수형에 대한 신뢰할 수 있는 추론이 가능했다.
• 실제 데이터 응용은 SIHR 패키지의 실용성과 다양한 고차원 환경에서의 강건성을 입증했다.
• 패키지는 다중 회귀 모형을 지원하여 다중 함수형에 대한 동시 추론과 통제된 오류 비율을 가능하게 했다.