[논문 리뷰] Bootstrap prediction intervals with asymptotic conditional validity and unconditional guarantees

Yunyi Zhang, Dimitris N. Politis|arXiv (Cornell University)|2020. 05. 19.

Statistical Methods and Inference참고 문헌 27인용 수 4

한 줄 요약

이 논문은 선형 모델에서 예측 구간을 구성하기 위한 새로운 부트스트랩 알고리즘을 제안한다. 이 방법은 점점 더 유효한 조건부 커버리지 성능을 달성하면서도 무조건적 하한을 보장하는 특징을 지닌다. 부트스트랩 잔차를 재가중하고 점근적 이론을 사용하여 분위수를 校정함으로써, 조건부 커버리지 확률이 확률적으로 명목 수준에 수렴하고, 조건부 과소커버리지의 위험도 점근적으로 통제된다.

ABSTRACT

It can be argued that optimal prediction should take into account all available data. Therefore, to evaluate a prediction interval's performance one should employ conditional coverage probability, conditioning on all available observations. Focusing on a linear model, we derive the asymptotic distribution of the difference between the conditional coverage probability of a nominal prediction interval and the conditional coverage probability of a prediction interval obtained via a residual-based bootstrap. Applying this result, we show that a prediction interval generated by the residual-based bootstrap has approximately 50% probability to yield conditional under-coverage. We then develop a new bootstrap algorithm that generates a prediction interval that asymptotically controls both the conditional coverage probability as well as the possibility of conditional under-coverage. We complement the asymptotic results with several finite-sample simulations.

연구 동기 및 목표

• 표준 잔차 기반 부트스트랩 예측 구간의 한계를 해결하기 위해, 점근적 유효성은 확보하나 조건부 과소커버리지 문제가 발생할 수 있음을 고려한다.
• 점근적 조건부 커버리지 확률이 명목 수준에 가까워지며 동시에 커버리지에 대한 무조건적 하한을 제공하는 예측 구간을 개발한다.
• 모든 데이터가 관측된 실세계 예측 실천 방식을 반영하는 데 더 적합한 조건부 커버리지 기준으로 예측 구간의 성능을 체계화한다.
• 예측 구간 구성에서 점근적 조건부 유효성과 유한 표본에서의 무조건적 보장을 연결하는 격차를 메운다.

제안 방법

• 이 방법은 잔차의 경험적 분포를 조정하여 조건부 커버리지 성능을 향상시키는 재가중 잔차 기반 부트스트랩 절차를 도입한다.
• 진짜 조건부 커버리지 확률과 부트스트랩 기반 커버리지 간의 차이의 점근적 분포를 도출함으로써, 부트스트랩 분위수의 校정이 가능해진다.
• 알고리즘은 조건부 유효성과 커버리지 하한을 동시에 확보할 수 있도록 수정된 부트스트랩 분포에서 분위수를 선택하여 예측 구간을 구성한다.
• 이 방법은 이중 부트스트랩 프레임워크를 사용한다: 첫 번째 단계는 예측 오차의 조건부 분포를 추정하기 위한 것이며, 두 번째 단계는 잠재적 과소커버리지를 통제하기 위한 것이다.
• 핵심 구성 요소로는 스터디언티드 잔차의 사용, 경험 과정 이론, 그리고 부트스트랩과 진짜 조건부 커버리지 간의 이탈을 제한하는 농도 부등식이 포함된다.
• 이 방법은 잔차의 경험 과정과 스터디언티드 잔차의 점근적 정규분포를 포함하는 점근 전개를 사용하여 校정된다.

Figure 1: Point-wise prediction intervals for the linear model $y_{i}=0.8+0.5x_{i}+\epsilon_{i},i=1,2,...,100$ . Black line, red dashed lines, solid purple lines, blue dashed lines, solid green lines respectively plot predictors, and point-wise prediction intervals generated by residual-based bootst

실험 결과

연구 질문

• RQ1 부트스트랩 기반 예측 구간을 구성할 수 있는가? 이때 조건부 커버리지 확률이 확률적으로 명목 수준 (1−α)에 수렴하는가?
• RQ2 표준 잔차 기반 부트스트랩 구간의 조건부 과소커버리지 확률은 점근적으로 어떻게 행동하는가?
• RQ3 점근적 조건부 유효성과 동시에 커버리지 확률에 대한 무조건적 하한을 제공하는 예측 구간을 설계할 수 있는가?
• RQ4 부트스트랩 절차는 어떻게 수정되어야 하며, 조건부 과소커버리지의 위험을 통제하면서도 점근적 유효성을 유지할 수 있는가?
• RQ5 선형 모델의 맥락에서 조건부 및 무조건적 커버리지 보장을 확립하기 위해 필요한 이론적 도구는 무엇인가?

주요 결과

• 표준 잔차 기반 부트스트랩은 약 50%의 확률로 조건부 과소커버리지를 겪으며, 이는 표본 수가 유한할 경우 성능 저하의 심각한 위험을 시사한다.
• 제안된 부트스트랩 알고리즘은 점근적으로 조건부 커버리지 확률과 조건부 과소커버리지 위험을 모두 통제하여, 조건부 커버리지 확률이 확률적으로 명목 수준에 수렴하도록 보장한다.
• 이 방법은 커버리지 확률에 대한 무조건적 하한을 보장하여, 콫리프로디션의 요구사항을 충족하면서도 조건부 유효성으로 인해 이를 초월한다.
• 유한 표본 시뮬레이션은 제안된 방법이 다양한 설계 구성과 오차 분포에서 명목 수준에 가까운 커버리지를 유지함을 확인한다.
• 이론적 분석은 부트스트랩 기반 조건부 커버리지와 명목 수준 간의 이격이 확률적으로 0으로 수렴하며, 이 수렴 속도는 잔차의 경험 과정에 의해 제어됨을 보여준다.
• 이 방법은 부트스트랩 잔차를 재가중하고, 추정된 오차 분산의 변동성을 고려한 정교한 분위수 校정을 통해 목표를 달성한다.

(a) Normal, Residual-based bootstrap