[논문 리뷰] Sequential Predictive Conformal Inference for Time Series

Xu Chen, Yao Xie|arXiv (Cornell University)|2022. 12. 07.

Statistical Methods and Inference인용 수 12

한 줄 요약

이 논문은 시간 시리즈에서 예측 잔차의 조건부 분위수를 분위수 회귀를 사용해 모델링함으로써, 분포에 종속되지 않은 방법인 순차적 예측 콘formal 추론(Sequential Predictive Conformal Inference, SPCI)을 제안한다. 잔차의 시간적 의존성을 활용하고 시간에 따라 분위수 추정치를 적응적으로 갱신함으로써, SPCI는 유효한 조건부 커버리지와 함께 상당히 좁은 예측 구간을 달성하며, 실제 및 시뮬레이션 데이터에서 기존 방법들보다 넓이와 커버리지 안정성 측면에서 뛰어난 성능을 보인다.

ABSTRACT

We present a new distribution-free conformal prediction algorithm for sequential data (e.g., time series), called the extit{sequential predictive conformal inference} ( exttt{SPCI}). We specifically account for the nature that time series data are non-exchangeable, and thus many existing conformal prediction algorithms are not applicable. The main idea is to adaptively re-estimate the conditional quantile of non-conformity scores (e.g., prediction residuals), upon exploiting the temporal dependence among them. More precisely, we cast the problem of conformal prediction interval as predicting the quantile of a future residual, given a user-specified point prediction algorithm. Theoretically, we establish asymptotic valid conditional coverage upon extending consistency analyses in quantile regression. Using simulation and real-data experiments, we demonstrate a significant reduction in interval width of exttt{SPCI} compared to other existing methods under the desired empirical coverage.

연구 동기 및 목표

• 교환 가능성 가정이 실패하는 시간 시리즈에서의 불확실성 정량화 문제를 해결하기 위해, 종속 데이터에 적합한 새로운 콘포멀 예측 방법이 필요하다.
• 과거 잔차의 피드백을 활용하여 구간의 적응성과 커버리지 향상을 높일 수 있는 순차적 콘포멀 예측 프레임워크를 개발한다.
• 시간적 의존성이 존재하는 상황에서도 점차적으로 유효한 조건부 커버리지를 확보하며, 분포에 종속되지 않은 시간 시리즈로 분위수 회귀의 일致성 결과를 확장한다.
• 커버리지를 희생시키지 않고도 예측 구간의 넓이를 줄여, 에너지 및 금융과 같은 고위험 응용 분야에서 특히 유리하게 한다.
• 예측 수준이 증가함에 따라 증가하는 불확실성을 반영하는 다단계 예측 구간을 구축할 수 있도록 한다.

제안 방법

• SPCI는 미래 잔차의 조건부 분위수 추정 문제로 예측 구간 구축을 재정의하며, 과거 잔차를 공변량으로 사용한다.
• 시간에 따라 잔차의 조건부 분포를 모델링하기 위해 분위수 회귀(예: 랜덤 포레스트 분위수 회귀)를 사용한다.
• 이 방법은 각 시간 단계에서 잔차 분위수를 적응적으로 재추정하며, 최근의 예측 오차를 통합하여 현재의 불확실성을 반영한다.
• 반복 윈도우 방식으로 과거 잔차를 사용해 분위수 회귀 모델을 훈련함으로써 시간에 따라 적응하는 구간 校정을 가능하게 한다.
• 다단계 예측의 경우, SPCI는 지연된 데이터를 순차적으로 적용하여 S개의 동시 구간을 구성하며, 공동 불확실성을 포괄한다.
• 이 프레임워크는 모델에 종속되지 않으며 분포에 종속되지 않으며, 임의의 점 예측 모델(예: 랜덤 포레스트, 신경망)과 호환된다.

실험 결과

연구 질문

• RQ1 비교교환성으로 인해 표준 콘포멀 예측이 실패하는 시간적 의존성이 존재하는 시간 시리즈에서 유효한 예측 구간을 구축할 수 있는가?
• RQ2 과거 잔차의 피드백을 어떻게 활용하여 예측 구간의 적응성과 날카롭기(sharpness)를 향상시킬 수 있는가?
• RQ3 시간에 따라 적응하는 분위수 회귀를 통해 잔차의 조건부 분위수를 모델링하면, 조건부 커버리지를 유지하면서도 더 좁은 구간을 얻을 수 있는가?
• RQ4 기존의 순차적 콘포멀 방법과 비교해 SPCI는 다단계 예측에서 어떻게 성능을 발휘하는가?
• RQ5 비-i.i.d. 데이터 상황에서도 SPCI는 유효한 커버리지를 유지하면서 EnbPI나 NEX-CP보다 더 좁은 구간을 제공할 수 있는가?

주요 결과

• SPCI는 분위수 회귀의 일치성 결과를 비교교환성 잔차로 확장함으로써 종속적인 시간 시리즈에 대해 점차적으로 유효한 조건부 커버리지를 달성한다.
• 실제 시간 시리즈(태양광, 전력, 바람 속도)에서 SPCI는 EnbPI 및 NEX-CP보다 상당히 좁은 예측 구간을 생성하며, 특히 바람 속도 데이터에서 두드러진 성능을 보였다.
• 반복 윈도우 평가에서 SPCI는 다른 방법들(예: EnbPI)이 실패하는 상황에서도 거의 100%의 커버리지를 유지하며, 변화하는 데이터 역학에 대한 강건성을 입증했다.
• SPCI의 구간은 적응적이다: 예측 수준이 증가함에 따라 넓어지며, 증가하는 불확실성을 반영한다. 반면 EnbPI는 너무 보수적이거나 넓이가 증가하지 않는 경향이 있다.
• 다단계 예측의 경우, SPCI의 구간은 실제 데이터 경로를 잘 따라가며 예측 수준이 증가함에 따라 넓어지며, 더 뛰어난 적응성과 현실성의 향상을 보였다.
• 주식 수익률 데이터에서 SPCI는 유효한 90% 커버리지를 유지하면서 AdaptiveCI보다 더 좁은 구간을 제공하여, 고분산 및 종속적인 환경에서의 우수성을 확인했다.