[論文レビュー] Sequential Predictive Conformal Inference for Time Series

Xu Chen, Yao Xie|arXiv (Cornell University)|Dec 7, 2022

Statistical Methods and Inference被引用数 12

ひとこと要約

本稿では、時系列の予測残差の条件付き分位数を分位数回帰でモデル化することで、時系列における適応的予測区間を構築する分布フリーな手法である順次予測的コンフォーマル推論（SPCI）を提案する。残差の時間的依存性を活用し、時間とともに分位数推定を適応的に更新することで、有効な条件付き被覆率を達成しつつ、幅が著しく狭い区間を実現し、実データおよびシミュレートデータにおいて、既存手法を上回る幅と被覆率の安定性を示した。

ABSTRACT

We present a new distribution-free conformal prediction algorithm for sequential data (e.g., time series), called the extit{sequential predictive conformal inference} ( exttt{SPCI}). We specifically account for the nature that time series data are non-exchangeable, and thus many existing conformal prediction algorithms are not applicable. The main idea is to adaptively re-estimate the conditional quantile of non-conformity scores (e.g., prediction residuals), upon exploiting the temporal dependence among them. More precisely, we cast the problem of conformal prediction interval as predicting the quantile of a future residual, given a user-specified point prediction algorithm. Theoretically, we establish asymptotic valid conditional coverage upon extending consistency analyses in quantile regression. Using simulation and real-data experiments, we demonstrate a significant reduction in interval width of exttt{SPCI} compared to other existing methods under the desired empirical coverage.

研究の動機と目的

• 交換可能性の仮定が成立しない時系列における不確実性の定量化の課題に対処し、従属データに適した新しいコンフォーマル予測手法を要請する。
• 過去の残差からのフィードバックを活用して、区間の適応性と被覆率を向上させる順次コンフォーマル予測フレームワークを開発する。
• 時間的依存性の下で漸近的に有効な条件付き被覆率を保証し、交換不能な時系列に対しても分位数回帰の一致性を拡張する。
• 被覆率を損なわずに予測区間の幅を短縮し、エネルギー・ファイナンスなどハイリスクな応用分野において特に有効である。
• 予測の先行度が増すにつれて不確実性が増加することを反映する多段階先予測区間の構築を可能にする。

提案手法

• SPCIは、将来の残差の条件付き分位数推定問題として予測区間の構築を定式化し、過去の残差を説明変数として用いる。
• 時系列に沿った残差の条件付き分布をモデル化するために、分位数回帰（例：ランダムフォレスト分位数回帰）を用いる。
• 各時刻で、最近の予測誤差を組み込むことで、現在の不確実性を反映するように、残差分位数を逐次的に再推定する。
• 時間適応的な区間補正を可能にするために、過去の残差のローリングウインドウを用いて分位数回帰モデルを学習する。
• 多段階予測では、ラグ付きデータに対して順次的に手法を適用し、S個の同時区間を構築することで、結合的な不確実性を捉える。
• モデルフリーかつ分布フリーであり、任意の点予測モデル（例：ランダムフォレスト、ニューラルネットワーク）と互換性がある。

実験結果

リサーチクエスチョン

• RQ1 非交換性のため従来のコンフォーマル予測が失敗する時間的依存性のある時系列において、有効な予測区間を構築できるか？
• RQ2 過去の残差からのフィードバックをどのように活用することで、予測区間の適応性と鋭さを向上させられるか？
• RQ3 時間適応的分位数回帰により残差の条件付き分位数をモデル化することで、被覆率を保持しつつ区間を狭くできるか？
• RQ4 既存の順次コンフォーマル手法と比較して、SPCIは多段階先予測においてどのように性能を発揮するか？
• RQ5 非i.i.d.データの下でもSPCIは有効な被覆率を維持できるか？ また、EnbPI や NEX-CP よりも狭い区間を達成できるか？

主な発見

• SPCIは、分位数回帰の一致性を非交換的残差に拡張することで、従属時系列に対して漸近的に有効な条件付き被覆率を達成する。
• 実世界の時系列（太陽光、電力、風速）において、SPCIはEnbPI や NEX-CP よりも顕著に狭い予測区間を生成し、特に風速データにおいて顕著である。
• ローリングウインドウ評価では、他の手法（例：EnbPI）が失敗する中で、SPCIは100％近い被覆率を維持し、変化するデータダイナミクスに対して高いロバストネスを示した。
• SPCIの区間は適応的である：予測先行度が増すにつれて幅が広がり、不確実性の増大を反映する。これに対してEnbPIは過剰に保守的または幅が増加しない。
• 多段階予測では、SPCIの区間は実データのトレースをよく再現し、予測先行度に応じて幅が広がるため、より適応的で現実的であることが示された。
• 株式市場リターンデータでは、SPCIは90％被覆率を維持し、AdaptiveCI よりも狭い区間を生成した。これは、高分散かつ従属的な環境下でも優れた性能を発揮することを確認した。