[論文レビュー] Copula Conformal Prediction for Multi-step Time Series Forecasting

Sophia Sun, Rose Yu|arXiv (Cornell University)|Dec 6, 2022

Neural Networks and Applications被引用数 4

ひとこと要約

本稿では、時系列の依存構造を同定するためのコプシラを活用し、有限標本の妥当性を保ちつつ、最先端のベースラインと比較して著しく鋭く、かつよりキャリブレーションされた予測区間を生成する、多変量・多ステップ時系列予測のための新しいコンフォーマル予測手法CopulaCPTSを提案する。4つの実世界および合成データセットにおいて、性能が優れている。

ABSTRACT

Accurate uncertainty measurement is a key step to building robust and reliable machine learning systems. Conformal prediction is a distribution-free uncertainty quantification algorithm popular for its ease of implementation, statistical coverage guarantees, and versatility for underlying forecasters. However, existing conformal prediction algorithms for time series are limited to single-step prediction without considering the temporal dependency. In this paper, we propose a Copula Conformal Prediction algorithm for multivariate, multi-step Time Series forecasting, CopulaCPTS. We prove that CopulaCPTS has finite sample validity guarantee. On several synthetic and real-world multivariate time series datasets, we show that CopulaCPTS produces more calibrated and sharp confidence intervals for multi-step prediction tasks than existing techniques.

研究の動機と目的

• 時系列の依存関係を考慮した有効かつ効率的な不確実性評価が不足している多ステップ時系列予測の課題を解決すること。
• 有限標本の妥当性を保ちながら、多変量・多ステップ予測に適用可能な分布フリーなコンフォーマル予測フレームワークを開発すること。
• コプシラを用いて予測ステップ間の結合不確実性をモデリングすることで、信頼領域のキャリブレーションと効率性を向上させること。
• 異なる長さの時系列に適用可能で統計的保証を提供するコンフォーマル予測の適用を可能にすること。
• カバレッジと区間の鋭さの両面で、既存のコンフォーマルおよび非コンフォーマル不確実性評価手法を上回ること。

提案手法

• CoputaCPTSは、多ステップ予測出力の結合依存構造をコプシラでモデリングし、時間ステップ間の時系列相関を捉える。
• 交換可能性の下で有限標本の妥当性を保証する、インダクティブコンフォーマル予測を結合予測分布に適用する。
• 予測誤差の多変量依存関係を時間ステップにわたって表現するため、補正データ上でコプシラモデルを推定する。
• 予測軌道のコプシラ推定結合確率に基づく非適合スコアを定式化する。
• 各時間ステップごとに適応的有意水準を最適化するため、確率的勾配降下法を用いて信頼領域を最適化する。
• 異なる予測ホライズンに一般化可能な柔軟なコプシラ構造を学習することで、可変長予測をサポートする。

実験結果

リサーチクエスチョン

• RQ1 コンフォーマル予測手法は、多ステップ時系列予測における時間的依存関係をモデリングしながらも、有限標本の妥当性を維持できるか？
• RQ2 コプシラを用いた予測不確実性の結合モデリングは、予測区間のキャリブレーションと効率性にどのように影響するか？
• RQ3 CopulaCPTSは、区間の鋭さとカバレッジの正確性の両面で、既存のコンフォーマルおよび非コンフォーマル不確実性評価手法を上回ることができるか？
• RQ4 複雑な時間的依存関係を有する多変量・長ホライズン予測タスクに、この手法はどのようにスケーリングするか？
• RQ5 高次元の不確実性領域をモデリングする際の、数値的安定性と性能のトレードオフは何か？

主な発見

• 粒子シミュレーションデータセット（σ=0.01）では、CopulaCPTSが91.3%（±2.1）のカバレッジと1.08（±0.36）の面積を達成し、L2-Conformal（88.5%カバレッジ、7.21面積）およびDirect Gaussian（11.9%カバレッジ、0.07面積）を大きく上回った。
• COVID-19データセットでは、CopulaCPTSが90.5%（±1.6）のカバレッジと408.6（±65.8）の面積を達成し、効率性においてEllipsoidalCP（231.5面積）を大きく上回りつつ、カバレッジは同等を維持した。
• Argoverseのトラジェクトリ予測タスクでは、CopulaCPTSが90.2%（±0.1）のカバレッジと126.8（±12.2）の面積を達成し、実世界の運動予測において優れた性能を示した。
• 本稿では理論的に、交換可能性の仮定の下で有限標本の妥当性保証が保証されている。
• 時間ステップごとに変化するαjを最適化するための確率的勾配法は、固定αjと同等の性能を示し、ハイパーパramータチューニングに対して頑健であることが示された。
• 高次元設定では、EllipsoidalCPよりも効率性に優れるが、相関が強く次元数が中程度の場合は、EllipsoidalCPがより優れた性能を示した。