[論文レビュー] Rethinking Channel Dependence for Multivariate Time Series Forecasting: Learning from Leading Indicators

Lifan Zhao, Yanyan Shen|arXiv (Cornell University)|Jan 31, 2024

Forecasting Techniques and Applications被引用数 4

ひとこと要約

本稿では、変数間の動的特定の局所定常的リード・ラグ関係を活用する、マルチバリアント時系列予測のためのプラグアンドプレイ手法LIFTを提案する。各ステップでリーディングインジケータとその時間遅れを推定し、周波数ドメインに配慮したリファイナを用いて予測を精緻化することで、6つの実世界データセットにおいて平均でSOTAモデルを5.5%向上させる。

ABSTRACT

Recently, channel-independent methods have achieved state-of-the-art performance in multivariate time series (MTS) forecasting. Despite reducing overfitting risks, these methods miss potential opportunities in utilizing channel dependence for accurate predictions. We argue that there exist locally stationary lead-lag relationships between variates, i.e., some lagged variates may follow the leading indicators within a short time period. Exploiting such channel dependence is beneficial since leading indicators offer advance information that can be used to reduce the forecasting difficulty of the lagged variates. In this paper, we propose a new method named LIFT that first efficiently estimates leading indicators and their leading steps at each time step and then judiciously allows the lagged variates to utilize the advance information from leading indicators. LIFT plays as a plugin that can be seamlessly collaborated with arbitrary time series forecasting methods. Extensive experiments on six real-world datasets demonstrate that LIFT improves the state-of-the-art methods by 5.5% in average forecasting performance. Our code is available at https://github.com/SJTU-Quant/LIFT.

研究の動機と目的

• マルチバリアント時系列（MTS）におけるチャネル独立型手法が、有用なチャネル間依存関係を無視するという限界に対処すること。
• 変数間の局所定常的リード・ラグ関係が、予測精度の向上に活用可能かどうかを調査すること。
• リアルタイム予測用途に適した、動的かつリーディングインジケータとその時間遅れを特定する手法を開発すること。
• 任意のバックボーンモデルと互換性があり、アーキテクチャの大幅な見直しを伴わずに性能を向上できる、プラグアンドプレイモジュールの開発

提案手法

• 各時刻でリーディングインジケータとそのリードステップを動的に推定するための効率的なクロス相関アルゴリズムを提案する。
• 推定されたリード時間に基づいて、各変数をそのリーディングインジケータに合わせて整列する、ターゲット指向のシフトトリックを導入する。
• 初期予測にバックボーンモデル（例：DLinear、LightMTS）を用い、その後に、リーディングインジケータからの情報的周波数成分をフィルタリングおよび統合するリード認識リファイナを適用する。
• リーディングインジケータからの望ましい周波数成分を効果的に吸収し、ノイズを抑制するため、リード認識リファイナ内に適応的周波数ミキサーを設計する。
• 特に多様なセンサ測定値を含む異種MTSにおいて、文脈依存のリード・ラグパターンをモデル化するための変数状態表現を活用する。
• 全体のパイプラインをプラグインモジュールとして統合し、任意の既存のMTS予測モデルとシームレスに統合可能にする。

実験結果

リサーチクエスチョン

• RQ1 変数間の局所定常的リード・ラグ関係は、マルチバリアント時系列予測の向上に有効に活用可能か？
• RQ2 事前仮定を必要とせず、リアルタイムでリーディングインジケータとその時間遅れを動的に推定する方法は何か？
• RQ3 リーディングインジケータからの周波数ドメイン信号を統合することで、予測精度にどのような影響を与えるか？
• RQ4 異なるデータセットにおけるリード・ラグ関係の分布シフトに対して、LIFTの性能はどのように変化するか？
• RQ5 リーディングインジケータモデリングを組み込んだ軽量でチャネル独立型ベースライン（例：LightMTS）は、複雑なモデルを上回る性能を示せるか？

主な発見

• LIFTは6つの実世界データセットにおいて平均で5.5%のSOTA性能向上を達成し、既存手法に対する一貫した向上効果を示した。
• LightMTSベースラインにLIFTを組み込むと、WeatherデータセットではPatchTSTなどの複雑なモデルを3.2%、Electricityでは0.7%上回った。
• アブレーションスタディの結果、リード認識リファイナ内の影響成分と差分成分の両方が不可欠であり、いずれかを除去すると性能が著しく低下した。
• フィルタリングを実施しないバリアントが最も悪い性能を示し、周波数成分における適応的ノイズ抑制が耐性性に不可欠であることが示された。
• K（リーディングインジケータ数）とN（変数状態数）の最適な値は中程度であり、過剰に推定すると、スパarsなまたはノイジーなデータセットでは性能が劣化した。
• 特にWeatherのような異種MTSにおいて、変数状態表現は極めて重要であり、これを無視すると性能低下が最大にまで及ぶことが判明した。