[論文レビュー] VisionTS: Visual Masked Autoencoders Are Free-Lunch Zero-Shot Time Series Forecasters

Mouxiang Chen, Lefei Shen+4 more|arXiv (Cornell University)|Aug 30, 2024

Forecasting Techniques and ApplicationsDecision Sciences被引用数 3

ひとこと要約

VisionTSは、ImageNetで事前学習された視覚ベースのマスキング自己符号化器を再利用することで、微調整なしに時系列予測を実行する画期的なゼロショット時系列予測フレームワークを提案する。1次元の時系列データを2次元の画像に類似した行列に変換し、視覚モデルの自己教師あり表現を活用することで、SOTAのゼロショット性能を達成し、Moirai Largeなどの既存のファウンデーションモデルを上回る。視覚モデルが時系列予測のための「無料の昼食（free lunch）」となり得ることが示された。

ABSTRACT

Foundation models have emerged as a promising approach in time series forecasting (TSF). Existing approaches either repurpose large language models (LLMs) or build large-scale time series datasets to develop TSF foundation models for universal forecasting. However, these methods face challenges due to the severe cross-domain gap or in-domain heterogeneity. This paper explores a new road to building a TSF foundation model from rich, high-quality natural images. Our key insight is that a visual masked autoencoder, pre-trained on the ImageNet dataset, can naturally be a numeric series forecaster. By reformulating TSF as an image reconstruction task, we bridge the gap between image pre-training and TSF downstream tasks. Surprisingly, without further adaptation in the time series domain, the proposed VisionTS could achieve better zero-shot forecast performance than existing TSF foundation models. With fine-tuning for one epoch, VisionTS could further improve the forecasting and achieve state-of-the-art performance in most cases. Extensive experiments reveal intrinsic similarities between images and real-world time series, suggesting that visual models may offer a "free lunch" for TSF and highlight the potential for future cross-modality research. Our code is publicly available at https://github.com/Keytoyze/VisionTS.

研究の動機と目的

• 事前学習済みの視覚モデルがゼロショット時系列予測のためのファウンデーションモデルとして機能できるかを検討すること。
• 既存のテキストベースおよび時系列ベースのファウンデーションモデルが直面するクロスドメインギャップやデータの異質性の問題を解消すること。
• 画像と時系列の共通する構造的・物理的特徴を活用することで、両者のモダリティギャップを埋めること。
• ImageNetで事前学習された視覚的マスキング自己符号化器が、追加の適応なしに時系列予測に一般化可能かどうかを評価すること。
• 視覚モデルが、分野特化型のファウンデーションモデルに代わる低コストかつ高パフォーマンスな代替手段となり得ることを実証すること。

提案手法

• 時系列の時間的パターンを保持するように、1次元の時系列データをセグメンテーションによって2次元の行列に変換する。
• 視覚的マスキング自己符号化器（MAE）を用いて、時系列予測をピクセル単位の画像再構成タスクに再定式化する。
• ImageNetで事前学習された視覚MAEを活用し、トレンド、季節性、定常性といった一般的な時系列特徴の学習済み表現を活用する。
• 推論時、将来の予測ウィンドウを欠損ピクセルとしてマスキングし、再構成対象とすることで予測を実行する。
• 時系列データへの微調整なしに、事前学習済みの視覚モデルを直接使用することでゼロショット予測を実現する。
• 最小限の適応のため、レイヤーナーマライゼーション（LN）のパラメータのみを微調整し、多数のベンチマークでSOTA性能を達成する。

実験結果

リサーチクエスチョン

• RQ1 ImageNetで事前学習された視覚ベースのマスキング自己符号化器は、時系列予測において競争力のあるゼロショット性能を達成できるか？
• RQ2 VisionTSの性能は、ゼロショット設定下での既存のテキストベースおよび時系列ベースのファウンデーションモデルと比べてどの程度か？
• RQ3 異なる微調整戦略がVisionTSの予測精度に与える影響は何か？
• RQ4 画像と時系列の内在的類似性が、視覚から時系列予測への有効な転移学習を可能にするか？
• RQ5 Moirai Largeなどの強力なベースラインと比較して、VisionTSがどの予測シナリオで優位に立つか、あるいは劣るか？

主な発見

• VisionTSは複数のベンチマークでSOTAのゼロショット予測性能を達成し、微調整なしに既存で最大のファウンデーションモデルであるMoirai Largeを上回った。
• ETTh1データセットでは、ゼロショット設定下でMAEが0.395に達したのに対し、Moirai Largeは0.534であった。相対的に25.8%の改善が確認された。
• わずか1エポックの微調整で、VisionTSは多数の長期予測ベンチマークでSOTA結果を達成し、ゼロショット性能比で平均で最大15%のMAE改善を達成した。
• アブレーションスタディの結果、視覚的知識が極めて重要であることが確認された。視覚モデルを除いた場合（w/o VM）のETTh1でのMAEは0.534にまで低下するが、完全なVisionTSモデルでは0.395にまで改善された。
• レイヤーナーマライゼーション（LN）のみを微調整すると最良の性能が得られ、ベンチマーク全体で平均MAEが0.333にまで低下した。これは、全パラメータの微調整や他のパrameter特化戦略を上回った。
• 可視化結果から、VisionTSは規則的なパターン（例：図8）に対して良好に一般化しているが、パターンが少ない入力ではトレンドに過剰適合する傾向があり、この場合Moirai Largeの方が優れた性能を示した（図11）。