[論文レビュー] A Survey on Diffusion Models for Time Series and Spatio-Temporal Data

Yiyuan Yang, Ming Jin+10 more|arXiv (Cornell University)|Apr 29, 2024

Time Series Analysis and Forecasting被引用数 19

ひとこと要約

本調査は、時系列データおよび時空間データの拡散モデルを unconditional および conditioned のタイプに分類し、予測、生成、欠損補完、異常検知などへの活用を網羅的にレビューします。さらに、進展、課題、および今後の方向性についても論じます。

ABSTRACT

Diffusion models have been widely used in time series and spatio-temporal data, enhancing generative, inferential, and downstream capabilities. These models are applied across diverse fields such as healthcare, recommendation, climate, energy, audio, and traffic. By separating applications for time series and spatio-temporal data, we offer a structured perspective on model category, task type, data modality, and practical application domain. This study aims to provide a solid foundation for researchers and practitioners, inspiring future innovations that tackle traditional challenges and foster novel solutions in diffusion model-based data mining tasks and applications. For more detailed information, we have open-sourced a repository at https://github.com/yyysjz1997/Awesome-TimeSeries-SpatioTemporal-Diffusion-Model.

研究の動機と目的

• 時系列データおよび時空間データの拡散モデルの包括的で最新のレビューを提供する。
• 予測および生成タスクのための無条件拡散モデルと条件付き拡散モデルを統一された構造で分類する。
• 新たな進展（マルチモーダル条件付き生成とガイダンス技術を含む）を議論し、課題と将来の方向性を整理する。

提案手法

• 時系列データおよび時空間データのための拡散モデルを無条件型と条件付き型に分類する。
• 具体的なタスク（予測、生成、異常検知、欠損補完）とデータモダリティをレビューする。
• 拡散モデルの基盤（DDPM、Score SDE）とそれらの条件付けメカニズムを詳細に説明する。
• 前方/後方プロセスのバリエーション、スケジューラ、モデルアーキテクチャを含む、効率と性能の向上について論じる。

実験結果

リサーチクエスチョン

• RQ1 時系列データおよび時空間データに用いられる主な拡散モデルのパラダイム（無条件 vs 条件付き）は何か。
• RQ2 拡散モデルは temporal データの予測、生成、欠損補完、異常検知にどのように適用されているか。
• RQ3 現在の効率と性能の向上は何であり、それが実務展開にどのように影響するか。
• RQ4 残る課題は何か、そしてこの分野の将来の研究に有望な方向性は何か。

主な発見

• 拡散モデルは時系列データおよび時空間データのための汎用的な生成フレームワークとなり、予測タスクと生成タスクの両方を可能にしている。
• 無条件拡散モデルと条件付き拡散モデルの明確な分業があり、条件付けは特定の用途に合わせた出力を可能にする。
• 前方/後方プロセス設計、効率性（例：高速サンプラー、蒸留、潜在空間アプローチ）、モデルアーキテクチャ（UNet、Transformers）などの進歩がある。
• 条件付き拡散モデルは通常、ラベル、メタデータ、または跨モーダル情報を活用して生成を案内する一方、ラベルなしのバリアントは探索と多様性を促進する。
• 調査は実践的な課題を特定し、将来の方向性を概説しており、基盤モデルおよびマルチモダルデータとの統合を強調している。
• 本論文は、時系列データの拮宻拡散解決策を設計するための構造化されたロードマップと分類法を提供する。