[論文レビュー] Multi-task learning of time series and its application to the travel demand

Boris Chidlovskii|arXiv (Cornell University)|Dec 21, 2017

Time Series Analysis and Forecasting参考文献 12被引用数 5

ひとこと要約

本稿では、公共交通機関の需要予測において、相互に依存する時系列を統合的に予測するためのマルチタスク学習フレームワークを提案する。正則化に基づくサポートベクターレグレッションを用い、類似時系列のクラスタリングに動的時間ワープング（DTW）を、共通の潜在的表現の推定に連続プロファイルモデル（CPM）を用いる2つのアライメント戦略を導入する。CPMに基づく手法は、複数のシナリオにおいて単一タスク学習と比較して平均二乗誤差（MSE）を3%〜12%低減し、旅行需要予測の精度とロバスト性の向上を示している。

ABSTRACT

We address the problem of modeling and prediction of a set of temporal events in the context of intelligent transportation systems. To leverage the information shared by different events, we propose a multi-task learning framework. We develop a support vector regression model for joint learning of mutually dependent time series. It is the regularization-based multi-task learning previously developed for the classification case and extended to time series. We discuss the relatedness of observed time series and first deploy the dynamic time warping distance measure to identify groups of similar series. Then we take into account both time and scale warping and propose to align multiple time series by inferring their common latent representation. We test the proposed models on the problem of travel demand prediction in Nancy (France) public transport system and analyze the benefits of multi-task learning.

研究の動機と目的

• インтелリジェントな交通システムにおける、特に公共交通機関の需要を対象とした、相互に依存する複数の時系列の予測という課題に対処する。
• 関連する時系列間で共有される情報を活用することで、単一タスク学習の限界を克服し、予測精度を向上させる。
• 時系列の回帰タスクに適応した正則化に基づくマルチタスクサポートベクターレグレッションモデルを構築する。
• 時系列の時間的・スケール的ずれに対処するため、アライメントを可能にする共通の潜在的表現を導入する。
• フランス・ナンシーの実世界の旅行需要データを用いて、天候、カレンダー、交通状況などの外部特徴を含めて、提案手法を評価する。

提案手法

• 時系列間の類似度を測定し、マルチタスク学習に適した関連する時系列のクラスタリングに動的時間ワープング（DTW）を用いる。
• すべての時系列に共通する潜在的表現を推定するための連続プロファイルモデル（CPM）を提案し、Viterbiに類似した推論によりアライメントを実現する。
• 関連するタスク間でモデルパラメータを共有することで一般化性能を向上させる、正則化に基づくマルチタスク学習をサポートベクターレグレッションに適用する。
• 天候、カレンダー、交通状況などの外部特徴を予測モデルに統合し、予測性能を向上させる。
• 観測された時系列を推定された共通の潜在的プロファイルにアライメントさせるために、Viterbi風のデコードを用いる。
• ナインの公共交通機関ネットワークの歴史的乗車データを用いてモデルを学習・評価し、集計期間を1時間および10分に変更して実験する。

実験結果

リサーチクエスチョン

• RQ1 マルチタスク学習は、単一タスク学習と比較して、公共交通機関の需要予測における時系列予測の精度を向上させることができるか？
• RQ2 本文脈において、動的時間ワープング（DTW）は、マルチタスク学習のための関連時系列のクラスタリングにどの程度有効であるか？
• RQ3 共通の潜在的表現（CPM）を推定することで、DTWに基づくクラスタリングと比較して、より良いアライメントと予測性能が得られるか？
• RQ4 天候、休日、交通状況などの外部要因は、モデルの予測性能にどのように影響を与えるか？
• RQ5 データ遅延（例：最終観測値が欠落）は、単一タスクモデルと比較して、マルチタスク学習モデルのロバスト性にどのような影響を与えるか？

主な発見

• 連続プロファイルモデル（CPM）を用いたマルチタスク学習は、すべての実験で単一タスク学習と比較して平均二乗誤差（MSE）を3%〜12%低減した。
• DTWに基づくクラスタリング手法は、単一タスク学習と比較して予測精度を2%〜7%向上させたが、特にデータ遅延下ではCPMに比べてロバスト性に劣る。
• 1時間集計期間のゾーン実験では、CPMを用いたマルチタスク学習が、0遅延状況で単一タスク学習を3%〜12%上回った。
• データ遅延（1遅延状況）下でも、CPMを用いたマルチタスク学習は優れた性能を維持し、単一タスク学習を3%〜16%上回った。
• 外部観測（天候、カレンダー、交通状況）の統合により、これらの特徴を含まないモデルと比較してMSEが40%〜60%低減した。
• CPMに基づく手法は、停留所数（2〜20）の変動や、異なる遅延条件（P=40%および90%）の下でも、より高い安定性と一貫した性能向上を示した。