[論文レビュー] Coupled Layer-wise Graph Convolution for Transportation Demand Prediction

Junchen Ye, Leilei Sun+3 more|arXiv (Cornell University)|Dec 15, 2020

Traffic Prediction and Management TechniquesEngineering参考文献 34被引用数 22

ひとこと要約

本稿では、自己学習された階層的隣接行列と結合された階層的メカニズムを用いて、多層次元の空間的依存関係と時間的ダイナミクスを捉える、交通需要予測のための新しいグラフ畳み込みネットワーク、CCRNNを提案する。このモデルは最先端の性能を達成し、ニューヨークシティ・サイクリング（Citi Bike）とニューヨークタクシー（Taxi）データセットにおいて、Graph WaveNetよりそれぞれ13.85%および26.85%のRMSE低減を達成した。

ABSTRACT

Graph Convolutional Network (GCN) has been widely applied in transportation demand prediction due to its excellent ability to capture non-Euclidean spatial dependence among station-level or regional transportation demands. However, in most of the existing research, the graph convolution was implemented on a heuristically generated adjacency matrix, which could neither reflect the real spatial relationships of stations accurately, nor capture the multi-level spatial dependence of demands adaptively. To cope with the above problems, this paper provides a novel graph convolutional network for transportation demand prediction. Firstly, a novel graph convolution architecture is proposed, which has different adjacency matrices in different layers and all the adjacency matrices are self-learned during the training process. Secondly, a layer-wise coupling mechanism is provided, which associates the upper-level adjacency matrix with the lower-level one. It also reduces the scale of parameters in our model. Lastly, a unitary network is constructed to give the final prediction result by integrating the hidden spatial states with gated recurrent unit, which could capture the multi-level spatial dependence and temporal dynamics simultaneously. Experiments have been conducted on two real-world datasets, NYC Citi Bike and NYC Taxi, and the results demonstrate the superiority of our model over the state-of-the-art ones.

研究の動機と目的

• 既存のGCNで用いられる固定でヒューリスティックな隣接行列の限界を是正し、交通需要における実際の空間的関係と多層次元の依存関係を捉えること。
• 異なるネットワーク層ごとに異なる隣接行列を可能にすることで、グローバルな天候の影響や局所的な交通障害といった階層的空間的依存関係をモデル化すること。
• 上位層と下位層の隣接行列を結合する階層的結合メカニズムを導入し、パラメータ数と計算コストを低減すること。
• ゲート付き再帰ユニット（GRU）を用いて空間的表現と時間的ダイナミクスを統合し、エンドツーエンドの空間時系列予測を実現すること。
• 実世界の需要予測において、距離に基づくまたは相関に基づく初期化よりも自己学習された隣接行列が優れていることを実証すること。

提案手法

• 各層が固定でない、学習可能な隣接行列を用いる「結合された階層的グラフ畳み込み（CGC）」を提案する。
• 上位層の隣接行列を下位層のものに、学習可能な変換によって接続する階層的結合メカニズムを導入し、パラメータ数を削減する。
• 異なる層からの表現の重要性をその関連性に基づいて動的に割り当てる多層次元集約モジュールを採用する。
• CGCからの空間的隠れ状態とゲート付き再帰ユニット（GRU）を統合し、時間的ダイナミクスをモデル化し、最終的な需要予測を出力する。
• バックプロパゲーションを用いて、隣接行列、グラフ畳み込み、予測ヘッドを一括してエンドツーエンドで学習する。
• 距離や相関に基づくヒューリスティクスに依存せず、トレーニング中に共同で学習される適応的埋め込み（E₁⁰, E₂⁰）を初期化に用いる。

実験結果

リサーチクエスチョン

• RQ1 自己学習された、階層に特化した隣接行列は、交通需要予測における多層次元の空間的依存関係のモデリングを向上させるか？
• RQ2 隣接行列間の階層的結合メカニズムは、パラメータの複雑さを低減しつつ、予測性能を維持または向上させるか？
• RQ3 実世界のデータセットにおいて、CCRNNはGraph WaveNet や DCRNN といった最先端モデルと比較して、どのように性能を発揮するか？
• RQ4 適応的隣接行列は、空間的距離やピアソン相関に基づくヒューリスティクス初期化法よりも、どれほど優れているか？
• RQ5 空間的表現とGRUを統合することで、需要パターンの長期的時間的ダイナミクスを効果的にモデル化できるか？

主な発見

• CCRNNは、ニューヨーク・シティ・サイクリング（Citi Bike）データセットでRMSE 2.8382、ニューヨーク・タクシー（Taxi）データセットでRMSE 9.5631を達成し、すべてのベースラインを上回った。
• Citi BikeデータセットではGraph WaveNetより13.85%、Taxiデータセットでは26.85%のRMSE低減を達成した。
• アブレーションスタディの結果、隣接行列をランダムに初期化すると性能が著しく低下（Citi BikeでPCC = 0.0204）し、適切な初期化の必要性が確認された。
• PCCに基づく初期化では、Citi BikeでPCC = 0.7851、TaxiでPCC = 0.9619を達成し、すべてのベースラインを上回ったが、依然として完全なCCRNNモデルに劣る性能であった。
• 結合なしバージョンでは、Citi BikeでPCC = 0.7702、TaxiでPCC = 0.9594を達成し、隣接行列が学習可能であっても結合メカニズムが性能向上に寄与していることが示された。
• 完全なCCRNNモデルでは、Citi BikeでPCC = 0.7934、TaxiでPCC = 0.9648を達成し、複雑な空間時系列依存関係を効果的に捉えられることを示した。