[論文レビュー] Auto-STGCN: Autonomous Spatial-Temporal Graph Convolutional Network Search Based on Reinforcement Learning and Existing Research Results

Chunnan Wang, Kaixin Zhang+2 more|arXiv (Cornell University)|Oct 15, 2020

Traffic Prediction and Management Techniques参考文献 32被引用数 7

ひとこと要約

本稿では、強化学習を用いた自動ニューラルアーキテクチャ探索フレームワークであるAuto-STGCNを提案する。既存のSTGCN演算をパラメータ化されたUnified-STGCNフレームワークに統合することで、多様なアーキテクチャおよび学習設定の探索が可能となり、PEMS03、PEMS04、PEMS07、PEMS08といったベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

In recent years, many spatial-temporal graph convolutional network (STGCN) models are proposed to deal with the spatial-temporal network data forecasting problem. These STGCN models have their own advantages, i.e., each of them puts forward many effective operations and achieves good prediction results in the real applications. If users can effectively utilize and combine these excellent operations integrating the advantages of existing models, then they may obtain more effective STGCN models thus create greater value using existing work. However, they fail to do so due to the lack of domain knowledge, and there is lack of automated system to help users to achieve this goal. In this paper, we fill this gap and propose Auto-STGCN algorithm, which makes use of existing models to automatically explore high-performance STGCN model for specific scenarios. Specifically, we design Unified-STGCN framework, which summarizes the operations of existing architectures, and use parameters to control the usage and characteristic attributes of each operation, so as to realize the parameterized representation of the STGCN architecture and the reorganization and fusion of advantages. Then, we present Auto-STGCN, an optimization method based on reinforcement learning, to quickly search the parameter search space provided by Unified-STGCN, and generate optimal STGCN models automatically. Extensive experiments on real-world benchmark datasets show that our Auto-STGCN can find STGCN models superior to existing STGCN models with heuristic parameters, which demonstrates the effectiveness of our proposed method.

研究の動機と目的

• 既存のSTGCNモデルから効果的な演算を組み合わせて、より強力なアーキテクチャを構築できる自動システムの欠如に対処すること。
• 自動アーキテクチャ発見のための包括的かつパラメータ化された探索空間に、多様なSTGCNモデルを統一的に表現する課題を克服すること。
• 空間時系列予測のための、モデルアーキテクチャと学習ハイパーパrameterを同時に探索するエンドツーエンド最適化手法を開発すること。
• 異なる最先端STGCNモデルからの演算を統合することで、固定されたヒューリスティック設計よりも優れた性能が得られることを実証すること。

提案手法

• 既存のSTGCNモデルからの演算を一般化・抽象化し、設定可能なパラメータを用いて共通の探索空間に統合するパラメータ化されたフレームワーク「Unified-STGCN」を提案する。
• バリデーションMAEと推論遅延に基づく報酬信号を用いた強化学習ベースの探索エージェントを設計する。
• 2000エピソードにわたる探索プロセスにおいて、探索と活用のバランスを取るために、エプソン・グリーディ戦略にデイエイドスケジュールを適用する。
• 学習率0.001、割引率0.9を用いたQ学習の更新ルールを採用し、エージェントの方策を最適化する。
• 最終的に発見されたモデル（AutoSTGCNM）をPEMS03データセットで50エポック分訓練し、テスト性能を評価する。
• STブロック間の柔軟な接続パターンと多様なブロック構造を可能にすることで、モデルの表現力と探索効果を向上させる。

実験結果

リサーチクエスチョン

• RQ1 既存のアーキテクチャから、STGCNモデルの包括的かつパラメータ化された表現を構築し、自動探索を可能にすることができるか？
• RQ2 複数の最先端STGCNモデルからの演算を統合することで、個別に最適化されたモデルよりも優れた性能が得られるか？
• RQ3 強化学習が、アーキテクチャと学習ハイパーパrameterの両方を効果的に探索し、最適なSTGCNモデルを発見できるか？
• RQ4 アーキテクチャの多様性と柔軟な接続性は、STGCNモデルの高性能達成においてどの程度重要か？

主な発見

• Auto-STGCNは、PEMS03、PEMS04、PEMS07の各データセットにおいて、MAE、MAPE、RMSEの観点からすべてのベースラインモデルを上回る性能を示すSTGCNモデル（AutoSTGCNM）を発見した。
• PEMS08では、MAPEとRMSEが最高を記録し、STSGCNにわずかにMAEが高い程度で、全体的な性能が優れていることが示された。
• アブレーションスタディの結果、多様なSTブロック構造と柔軟な接続を持つモデルは、均一または剛性のある設計のものよりも顕著に優れた性能を示した。
• Multiple Sourceバージョン（すべての演算を1つのソースモデル（STSGCN）に制限）は最も悪い性能を示し、異なるモデル間での演算統合の価値を裏付けた。
• 探索プロセスは、1枚のV100 GPUで約4.75GPU日を要し、実用的導入にふさわしい計算コストであることが示された。
• 最終的なAutoSTGCNMモデルは他のデータセットに対しても一般化が良く、さまざまな空間時系列予測タスクにわたる強力な汎用性を示した。