[論文レビュー] TrajectoryNet: An Embedded GPS Trajectory Representation for Point-based Classification Using Recurrent Neural Networks

Xiang Jiang, Érico N. de Souza+4 more|arXiv (Cornell University)|May 7, 2017

Human Mobility and Location-Based Analysis参考文献 46被引用数 28

ひとこと要約

TrajectoryNet は、ニューラルネットワークベースの特徴埋め込みと Maxout 活性化関数を備えた GRU を用いて、生の GPS トレースからの人間の移動モードの点分類を向上させる、新しい埋め込み GPS トレース表現を提案する。低次元で多様性のある GPS データを、基本関数展開に類似した埋め込みによって分散的意味的空間に変換することで、4つの移動モード分類で98%を超える精度、7クラス設定では97.3%の精度を達成し、外部センサデータや事前知識を必要とせずに、既存手法を上回る性能を発揮する。

ABSTRACT

Understanding and discovering knowledge from GPS (Global Positioning System) traces of human activities is an essential topic in mobility-based urban computing. We propose TrajectoryNet-a neural network architecture for point-based trajectory classification to infer real world human transportation modes from GPS traces. To overcome the challenge of capturing the underlying latent factors in the low-dimensional and heterogeneous feature space imposed by GPS data, we develop a novel representation that embeds the original feature space into another space that can be understood as a form of basis expansion. We also enrich the feature space via segment-based information and use Maxout activations to improve the predictive power of Recurrent Neural Networks (RNNs). We achieve over 98% classification accuracy when detecting four types of transportation modes, outperforming existing models without additional sensory data or location-based prior knowledge.

研究の動機と目的

• 生の低次元かつ多様性のある GPS トレースデータからの人間の移動モード分類の課題に対処すること。
• 高次元の意味的特徴を捉え、非線形意思決定境界を可能にする分散埋め込みを学習することで、GPS 特徴の表現を向上させること。
• GRU 内のセグメントベース特徴の強化と Maxout 活性化を用いて、RNN の予測性能を向上させること。
• 追加のセンサデータや場所ベースの事前知識に依存せずに、点分類のトレース分類で最先端の性能を達成すること。
• ニューラルネットワークにおける埋め込み、基本関数展開、量子化の理論的関係を、連続的空間時間データに対して解明すること。

提案手法

• モデルは、生の GPS 特徴（緯度、経度、速度、方位）を分散ベクトル空間にマップする、新しい埋め込み層を採用し、特徴表現の向上を図る基本関数展開に類似した働きを果たす。
• トレースを固定長のウィンドウに分割することでセグメントベース特徴を抽出し、局所的な移動パターンを入力表現に統合する。
• ゲート付き再帰ユニット（GRU）内に Maxout 活性化関数を適用することで、記憶状態の表現力が向上し、一般化性能が向上する。
• 埋め込み層は GRU 分類器と同時に端末から学習され、ネットワークが GPS データから意味的意味のある表現を直接学習できる。
• 連続的特徴の量子化はエントロピーに基づくビニングにより実施され、アブレーションスタディにより、1特徴あたり20〜30ビンが最適であると判明。
• モデルは交差エントロピー損失と確率的勾配降下法を用いて訓練され、過学習を防ぐために早期停止が適用される。

実験結果

リサーチクエスチョン

• RQ1 生の GPS 特徴の学習された埋め込みは、低次元かつ多様性のある時空間データにおける分類性能を向上させ得るか？
• RQ2 提案された埋め込み機構は、ニューラルネットワークにおける基本関数展開および区分的関数近似とどのように関連しているか？
• RQ3 セグメントベース特徴と Maxout 活性化は、RNN のトレース分類における予測性能をどの程度向上させるか？
• RQ4 完全に GPS に依存するモデルが、外部データや事前知識なしに最先端の性能を達成できるか？
• RQ5 量子化の細分化の選択が、移動モード検出におけるモデル性能にどのように影響するか？

主な発見

• 4つの移動モード（自転車、自動車、歩行、バス）を検出する際、TrajectoryNet は点分類精度が98.0%に達し、ベースラインモデルを著しく上回る。
• より困難な7クラス分類タスク（列車、地下鉄、飛行機を含む）では、97.3%の点分類精度と93.0%の平均F1スコアを達成した。
• クラスの不均衡に対しても頑健であることが示され、誤差率が最も高かったのは、訓練例が少なかった地下鉄や飛行機などの少数クラスであった。
• 1特徴あたり20〜30ビンに特徴を量子化すると最適な性能が得られ、30ビンを超えると利得が減少する傾向を示した。
• 予測の可視化から、大部分の誤分類は類似したモード同士（例：自動車 vs バス）の間で発生しており、モデルが微細な運動パターンを効果的に捉えていることが示された。
• アブレーションスタディにより、埋め込み層と Maxout-GRU 要素の両方が不可欠であることが確認され、いずれかを除去すると性能が著しく低下した。