[論文レビュー] Sequence Modeling using Gated Recurrent Neural Networks

Mohammad Pezeshki|arXiv (Cornell University)|Jan 1, 2015

Human Pose and Action Recognition参考文献 10被引用数 9

ひとこと要約

本論文は、再帰的ニューラルネットワーク（RNN）においてゲート付き再帰ユニット（GRUs）を用いて、人間の運動シーケンスをモデル化・生成することを提案し、長期間の依存関係を捉える能力において、tanh活性化関数を用いた通常のRNNを上回ることを示した。GRUモデルは、運動データの記憶と再構成を効果的に学習し、実際のモーショングラフデータと区別できないリアルな歩行シーケンスを生成した。

ABSTRACT

In this paper, we have used Recurrent Neural Networks to capture and model human motion data and generate motions by prediction of the next immediate data point at each time-step. Our RNN is armed with recently proposed Gated Recurrent Units which has shown promising results in some sequence modeling problems such as Machine Translation and Speech Synthesis. We demonstrate that this model is able to capture long-term dependencies in data and generate realistic motions.

研究の動機と目的

• 順序付けられた人間の運動データにおける長期的時間的依存関係をモデル化する課題に対処すること。
• ゲート付き再帰ユニット（GRUs）が、従来のtanhベースのRNNと比較してRNNの学習と性能をどのように向上させるかを評価すること。
• 学習済みのGRUベースの生成モデルを用いて、リアルな人間の運動シーケンスを生成すること。
• モデルが限定的なコンテキストから複雑な運動パターンを記憶・再構成できるかを検証すること。

提案手法

• モデルは、MITモーショングラフデータセットからの運動シーケンスを処理するため、120個の隠れユニットと49個の入力ユニットを持つ単一層のGRUを使用している。
• GRUは、情報の流れを制御する更新ゲートとリセットゲートを採用している：$ h_t = (1 - z_t) \circ h_{t-1} + z_t \circ \widetilde{h}_t $、ここで $ \widetilde{h}_t = \tanh(W_{xh}x_t + W_{hh}(r_t \circ h_{t-1})) $ である。
• 更新ゲート $ z_t = \sigma(W_{xz}x_t + W_{hz}h_{t-1}) $ とリセットゲート $ r_t = \sigma(W_{xr}x_t + W_{hr}h_{t-1}) $ が、記憶の保持と入力の調節を制御している。
• モデルは運動データ上で判別的に学習され、その後生成モードで使用される。この際、各ステップでの出力を次のステップの入力としてフィードバックする。
• データ前処理には、ゼロ平均・単位分散正規化と、全体の運動の除去が含まれ、1フレームあたり49個のボディジョイント特徴量が抽出された。
• 運動生成は、最初に50フレームの実際のフレームを初期コンテキストとして入力し、その後、自己回帰的に次のフレームを予測することで開始される。

実験結果

リサーチクエスチョン

• RQ1 標準的なtanh活性化関数を用いたRNNが失敗する人間の運動シーケンスにおいて、GRUsは長期的依存関係を効果的に捉えることができるか？
• RQ2 GRUベースのRNNは、学習されたパターンから、実際の歩行運動をどれほど正確に再構成・生成できるか？
• RQ3 GRUのゲート構造は、順序付きモデリングタスクにおける消失勾配問題を緩和するか？
• RQ4 学習済みのGRUモデルが、短い初期コンテキストから出発して、一貫性のある長時間のシーケンスをどれほど一般化して生成できるか？

主な発見

• GRUモデルは、tanh活性化関数を用いた通常のRNNと比較して、記憶タスクにおいて顕著に優れており、5ステップ前の入力の合計を正確に予測できた。
• 運動生成タスクにおいて、GRUで生成されたシーケンスは、人間の観察者によって実際のモーショングラフデータと区別できず、視覚的に同等の品質であった。
• 50フレームの実際の運動フレームを初期コンテキストとして与えることで、モデルは任意長のシーケンスを生成でき、時間的整合性を保った。
• 生成されたシーケンスの平均特徴軌道は、実データと図6に示すように非常に類似しており、高精度な再構成が実現された。
• GRUモデルは、長期的依存関係を効果的に処理し、長期間にわたるシーケンスにおいても関連情報を保持する強靭性を示した。