[論文レビュー] Learning Stochastic Recurrent Networks

Justin Bayer, Christian Osendorfer|arXiv (Cornell University)|Nov 27, 2014

Machine Learning and Algorithms参考文献 24被引用数 195

ひとこと要約

本稿では、潜在変数を組み込んだことで複雑で多モーダルな系列分布をモデル化できる、新たな再帰的ニューラルネットワークのクラス、Stochastic Recurrent Networks (STORNs) を提案する。Stochastic Gradient Variational Bayes (SGVB) を活用することで、尤度推定が信頼できるエンド・ツー・エンドの学習が可能となり、ポリフォニック音楽やモーショングラフデータにおいて、決定的RNNや先行モデルを上回る性能を発揮し、再構成および生成タスクで最先端の結果を達成した。

ABSTRACT

Leveraging advances in variational inference, we propose to enhance recurrent neural networks with latent variables, resulting in Stochastic Recurrent Networks (STORNs). The model i) can be trained with stochastic gradient methods, ii) allows structured and multi-modal conditionals at each time step, iii) features a reliable estimator of the marginal likelihood and iv) is a generalisation of deterministic recurrent neural networks. We evaluate the method on four polyphonic musical data sets and motion capture data.

研究の動機と目的

• 系列のコンponentsにおける複雑で多モーダルな条件付き分布をモデル化する際の、決定的RNNの限界を解消すること。
• 潜在変数を有する再帰的モデルにおける周辺尤度の信頼性ある推定を可能とし、従来のアプローチにおける非可解な推論を克服すること。
• 学習効率を維持したまま、構造的かつ確率的潜在変数を組み込むことでRNNの表現能力を拡張すること。
• 各時刻における構造的かつ多モーダルな出力分布をサポートできる、決定的RNNの一般化を提供すること。
• 高次元で密に結合された系列データ、例えばポリフォニック音楽や3次元モーショングラフの系列データに対して、モデルを評価すること。

提案手法

• モデルは、各時刻に潜在変数 z_t を導入することで、標準的なRNNを拡張し、履歴をもとに x_t を確率的かつ多モーダルにモデル化可能にする。
• 同時尤度 p(x_{1:T}, z_{1:T}) は、条件付き分布 p(x_t | z_t, h_t) と p(z_t | h_t) の積としてモデル化され、h_t は隠れ状態を表す。
• 認識モデル q(z_{1:T} | x_{1:T}) は、潜在変数の事後分布を推論するために双方向RNNとして実装される。
• Stochastic Gradient Variational Bayes (SGVB) を用いて、尤度の対数値の微分可能な下界を通じてモデルを学習し、確率的ノードを介したバックプロパゲーションを可能にする。
• 潜在変数に再パrameterizationトリックを適用し、低分散のモンテカルロサンプリングによる勾配推定を可能にする。
• モデルは、生成モデルと認識モデルの両方を最適化する目的関数として、下界の尤度（ELBO）を用いて学習される。

実験結果

リサーチクエスチョン

• RQ1 RNNに潜在変数を統合することで、複雑で多モーダルな系列分布のモデリングが著しく向上するか？
• RQ2 SGVBの使用により、尤度推定が信頼的で、効率的な確率的RNNの学習が可能になるか？
• RQ3 STORNモデルは、決定的RNNやRNN-RBM や RTRBM といった先行モデルと比較して、再構成および生成性能において優れているか？
• RQ4 STORNsは、モーショングラフやポリフォニック音楽のような高次元で密に結合された系列データを効果的に処理できるか？
• RQ5 モデルの確率的性質が、系列生成における不確実性と多様性の捉え込みにどの程度寄与するか？

主な発見

• STORNモデルは、モーショングラフデータにおいて、MSEが4.94に達し、RNN-RBM (MSE 20.1) や RTRBM (MSE 16.2) といった先行モデルを著しく上回った。
• 検証セットにおける推定された負の対数尤度は15.99であり、RNN-RBM や RTRBM が尤度推定に非可解であるのとは異なり、比較可能な指標が得られた。
• モデルは優れた生成能力を示し、20ステップの刺激入力の後に多様で現実的なサンプルを生成しており、出力分布における明確な不確実性が観察された。
• 潜在変数の最大事後確率推定を用いた欠損値補完により、損傷を受けても元のモーショングラフ系列が効果的に再構成された。これにより、モデルのロバストネスと推論能力が確認された。
• STORNモデルは、高次元系列成分間の構造的依存関係を効果的に捉えており、ナイーブベイズの仮定や固定混合成分を有するモデルよりも優れた性能を示した。
• 双方向認識モデルの使用により、事後分布推論が向上し、再構成および生成性能の向上に寄与した。