[論文レビュー] Z-Forcing: Training Stochastic Recurrent Networks

Anirudh Goyal, Alessandro Sordoni+3 more|PolyPublie (École Polytechnique de Montréal)|Nov 15, 2017

Topic Modeling参考文献 31被引用数 32

ひとこと要約

本稿では、潜在変数の学習を向上させるために、逆方向RNNの状態を再構築するよう補助損失を導入する、Z-Forcingと呼ばれる確率的再帰的生成モデルを提案する。後向き推論、条件付き事前分布、潜在変数条件付きダイナミクスを統合することで、音声ベンチマーク（TIMIT、Blizzard）で最先端の性能を達成し、言語モデルにおいても解釈可能な表現を学習する。KL緩和法を上回る。

ABSTRACT

Many efforts have been devoted to training generative latent variable models with autoregressive decoders, such as recurrent neural networks (RNN). Stochastic recurrent models have been successful in capturing the variability observed in natural sequential data such as speech. We unify successful ideas from recently proposed architectures into a stochastic recurrent model: each step in the sequence is associated with a latent variable that is used to condition the recurrent dynamics for future steps. Training is performed with amortized variational inference where the approximate posterior is augmented with a RNN that runs backward through the sequence. In addition to maximizing the variational lower bound, we ease training of the latent variables by adding an auxiliary cost which forces them to reconstruct the state of the backward recurrent network. This provides the latent variables with a task-independent objective that enhances the performance of the overall model. We found this strategy to perform better than alternative approaches such as KL annealing. Although being conceptually simple, our model achieves state-of-the-art results on standard speech benchmarks such as TIMIT and Blizzard and competitive performance on sequential MNIST. Finally, we apply our model to language modeling on the IMDB dataset where the auxiliary cost helps in learning interpretable latent variables. Source Code: \url{https://github.com/anirudh9119/zforcing_nips17}

研究の動機と目的

• 潜在変数に対するタスクに依存しない補助目的を導入することで、系列データ向け確率的再帰モデルの学習安定性と性能を向上させること。
• 成功したアーキテクチャ的要素（逆方向事後分布、条件付き事前分布、潜在変数条件付きダイナミクス）を統合した1つの生成モデルに統合すること。
• 特に変動が大きいデータ（音声やテキストなど）における系列生成において、潜在要因の分離性と解釈可能性を向上させること。
• 強力な自己回帰的デコーダを搭載したVAEにおける劣悪な事後分布の崩壊問題に取り組み、潜在変数の効果的利用を促進すること。

提案手法

• モデルは逆方向RNNを用いて潜在変数の近似的な事後分布を計算し、推論中に将来の文脈にアクセス可能にする。
• 潜在変数は前方の再帰的ダイナミクスを条件づけることで、将来の系列要素の「計画」を効果的に符号化する。
• 補助損失として、潜在変数が逆方向RNNの隠れ状態を再構築するよう強制するもので、主な生成目的とは独立したタスクに依存しない信号を提供する。
• 変分推論のアンモアタイズド版を用いて学習し、追加の再構築損失を含めた変分下界（ELBO）を最大化する。
• 条件付き事前分布により、潜在変数が系列の文脈に影響を受けるよう保証され、モデルの表現能力が向上する。
• バックプロパゲーションスルータイムと確率的バックプロパゲーションを用いたエンドツーエンド学習が可能である。

実験結果

リサーチクエスチョン

• RQ1 潜在変数が逆方向RNNの状態を再構築するよう強制する補助損失が、確率的再帰モデルの学習安定性と性能向上に寄与するか。
• RQ2 逆方向ネットワークを通じて将来の文脈を予測するよう潜在変数を強制することで、系列生成における分離性と解釈可能性が向上するか。
• RQ3 音声およびテキストベンチマークにおいて、Z-ForcingはKL緩和法と比較してモデル性能および潜在変数の利用度に優れているか。
• RQ4 提案された補助目的は、音声および言語モデリングを含むさまざまな系列モデリングタスクに一般化可能か。

主な発見

• Z-Forcingは、TIMITやBlizzardを含む標準音声ベンチマークで最先端の結果を達成し、先行手法を上回る。
• 補助再構築損失は、特に事後分布の崩壊を軽減し、潜在変数の利用度を向上させる点で、KL緩和法よりも顕著にモデル性能を向上させる。
• IMDB言語モデリングデータセットでは、補助損失により線形補間による潜在空間内での滑らかな生成遷移が得られ、より解釈可能で分離された潜在表現が得られた。
• ELBOとIWAE（25サンプルで評価）の差が、KL分散が高くなるにつれて拡大する傾向にあり、モデルが強い潜在変数の監視に恩恵を受けていることが示唆される。
• 潜在空間内での線形補間により、潜在変数が文の長さおよび意味的特徴を捉え、補間ポイント間で滑らかな生成遷移が実現していることが確認された。