[論文レビュー] Adversarially Regularized Autoencoders for Generating Discrete Structures.

Junbo Zhao, Yoon Kim+3 more|arXiv (Cornell University)|Jun 13, 2017

Generative Adversarial Networks and Image Synthesis被引用数 57

ひとこと要約

この論文では、テキストや画像などの離散的構造データを連続的潜在空間にマップする敵対的正則化自動エンコーダーを提案している。敵対的訓練により、有効な生成モデリングが可能になる。自動エンコーダーとGANベースの正則化子を同時に訓練することで、データ忠実性を保ちながら滑らかで分離可能なコード空間を学習し、高品質な生成と半教師あり学習などの下流タスクが可能になる。

ABSTRACT

Generative adversarial networks are an effective approach for learning rich latent representations of continuous data, but have proven difficult to apply directly to discrete structured data, such as text sequences or discretized images. Ideally we could encode discrete structures in a continuous code space to avoid this problem, but it is difficult to learn an appropriate general-purpose encoder. In this work, we consider a simple approach for handling these two challenges jointly, employing a discrete structure autoencoder with a code space regularized by generative adversarial training. The model learns a smooth regularized code space while still being able to model the underlying data, and can be used as a discrete GAN with the ability to generate coherent discrete outputs from continuous samples. We demonstrate empirically how key properties of the data are captured in the model's latent space, and evaluate the model itself on the tasks of discrete image generation, text generation, and semi-supervised learning.

研究の動機と目的

• テキストや離散化された画像などの離散的構造データに生成的敵対的ネットワーク（GAN）を適用する課題に対処すること。
• 離散データの汎用的エンコーダーを学習する難しさを克服し、連続的潜在空間表現を可能にすること。
• 滑らかで正則化されたコード空間を共同で学習し、敵対的訓練によってデータ分布を保持すること。
• 連続的潜在サンプルから一貫性のある離散出力を生成できるようにすること。テキストおよび画像生成の応用を支援すること。
• 離散的画像生成、テキスト生成、半教師あり学習タスクにおけるモデルの性能を評価すること。

提案手法

• モデルは、離散入力を連続的潜在コード空間に変換するための離散的自動エンコーダーを用いる。
• 識別器は、潜在空間における実データと生成データを区別するように訓練され、滑らかさと現実性を強制する。
• 敵対的訓練により、離散トークンにおける微分可能でない操作を必要とせずに、潜在コード空間の連続性と分離性を促進する正則化が行われる。
• 生成器ネットワークは連続的潜在空間からサンプリングし、デコードして離散出力を生成する。これにより、エンドツーエンドの学習が可能になる。
• 潜在コードに条件付けられるため、非条件および条件付き生成の両方をサポートする。
• 非微分可能な離散出力での学習を可能にするために、勾配の流れを連続的潜在空間に依存させる。

実験結果

リサーチクエスチョン

• RQ1 敵対的訓練は、離散的自動エンコーダーの潜在空間を効果的に正則化し、離散的構造の高品質な生成を可能にするか？
• RQ2 学習された潜在空間は、離散データにおける意味的で分離可能な変動要因をどれだけ適切に捉えているか？
• RQ3 このモデルは、テキストや画像などの異なる離散的データタイプにどれほど一般化できるか？
• RQ4 ラベル付きデータがわずかにしか利用できない状況で、半教師あり学習においてどの程度の性能を示すか？
• RQ5 連続的潜在サンプルから一貫性があり多様な離散シーケンスを生成できるか？

主な発見

• モデルは、連続的潜在ベクトルから一貫性のある離散シーケンスの生成を可能にする滑らかで正則化された潜在空間を効果的に学習した。
• 補間および条件付き生成の実験により、潜在空間が意味的で分離可能な変動要因を捉えていることが裏付けられた。
• テキスト生成タスクにおいて、流暢で多様なシーケンスを生成するという点で、競争力のある性能を達成した。
• 離散的画像生成では、シャープで一貫性のある画像を生成し、ベースラインの自動エンコーダーを上回った。
• 半教師あり学習においても、限られたラベル付きデータで高い精度を示した。
• 標準的な自動エンコーダーと比較して、敵対的正則化は一般化性能とサンプル品質の両方を向上させた。