[論文レビュー] Hierarchical Adversarially Learned Inference

Mohamed Ishmael Belghazi, Sai Rajeswar+4 more|arXiv (Cornell University)|Feb 4, 2018

Generative Adversarial Networks and Image Synthesis参考文献 36被引用数 20

ひとこと要約

本稿では、階層的でマルコフ連鎖型の潜在構造を備えた、生成的深層モデルである階層的対抗的推論（HALI）を提案する。このモデルは、逐次的により抽象的な表現を学習できるALIフレームワークを拡張したものである。生成器と推論ネットワークを対抗的に同時に学習させることで、半教師ありMNIST分類において最先端の性能を達成し、CelebAにおける非教師あり属性予測でも手作業で作成された特徴量を上回った。これは、対抗的学習のみで再構成誤差を最小化でき、意味的に意味のある階層的再構成が可能であることを示している。

ABSTRACT

We propose a novel hierarchical generative model with a simple Markovian structure and a corresponding inference model. Both the generative and inference model are trained using the adversarial learning paradigm. We demonstrate that the hierarchical structure supports the learning of progressively more abstract representations as well as providing semantically meaningful reconstructions with different levels of fidelity. Furthermore, we show that minimizing the Jensen-Shanon divergence between the generative and inference network is enough to minimize the reconstruction error. The resulting semantically meaningful hierarchical latent structure discovery is exemplified on the CelebA dataset. There, we show that the features learned by our model in an unsupervised way outperform the best handcrafted features. Furthermore, the extracted features remain competitive when compared to several recent deep supervised approaches on an attribute prediction task on CelebA. Finally, we leverage the model's inference network to achieve state-of-the-art performance on a semi-supervised variant of the MNIST digit classification task.

研究の動機と目的

• 純粋な対抗的フレームワーク内で、段階的により抽象的な表現を学習できる階層的生成モデルの開発。
• 対抗的学習のみで明示的な再構成損失なしに再構成誤差を最小化できるかどうかの調査。
• 推論ネットワークが学習した非教師あり表現の質を、下流の属性予測および半教師あり分類タスクで評価すること。
• 階層的構造が、複数の忠実度レベルの再構成と、意味的特徴のより良い分離を可能にすることの証明。

提案手法

• データ x → z → y の階層的でマルコフ連鎖型の潜在構造を導入。z は中間表現を表し、y はカテゴリカルなラベルを表す。
• 実データと生成されたサンプルを区別するための識別器を用いて、生成器（デコーダ）と推論ネットワーク（エンコーダ）を対抗的なゲームで同時に学習。
• 潜在変数 z からデータ空間への条件付き生成器と、x から z への確率的エンコーダ（等方性ガウスノイズを伴う）を採用。
• 上位レベルの潜在変数 y に対して監視損失項を導入し、交差エントロピーを予測されたクラス確率の上に用いて半教師あり学習を可能にする。
• 再構成誤差を明示的な損失なしに、Jensen-Shannon発散の最小化に基づく理論的根拠とともに、対抗的学習によって暗黙的に最小化。
• 表現学習中にラベルの微調整なしに、CelebAでは線形SVM分類、MNISTでは半教師あり学習にHALIの推論ネットワークの特徴を活用。

実験結果

リサーチクエスチョン

• RQ1 階層的モデルにおける純粋な対抗的学習フレームワークが、明示的な再構成損失なしに効果的な再構成を達成できるか？
• RQ2 階層的構造が、段階的により抽象的で意味的に意味のある表現を学習可能にできるか？
• RQ3 推論ネットワークから抽出した非教師あり特徴量が、手作業で作成された特徴量や深層教師あり特徴量を上回るか？
• RQ4 階層的推論ネットワークが、最小限のラベル付きデータで半教師あり学習において最先端の性能を達成できるか？

主な発見

• 100個のラベル付きサンプルを用いた半教師ありMNISTタスクにおいて、HALIは73のテスト誤差を達成し、GSSLTRABG（79.5 ± 9.8）やFeature-Matching GAN（93 ± 6.5）といった先行SOTA手法を上回った。
• CelebAの属性予測タスクでは、平均バランス正解率83.75%を達成し、VAE（73.30%）やALI（73.88%）を上回り、最良の手作業特徴量（PANDA: 76.95%）をも凌駕した。
• 40個の属性のうち15個で最高性能を達成したが、最良の教師ありベースライン（LMLE-kNN）は22個であった。これは、強力な一般化性能と特徴の分離性を示している。
• モデルは階層的深さが増すにつれて、より高品質な知覚的再構成を生成し、複数の忠実度レベルで意味的に意味のある再構成を実現した。
• 理論的分析により、真の分布と生成分布のJensen-Shannon発散を最小化することは、明示的な再構成損失がない状況でも再構成誤差の最小化に十分であることが示された。
• ラベルなしで学習されたHALIエンコーダの非教師あり特徴量は、教師あり深層モデルと同等の性能を示し、依然として競争力を持っていた。