[論文レビュー] Competitive Training of Mixtures of Independent Deep Generative Models

Francesco Locatello, Damien Vincent+4 more|arXiv (Cornell University)|Apr 30, 2018

Generative Adversarial Networks and Image Synthesis参考文献 37被引用数 15

ひとこと要約

本稿では、補助識別器を用いて独立した深層生成モデルの混合モデルを競争的に訓練することで、各モデルが異なるデータモードに特化させ、サンプル品質と対数尤度を向上させる手法を提案する。訓練を競争によって分離することで、単一モデルやバギングよりも優れた性能を達成し、MNISTおよびCelebAで最先端のFIDスコアを達成する。

ABSTRACT

A common assumption in causal modeling posits that the data is generated by a set of independent mechanisms, and algorithms should aim to recover this structure. Standard unsupervised learning, however, is often concerned with training a single model to capture the overall distribution or aspects thereof. Inspired by clustering approaches, we consider mixtures of implicit generative models that ``disentangle'' the independent generative mechanisms underlying the data. Relying on an additional set of discriminators, we propose a competitive training procedure in which the models only need to capture the portion of the data distribution from which they can produce realistic samples. As a by-product, each model is simpler and faster to train. We empirically show that our approach splits the training distribution in a sensible way and increases the quality of the generated samples.

研究の動機と目的

• 容量制約による単一生成モデルのモード収縮という限界を解消する。
• 複雑なデータ分布の異なる成分に複数の生成モデルが特化できるようにする。
• 各モデルがうまくモデル化できるデータの部分に注目させることで、サンプル品質と対数尤度を向上させる。
• f-発散の最小化を用いた、暗黙的生成モデルの混合モデルを訓練する一般枠組みを開発する。
• VAE（全分布をモデル化）とGAN（モード収縮を起こす）の間のギャップを、因果的分離によって埋める。

提案手法

• 各生成モデルがデータ分布の別々の部分から現実的なサンプルを生成するように訓練される生成モデルの混合モデルを導入する。
• 各生成モデルの訓練を独立にガイドするため、サンプル品質を評価する補助識別器の集合を用いる。
• 全体のf-発散を各モデルごとの成分に分解し、各生成モデルの並列的かつ独立的な訓練を可能にする。
• 訓練目的関数を、混合モデルと真のデータ分布との間の一般f-発散の最小化として定式化する。
• 特定の条件下で、この手法がk-meansクラスタリングの特殊ケースに還元されることを示す。
• VAEおよびGANの両方に対してこのフレームワークを適用し、逐次的訓練を必要とせずに、異なるモードに特化させることができる。

実験結果

リサーチクエスチョン

• RQ1 補助識別器を用いた競争的訓練により、複雑なデータ分布の異なるモードに複数の生成モデルが特化可能か？
• RQ2 提案手法は、単一モデルやアンサンブルベースラインと比較して、サンプル品質と対数尤度をどのように向上させるか？
• RQ3 この手法はVAEおよびGANの両方へ一般化可能か？また、クラスタリングアルゴリズムとはどのように関係するか？
• RQ4 競争的訓練手順により、データ分布のより分離可能で解釈可能な表現が得られるか？
• RQ5 この手法は、適応的コンポーネント選択やモデル間でのパラメータ共有への拡張が可能か？

主な発見

• 競争的訓練手順により、データ分布が明確に異なる成分に分割され、生成されたサンプルでは類似した数字やスタイルがクラスタリングされる。
• MNISTでは、512フィルタを用いた3つのGANを用いた場合、FIDスコア19.38を達成し、単一GAN（21.18）やバギング（71.90）を上回った。
• CelebAでは、512フィルタを用いた3つのGANを用いた場合、FIDスコア23.75を達成し、単一GAN（23.63）やバギング（71.90）を大きく上回った。
• CelebAにおけるVAEでは、FIDスコア64.55を達成し、より大きなVAE（67.06）と同等の性能を示し、バギング（71.90）を著しく上回った。
• アブレーションスタディの結果、個々のモデルが全分布をモデル化するのに十分な能力を持たない場合に、性能向上が顕著に見られた。
• VAEおよびGANの両方へ一般化可能であり、データセットやアーキテクチャにかかわらず、一貫したサンプル品質および対数尤度の向上が得られた。