[論文レビュー] MMGAN: Generative Adversarial Networks for Multi-Modal Distributions

Teodora Pandeva, Matthias Schubert|arXiv (Cornell University)|Nov 15, 2019

Generative Adversarial Networks and Image Synthesis参考文献 19被引用数 8

ひとこと要約

MMGANは、潜在空間を混合ガウスモデル（GMM）としてモデル化し、専用のクラスタリングネットワークを備えた、GANアーキテクチャの新規提案である。このアプローチにより、複数のモードを持つデータに対して訓練の安定性が向上し、生成性能も向上する。各データ多様体が別個の潜在クラスタに対応するように設計されているため、MMGANは優れたクラスタリング性能と安定した訓練を達成し、MNIST、Fashion-MNIST、Coil-20データセットにおいて最先端のモデルを上回る性能を示した。

ABSTRACT

Over the past years, Generative Adversarial Networks (GANs) have shown a remarkable generation performance especially in image synthesis. Unfortunately, they are also known for having an unstable training process and might loose parts of the data distribution for heterogeneous input data. In this paper, we propose a novel GAN extension for multi-modal distribution learning (MMGAN). In our approach, we model the latent space as a Gaussian mixture model with a number of clusters referring to the number of disconnected data manifolds in the observation space, and include a clustering network, which relates each data manifold to one Gaussian cluster. Thus, the training gets more stable. Moreover, MMGAN allows for clustering real data according to the learned data manifold in the latent space. By a series of benchmark experiments, we illustrate that MMGAN outperforms competitive state-of-the-art models in terms of clustering performance.

研究の動機と目的

• 標準のGANが多様体データ分布をモデル化する際の不安定さとモード崩壊を解消すること。
• データ多様体と整合する構造的かつ非交差な潜在空間を学習することで、実データの解釈可能なクラスタリングを可能にすること。
• 各クラスタ固有の成分を備えたGMMとして潜在空間を明示的にモデル化することで、生成性能と訓練の安定性を向上させること。
• 後処理や強力なVAE型のインダクティブバイアスに依存せずに、生成と非教師付きクラスタリングの両方を統合的に扱うフレームワークを提供すること。

提案手法

• 潜在空間をK個の成分を有する学習可能な混合ガウスモデル（GMM）としてモデル化するGANの変種（MMGAN）を導入し、各成分がデータ多様体に対応する。
• 実データを潜在空間における最も確率の高いGMM成分にマッピングするクラスタリングネットワークを統合し、敵対的損失を用いたエンドツーエンドの訓練を可能にする。
• 訓練中に、実データと生成サンプルを同じGMMクラスタに割り当てるペアリング戦略を採用することで、ディスクライマータの信号強化と訓練の安定性向上を図る。
• 特に高次元かつ多様体設定において、訓練の安定性とモードカバレッジを向上させるために、cRaSGAN敵対的損失を採用する。
• 汎用近似定理を用いて、MMGAN構造を介して複雑で非連結なデータ分布をモデル化可能な生成器の存在を正当化する。
• 実データに対する推論を可能にするために、最も確率の高いGMM成分を予測することで、潜在空間における非教師付きクラスタリングを実現する。

実験結果

リサーチクエスチョン

• RQ1 潜在空間を混合ガウスモデルとしてモデル化することで、多様体データに対するGANの訓練安定性とモードカバレッジが向上するか？
• RQ2 提案されたクラスタリングネットワークは、潜在的なデータ多様体に基づいて、実データの正確な非教師付きクラスタリングを可能にするか？
• RQ3 各クラスタごとに実データと生成サンプルをペアリングする戦略が、ディスクライマータの性能と収束に与える影響は何か？
• RQ4 MMGANは、生成品質とクラスタリング性能の両面で、既存の最先端モデルをどの程度上回るか？

主な発見

• MNISTでは、MMGANがNMI 0.91±0.03、ARI 0.90±0.05、ACC 0.94±0.04を達成し、ペアリングなしのベースラインを上回った。
• Fashion-MNISTでは、NMI 0.65±0.01、ARI 0.52±0.06、ACC 0.66±0.03を達成し、複雑で現実世界のデータに対しても高い頑健性を示した。
• Coil-20では、NMI 0.80±0.01、ARI 0.62±0.02、ACC 0.73±0.03を達成し、小規模かつ多様体的なデータセットにおいて優れた性能を示した。
• ペアリングされたMMGAN設定では、ランダムペアリングベースラインと比較して、ディスクライマータ損失の低下が遅くなったため、より安定した学習ダイナミクスが示された。
• 非交差クラスタ初期化では、事前に定義されたデータクラスタを正確に再構築できたが、重複初期化ではクラスタリングが悪化し、生成サンプルの品質も低下した。
• ClusterGAN や GM-GAN といった競合モデルと比較して、特にクラスタリング精度と訓練の安定性において、MMGANが優れた性能を示した。