[論文レビュー] Conditional GANs with Auxiliary Discriminative Classifier

Liang Hou, Qi Cao+4 more|arXiv (Cornell University)|Jul 21, 2021

Generative Adversarial Networks and Image Synthesis参考文献 37被引用数 8

ひとこと要約

本稿では、生成器に適合した補助的分類器を導入することでクラス内多様性を向上させる、ADC-GANと呼ばれる新しい条件付きGANを提案する。この補助分類器は、本物のデータと生成されたデータを同時に区別するとともに、クラスラベルを予測する。理論的分析により、元の判別器が存在しなくても生成器が結合分布を学習可能であることが示され、合成データおよび実世界のデータセットにおいて、最先端の手法よりも訓練の安定性と性能が向上する。

ABSTRACT

Conditional generative models aim to learn the underlying joint distribution of data and labels to achieve conditional data generation. Among them, the auxiliary classifier generative adversarial network (AC-GAN) has been widely used, but suffers from the problem of low intra-class diversity of the generated samples. The fundamental reason pointed out in this paper is that the classifier of AC-GAN is generator-agnostic, which therefore cannot provide informative guidance for the generator to approach the joint distribution, resulting in a minimization of the conditional entropy that decreases the intra-class diversity. Motivated by this understanding, we propose a novel conditional GAN with an auxiliary discriminative classifier (ADC-GAN) to resolve the above problem. Specifically, the proposed auxiliary discriminative classifier becomes generator-aware by recognizing the class-labels of the real data and the generated data discriminatively. Our theoretical analysis reveals that the generator can faithfully learn the joint distribution even without the original discriminator, making the proposed ADC-GAN robust to the value of the coefficient hyperparameter and the selection of the GAN loss, and stable during training. Extensive experimental results on synthetic and real-world datasets demonstrate the superiority of ADC-GAN in conditional generative modeling compared to state-of-the-art classifier-based and projection-based conditional GANs.

研究の動機と目的

• AC-GANにおける低すぎるクラス内多様性を是正すること。これは、生成器に依存しない分類器が条件付きエントロピーを最小化するためである。
• 補助分類器を生成器の出力分布を認識させることで、生成器により情報量の多いガイダンスを提供する条件付きGANアーキテクチャの開発。
• ハイパーパramータのチューニングやGAN損失関数の選択に依存するのを減らすことで、訓練の安定性を向上させること。
• 最先端の分類器ベースおよびプロジェクションベースのGANと比較して、優れた条件付き生成性能を示すこと。

提案手法

• 生成器の出力分布を認識する補助的分類器を導入し、本物のデータと生成されたデータを同時に区別するとともに、クラスラベルを予測する。
• 生成器は敵対的損失と条件付きエントロピー損失の両方を最小化するように学習させ、判別器と分類器は同時に最適化する。
• 理論的分析により、分類器が生成器に適合している限り、元の判別器が存在しなくても生成器はデータとラベルの結合分布を学習可能であることが示される。
• 分類器は本物のサンプルと生成されたサンプルの両方で学習されるため、各クラス内での多様性を促進するフィードバックを提供可能となる。
• 本手法はハイパーパramータの選択やGAN損失関数に対して頑健であり、訓練の安定性が向上する。
• 本フレームワークは合成データおよび実世界のデータセットの両方で評価され、有効性が検証されている。

実験結果

リサーチクエスチョン

• RQ1 生成器に適合した補助分類器は、従来のAC-GANと比較して、条件付きGANにおけるクラス内多様性を向上させることができるか？
• RQ2 提案されたADC-GANは、異なるハイパーパramータ設定やGAN損失関数に対しても訓練の安定性を維持できるか？
• RQ3 分類器が生成器に適合している場合、元の判別器に依存せずに生成器は結合データ-ラベル分布を学習できるか？
• RQ4 ADC-GANは、最先端の分類器ベースおよびプロジェクションベースの条件付きGANと比較して、生成品質および多様性の面で優れているか？
• RQ5 分類器が本物のデータと生成されたデータを区別できる能力が、全体の生成性能に与える影響は何か？

主な発見

• ADC-GANは、合成データおよび実世界のデータセットの両方で、AC-GANおよび他の最先端の条件付きGANと比較して顕著に高いクラス内多様性を達成した。
• 理論的分析により、分類器が生成器に適合している限り、元の判別器が存在しなくても生成器が結合分布を学習可能であることが確認された。
• ADC-GANはハイパーパramータの選択やGAN損失関数に対して頑健であり、訓練中の感度が低下した。
• 実験的結果により、複数のベンチマークデータセットで一貫した性能向上が確認され、生成器に適合した分類器設計の有効性が裏付けられた。
• 補助的分類器は、各クラス内でのサンプルの多様性を高めるように生成器を効果的に導くことができ、モード崩壊の低減に寄与した。