[論文レビュー] GANs beyond divergence minimization

Alexia Jolicoeur‐Martineau|arXiv (Cornell University)|Sep 6, 2018

Adversarial Robustness in Machine Learning参考文献 25被引用数 6

ひとこと要約

この論文は、生成対抗ネットワーク（GANs）が生成器を、判別器の最適化時に発散を最小化することで学習すると広く信じられている考えに挑戦し、実際には大多数の生成器損失関数が発散ではなく、判別器の目的関数を再現する必要がないことを示している。本稿では、いくつかが形式的な発散である4つの新しい生成器損失関数のクラスを導入し、多様な損失関数が標準的な GAN と同等の生成品質を達成して収束することを示している。これは、GAN が従来の考え以上に柔軟である可能性を示唆している。

ABSTRACT

Generative adversarial networks (GANs) can be interpreted as an adversarial game between two players, a discriminator D and a generator G, in which D learns to classify real from fake data and G learns to generate realistic data by "fooling" D into thinking that fake data is actually real data. Currently, a dominating view is that G actually learns by minimizing a divergence given that the general objective function is a divergence when D is optimal. However, this view has been challenged due to inconsistencies between theory and practice. In this paper, we discuss of the properties associated with most loss functions for G (e.g., saturating/non-saturating f-GAN, LSGAN, WGAN, etc.). We show that these loss functions are not divergences and do not have the same equilibrium as expected of divergences. This suggests that G does not need to minimize the same objective function as D maximize, nor maximize the objective of D after swapping real data with fake data (non-saturating GAN) but can instead use a wide range of possible loss functions to learn to generate realistic data. We define GANs through two separate and independent D maximization and G minimization steps. We generalize the generator step to four new classes of loss functions, most of which are actual divergences (while traditional G loss functions are not). We test a wide variety of loss functions from these four classes on a synthetic dataset and on CIFAR-10. We observe that most loss functions converge well and provide comparable data generation quality to non-saturating GAN, LSGAN, and WGAN-GP generator loss functions, whether we use divergences or non-divergences. These results suggest that GANs do not conform well to the divergence minimization theory and form a much broader range of models than previously assumed.

研究の動機と目的

• 判別器が最適であるとき、GAN が発散を最小化することで生成器を学習するとされる支配的理論に反論すること。
• 実際の GAN における生成器損失関数が、形式的な発散であるか、発散に基づく目的関数から逸脱しているかを調査すること。
• 形式的な発散を含む4つの新しい生成器損失関数のクラスを提案・評価し、GAN の設計空間を拡張すること。
• 生成器学習に形式的な発散を用いることで、非発散損失関数よりも性能が向上するかをテストすること。
• 生成器学習が判別器の目的関数に一致する必要がないこと、損失関数設計における柔軟性が向上することを示すこと。

提案手法

• 判別器の最大化と生成器の最小化という2つの独立した最適化ステップに GAN を再解釈し、2つの目的を分離する。
• 4つの新しい生成器損失関数のクラスを導入：(1) 偽データに対する判別器出力を実データラベルに一致させる、(2) しきい値（例：0.5）に一致させる、(3) 偽出力の平均を実出力の平均に一致させる、(4) Divergence Matching (DM) や Log-likelihood Matching (LM) といった適切な発散を用いる。
• 判別器の目的関数に依存せず、偽データに対する判別器出力と目標値（例：y_real, y_mid）との距離を最小化することで生成器損失を定義する。
• 収束性と生成品質の評価に、合成データ（スイスロール）と実世界データ（CIFAR-10）を併用する。
• 生成品質の定量的比較に、Fréchet Inception Distance (FID) と Inception Score (IS) を用いる。
• 勾配の挙動と収束ダイナミクスを分析し、特に判別器がほぼ完璧になる場合に、異なる損失関数のロバスト性を評価する。

実験結果

リサーチクエスチョン

• RQ1 GAN における標準的な生成器損失関数は、判別器が最適であっても実際に発散であるのか？
• RQ2 生成器ステップで形式的な発散を最小化することは、非発散損失関数よりも優れた生成性能をもたらすのか？
• RQ3 生成器学習を判別器の目的関数から分離しても、性能に悪影響を及げないのか？
• RQ4 偽データの判別器出力を実ラベルやしきい値（例：0.5）に一致させる損失関数は、非飽和 GAN と同等に機能するのか？
• RQ5 理論的利点があるにもかかわらず、なぜ一部の発散（例：DM, LM）は合成データ上で収束がうまくいかないのか？

主な発見

• 非飽和 GAN や LSGAN、WGAN-GP を含む、標準的な GAN における生成器損失関数の多くは、判別器が最適であっても実際に発散ではない。
• 生成器が判別器が最大化するのと同じ目的関数を最小化する必要はなく、実データと偽データを入れ替えた場合でも、判別器の目的関数に一致する必要はない。
• 非発散を含む多様な損失関数が、CIFAR-10 において非飽和 GAN や LSGAN、WGAN-GP と同等の生成品質を達成して良好に収束する。
• スイスロールデータセットでは、発散に基づく損失関数（DM と y_mid を用いた LM）が劣悪に機能しており、形式的な発散であっても収束は保証されないことが示唆された。
• CIFAR-10 における FID スコアは、すべてのテスト損失関数で一貫して競争力があり、特に優れた損失関数は存在しなかった。
• 結果から、生成器は発散を最小化することで学習しているのではなく、偽データに対する判別器出力を高めることで学習していることが示唆され、GAN における発散最小化の理論的基盤が揺るがされた。