[論文レビュー] Towards Efficient and Unbiased Implementation of Lipschitz Continuity in GANs

Zhiming Zhou, Jian Shen+3 more|arXiv (Cornell University)|Apr 2, 2019

Generative Adversarial Networks and Image Synthesis参考文献 19被引用数 8

ひとこと要約

本稿では、実サンプルと生成サンプルのブレンド領域における最大勾配にのみ注目することで、勾配ペナルティやスペクトル正規化のバイアスおよび過剰制約を回避するMAXGPおよびMAXALという手法を提案する。このアプローチにより、偏りのない安定した学習が実現され、リプシッツ定数が厳密に制御され、CIFAR-10および合成データにおいて収束性と忠実度の面で既存手法を上回る性能を発揮する。

ABSTRACT

Lipschitz continuity recently becomes popular in generative adversarial networks (GANs). It was observed that the Lipschitz regularized discriminator leads to improved training stability and sample quality. The mainstream implementations of Lipschitz continuity include gradient penalty and spectral normalization. In this paper, we demonstrate that gradient penalty introduces undesired bias, while spectral normalization might be over restrictive. We accordingly propose a new method which is efficient and unbiased. Our experiments verify our analysis and show that the proposed method is able to achieve successful training in various situations where gradient penalty and spectral normalization fail.

研究の動機と目的

• 既存のGANにおけるリプシッツ連続性の実装におけるバイアスおよび過剰制約の問題を特定・解決すること。
• 実サンプルと偽サンプルのブレンド領域でのみリプシッツ連続性を強制することが、理論的利点をもたらすのに十分であることを示すこと。
• 不要な勾配ペナルティを回避し、最適なディスクラミネーターの勾配特性を維持する手法を提案すること。
• 増強ラグランジュを用いて、ターゲットk-リプシッツ定数を厳密に、安定して制御する手法を提供すること。
• 実験的に、提案手法が勾長ペナルティおよびスペクトル正規化を上回る収束性およびサンプル品質を示していることを検証すること。

提案手法

• 実サンプルと偽サンプルの補間領域における最大勾配にのみ正則化を施すMAXGPを提案。低勾配領域への不要なペナルティを回避する。
• リプシッツ定数をターゲット値に厳密に強制する、増強ラグランジュに基づくMAXALを導入。ペナルティ法の緩い制約を回避する。
• ブレンド領域における最大勾配を特定するための勾配推定戦略を用い、この重要な点にのみ正則化を集中させる。
• 最悪ケースの勾配を標的とする動的ペナルティ機構を採用。効率的かつバイアスのない最適化を実現する。
• WGAN、ヘッジ損失、バニラGANを含む標準的なGAN目的関数に適用。広範な互換性を示す。
• MAXALではラグランジュ乗数を用いて制約を正確に強制。安定的かつ正確なリプシッツ制御を可能にする。

実験結果

リサーチクエスチョン

• RQ1 スペクトル正規化によるグローバルなリプシッツ連続性の強制は、実際の最適解とは異なる結果をもたらすのか？
• RQ2 勾長ペナルティ法が非最大勾配をペナルティ処理することで、どの程度バイアスが生じるのか？
• RQ3 実サンプルと偽サンプルのブレンド領域でのみリプシッツ連続性を強制すれば十分なのか？
• RQ4 増強ラグランジュ法により、ターゲットリプシッツ定数を厳密に制御できるか。安定性が向上するか？
• RQ5 MAXGPおよびMAXALは、勾長ペナルティおよびスペクトル正規化と比較して、収束性およびFIDスコアの面でどの程度優れているか？

主な発見

• MAXGPおよびMAXALは、複数のアーキテクチャおよび目的関数において、勾長ペナルティおよびスペクトル正規化と同等またはそれ以上のFIDスコアを達成する。
• WGAN目的関数を用いたResNetアーキテクチャでは、スペクトル正規化は、ヘッジ損失やバニラGAN損失と組み合わせても収束しない。
• MAXALはリプシッツ定数を正確に1に制限し、安定した学習を達成するが、GPおよびMAXGPはリプシッツ値が変動を示す。
• MAXALにおけるラグランジュ乗数は真のワサーストイン距離W₁(P_r, P_g)に収束し、手法の理論的整合性を裏付ける。
• 実験により、標準的なGPにおける不要な勾配ペナルティが最適化を損ない、最適ディスクラミネーターの勾配挙動を変化させることを示した。
• MAXGPはGPに比べて正則化重みρに対して感受性が低く、よりロバストで安定した学習ダイナミクスを示す。