[論文レビュー] Score-Guided Generative Adversarial Networks

Minhyeok Lee, Junhee Seok|arXiv (Cornell University)|Apr 9, 2020

Anomaly Detection Techniques and Applications参考文献 32被引用数 4

ひとこと要約

本論文では、事前学習済みの評価ネットワークを用いて生成器の学習をインセプションスコアによってガイドする、新しいGANアーキテクチャであるScore-Guided GAN（ScoreGAN）を提案する。インセプションネットワークへの過学習を回避するため、インセプションスコアを主な目的関数としてではなく補助損失として用いる。インセプションスコアを補助損失として用いることで、CIFAR-10（IS: 10.36 ± 0.15）で最先端の性能を達成し、CIFAR-100でも既存手法を上回る性能を示した。

ABSTRACT

We propose a Generative Adversarial Network (GAN) that introduces an evaluator module using pre-trained networks. The proposed model, called score-guided GAN (ScoreGAN), is trained with an evaluation metric for GANs, i.e., the Inception score, as a rough guide for the training of the generator. By using another pre-trained network instead of the Inception network, ScoreGAN circumvents the overfitting of the Inception network in order that generated samples do not correspond to adversarial examples of the Inception network. Also, to prevent the overfitting, the evaluation metrics are employed only as an auxiliary role, while the conventional target of GANs is mainly used. Evaluated with the CIFAR-10 dataset, ScoreGAN demonstrated an Inception score of 10.36$\pm$0.15, which corresponds to state-of-the-art performance. Furthermore, to generalize the effectiveness of ScoreGAN, the model was further evaluated with another dataset, i.e., the CIFAR-100; as a result, ScoreGAN outperformed the other existing methods, where the Fréchet Inception Distance (FID) was 13.98.

研究の動機と目的

• インセプションスコアを評価指標として使用する際、GANがインセプションネットワークに過学習する問題に対処すること。
• 外部の事前学習済みネットワークをスコアガイド付き評価者として用いることで、GANのサンプル品質と学習安定性を向上させること。
• インセプションスコアのような評価指標を補助的に使用することで、一般化性能を損なわせずにGANの性能を向上させられることを示すこと。
• CIFAR-10にとどまらず、CIFAR-100を含む多様なデータセットにおいて、提案手法の一般化性能を検証すること。

提案手法

• 事前学習済み分類器（例：インセプションまたはその他のネットワーク）を評価モジュールとして用いるスコアガイド付きGAN（ScoreGAN）を導入する。
• 生成器の学習中にインセプションスコアを正則化信号として用い、主な損失目的として用いない。
• 事前学習済みネットワークを用いて特徴ベースのスコアを計算し、生成器が高品質で多様なサンプルを生成するようにガイドする。
• 標準的なGANの学習目的（例：敵対的損失）を主な学習信号として維持し、評価指標を二次的な補助損失として用いる。
• 同じアーキテクチャと学習プロトコルを用いて、CIFAR-10およびCIFAR-100の両データセットにこの手法を適用する。
• 学習中に評価ネットワークを固定することで、分布のずれや敵対的例への過学習を防ぐ。

実験結果

リサーチクエスチョン

• RQ1 インセプションスコアを介して事前学習済みネットワークがGANの学習をガイドすることで、サンプル品質の向上と過学習の低減が図れるか？
• RQ2 インセプションスコアを主な目的関数ではなく補助損失として扱うことで、GANの一般化性能が向上するか？
• RQ3 スコアガイド付き学習パラダイムは、CIFAR-100のような他のデータセットに対しても一般化可能か？
• RQ4 InceptionスコアおよびFréchet Inception Distance（FID）の観点から、ScoreGANは最先端のGANと比較してどのように差をつけるか？
• RQ5 評価者として非インセプションの事前学習済みネットワークを用いることで、敵対的過学習を回避できるか？

主な発見

• ScoreGANはCIFAR-10で10.36 ± 0.15のインセプションスコアを達成し、発表当時で最も高い性能を示した。
• CIFAR-100では、Fréchet Inception Distance（FID）が13.98に達し、既存手法を上回った。
• インセプションスコアを補助損失として用いることで、従来のGANと比較してインセプションネットワークへの過学習が低減された。
• モデルは他のデータセットに対しても一般化が良く、ベースラインのGANと比較して一貫した性能向上を示した。
• 事前学習済み評価者ネットワークは学習全体を通して効果的で安定しており、敵対的例による分布のずれを回避した。
• インセプションスコアおよびFID指標の両方から、高品質で多様なサンプルが生成されていることが裏付けられた。