[論文レビュー] Improved Semi-supervised Learning with GANs using Manifold Invariances

Abhishek Kumar, Prasanna Sattigeri+1 more|arXiv (Cornell University)|Jan 1, 2017

Generative Adversarial Networks and Image Synthesis被引用数 5

ひとこと要約

本論文は、GANを用いた新しい半教師付き学習フレームワークを提案する。このフレームワークは、データ多様体の接空間を活用して分類器に不変性を注入することで、限られたラベル付きデータでも一般化性能を向上させる。エンコーダーの性能を向上させ、偽のサンプルを戦略的に活用することで、SVHNおよびCIFAR-10で最先端の性能を達成し、特にラベルが少ない状況下で顕著な向上を示す。

ABSTRACT

Semi-supervised learning methods using Generative adversarial networks (GANs) have shown promising empirical success recently. Most of these methods use a shared discriminator/classifier which discriminates real examples from fake and also predicts the class label. Motivated by the ability of GANs to capture the data manifold well, we propose to estimate the tangent space to the data manifold using GANs and use it to inject invariances into the classifier. In the process, we propose improvements over existing methods for learning the inverse mapping (i.e., the encoder) \cite{donahue2016adversarial} which greatly improve in terms of semantic similarity of reconstructed sample to the input sample. We experiment with SVHN and CIFAR-10 for semi-supervised learning, obtaining significant improvements over baselines, particularly in the cases when the number of labeled examples is low. We also provide insights into how fake examples influence the semi-supervised learning procedure.

研究の動機と目的

• 限られたデータでの学習を改善するため、データ多様体の幾何的構造を活用すること。
• GANにおける逆写像（エンコーダー）の設計を改善することで、潜在空間の再構成品質を向上させること。
• 多様体に基づく不変性を分類器に組み込み、ロバストネスと一般化性能を向上させること。
• 偽のサンプルが半教師付き学習プロセスに与える影響を分析すること。
• 最小限のラベル付きデータで、SVHN や CIFAR-10 といったベンチマークデータセットで最先端の性能を達成すること。

提案手法

• 訓練済みのGANを用いて、データ多様体の接空間を推定し、不変表現の学習を支援する。
• 従来の研究（例：Donahue et al.）のエンコーダーを改善し、入力とより高い意味的類似性を持つ再構成サンプルを生成する。
• 共有ディスクリミネータを用いて、本物のサンプルと偽のサンプルを区別するとともに、クラスラベルを予測する。
• データ多様体の接空間に沿った摂動に対して、分類器が一貫した予測を出力するようにすることで、不変性を注入する。
• 訓練中に本物のサンプルと生成された（偽の）サンプルの両方を活用し、偽のサンプルが学習ダイナミクスに与える影響を慎重に分析する。
• 敵対的訓練と多様体正則化を組み合わせることで、半教師付き設定下での一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 データ多様体の幾何的構造を効果的に活用することで、半教師付き学習をどのように改善できるか？
• RQ2 改善されたエンコーダーのアーキテクチャは、意味的再構成と下流の分類にどの程度寄与するか？
• RQ3 GANによって生成された偽のサンプルは、分類器の一般化性能にどのように影響を与えるか？
• RQ4 接空間における不変性は、ラベル付きデータが少ない状況下で、よりロバストで一般化可能な表現をもたらすか？
• RQ5 多様体不変性と標準的なGAN訓練の間で、半教師付き精度向上に寄与する相対的な寄与度は何か？

主な発見

• 提案手法は、特にラベル付きデータが少ない状況下で、既存の半教師付きGANベースラインと比較して顕著な向上を示し、SVHNおよびCIFAR-10で優れた性能を達成した。
• 強化されたエンコーダーは、入力と意味的に近い再構成サンプルを生成し、より良い分離性と表現品質を示している。
• 接空間における不変性の注入により、微小な摂動に対してもよりロバストな予測が可能となり、モデルの一般化性能が向上した。
• 適切に正則化された場合、偽のサンプルは学習プロセスに肯定的な貢献をし、特にラベルが少ない状況で顕著である。
• 本手法は、標準ベンチマークで最先端の性能を示し、特に低ショット学習設定で先行手法を上回った。
• アブレーションスタディにより、改善された再構成と多様体不変性の両方が、性能向上に不可欠であることが確認された。