[論文レビュー] Generalizing semi-supervised generative adversarial networks to regression.

Greg Olmschenk, Zhigang Zhu+1 more|arXiv (Cornell University)|Nov 27, 2018

Generative Adversarial Networks and Image Synthesis被引用数 3

ひとこと要約

本論文は、分類から回帰へと半教師付きGANを一般化するために、統計的特徴に基づいて本物と偽物のデータを区別できる新しい特徴対比損失を導入した。このアプローチにより、年齢推定や人混み数え上げなどの回帰タスクで、少量のラベル付きデータでも高い性能を達成し、回帰状況における半教師付きGANの実用性を示した。

ABSTRACT

In this work, we generalize semi-supervised generative adversarial networks (GANs) from classification problems to regression problems. In the last few years, the importance of improving the training of neural networks using semi-supervised training has been demonstrated for classification problems. We present a novel loss function, called feature contrasting, resulting in a discriminator which can distinguish between fake and real data based on feature statistics. This method avoids potential biases and limitations of alternative approaches. The generalization of semi-supervised GANs to the regime of regression problems of opens their use to countless applications as well as providing an avenue for a deeper understanding of how GANs function. We first demonstrate the capabilities of semi-supervised regression GANs on a toy dataset which allows for a detailed understanding of how they operate in various circumstances. This toy dataset is used to provide a theoretical basis of the semi-supervised regression GAN. We then apply the semi-supervised regression GANs to a number of real-world computer vision applications: age estimation, driving steering angle prediction, and crowd counting from single images. We perform extensive tests of what accuracy can be achieved with significantly reduced annotated data. Through the combination of the theoretical example and real-world scenarios, we demonstrate how semi-supervised GANs can be generalized to regression problems.

研究の動機と目的

• 分類タスクを想定して開発された半教師付きGANを、回帰問題へと拡張すること。
• 回帰における有効な半教師付き手法の欠如に応じ、新しい損失関数を導入すること。
• ラベル付きデータが限られた状況でも、ラベルなしデータを活用して深層ニューラルネットワークを訓練できること。
• 提案手法の理論的基盤と、合成データおよび実世界データセットにおける実証的検証を提供すること。

提案手法

• 分類ラベルではなく統計的特徴に基づいて本物と偽物のデータを区別できるようにする、特徴対比損失関数を提案する。
• 識別器がクラス確率ではなく特徴レベルの統計に注目するようにすることで、GANフレームワークを回帰に適応させる。
• モデルの挙動を分析し、一般化メカニズムに関する理論的洞察を得るために、トイラベルデータセットを用いる。
• 年齢推定、ステアリング角度予測、人混み数え上げなどの実世界のコンピュータビジョン回帰タスクにこの手法を適用する。
• 生成器と識別器を敵対的に訓練するが、識別器は本物と生成されたサンプルの特徴統計の分布的差異を検出するように最適化される。
• 敵対的損失と特徴対比損失の組み合わせにより、低データ環境下での一般化性能の向上とバイアスの低減を実現する。

実験結果

リサーチクエスチョン

• RQ1 半教師付きGANは、分類タスクから回帰タスクへと効果的に一般化可能か？
• RQ2 特徴対比損失は、ラベル付きデータが少ない回帰タスクでの性能向上にどのように寄与するか？
• RQ3 提案手法は、既存の半教師付き回帰アプローチと比較して、理論的および実証的優位性を示すか？
• RQ4 本手法は、年齢推定や人混み数え上げのような多様な実世界の回帰応用において、どの程度の性能を発揮するか？

主な発見

• 提案された半教師付き回帰GANは、ラベル付きデータを大幅に削減しても年齢推定タスクで優れた性能を示し、ラベルなしデータの有効活用を実証した。
• 敵対的学習によりラベルなしデータを活用することで、ドライブのステアリング角度予測の予測精度が向上した。
• 単一画像からの人混み数え上げは、わずかなアノテーション付きサンプルでの一般化能力のおかげで恩恵を受けた。
• トイラベルデータセットの分析により、特徴対比損失が特徴統計に基づいて本物と偽物のデータを効果的に区別できることが確認された。
• 理論的分析と実世界の実験の組み合わせにより、提案手法の頑健性と一般化能力が裏付けられた。
• 結果から、特徴対比損失は、ベースライン手法と比較して低データ環境下でのバイアス低減とモデル安定性の向上に寄与することが示された。