[論文レビュー] Training Triplet Networks with GAN

Maciej Zięba, Lei Wang|arXiv (Cornell University)|Apr 6, 2017

Generative Adversarial Networks and Image Synthesis被引用数 10

ひとこと要約

本論文では、生成対抗ネットワーク（GAN）フレームワークにトリプレットネットワークを統合することで、新しい手法を提案する。この手法では、トリプレットネットワークを識別器として用いる。特徴マッチングと半教師あり学習を活用することで、16の特徴量のみで、MNISTでは97.50%、CIFAR-10では80.97%の精度を達成する。これは、単純なk-NN分類器を用いた結果であり、ラベル付きトリプレットの数が限られている状況でも成立する。

ABSTRACT

Triplet networks are widely used models that are characterized by good performance in classification and retrieval tasks. In this work we propose to train a triplet network by putting it as the discriminator in Generative Adversarial Nets (GANs). We make use of the good capability of representation learning of the discriminator to increase the predictive quality of the model. We evaluated our approach on Cifar10 and MNIST datasets and observed significant improvement on the classification performance using the simple k-nn method.

研究の動機と目的

• GANの表現学習能力を活用することで、メトリック学習におけるトリプレットネットワークの性能を向上させること。
• ラベル付きトリプレットの数が限られるメトリック学習の課題に、教師ありトリプレット学習と非教師ありGAN学習を組み合わせることで対処すること。
• シンプルなk-NN分類器を用いて、最小限の特徴量で高い分類精度を達成できることを示すこと。
• GANの識別器が、偽物と本物のサンプルを区別する役割に加え、トリプレットに基づくメトリック表現を学習する二重の役割を果たす統合フレームワークを提供すること。

提案手法

• トリプレットネットワークをGANの識別器として用い、その特徴層をメトリック学習の出力として使用する。
• 識別器は、クエリ、ポジティブ、ネガティブの例に基づく教師ありトリプレット損失と、本物／偽物の区別に用いる非教師ありGAN損失の両方を組み合わせた損失関数で訓練する。
• 生成器の訓練では特徴マッチングを適用し、生成された特徴活性化と本物の特徴活性化との間のL2距離を最小化する。
• 識別器の出力層に、トリプレットネットワークの特徴出力に基づいた確率スコアを生成するように、変更されたシグモイド出力層を採用する。
• 訓練は、識別器をトリプレット損失とGAN損失の両方で更新し、生成器を特徴マッチングを使って更新する、交互に繰り返す。
• ハードマイニングを適用し、特にCIFAR-10のような大規模データセットにおいて、トリプレットの数のバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 GANフレームワーク内にトリプレットネットワークを効果的に統合することで、メトリック表現学習の性能向上が図れるか？
• RQ2 ラベル付きデータが限られる状況で、非教師ありGAN学習と教師ありトリプレット学習を組み合わせることで、性能が向上するか？
• RQ3 シンプルなk-NN分類器を用いて、わずか16の特徴量のみで高い分類精度を達成できるか？
• RQ4 本手法は、単独で訓練されたトリプレットネットワークやGANと比較して、どのように異なるか？

主な発見

• 提案手法は、16の特徴量とk-NN分類器のみで、MNISTで97.50%、CIFAR-10で80.97%の分類精度を達成し、単独で訓練されたトリプレットモデルやGANモデルを上回った。
• MNISTで16の特徴量と100個のラベル付き例を用いた場合、97.50%の精度を達成し、Hoffer & Ailon (2015) が報告した87.10%を上回った。
• MNISTで256の特徴量を用いた場合、98.68%の精度に達し、特徴次元の拡大に伴うスケーラビリティを示した。
• 単独のGAN（MNISTで96.48%、CIFAR-10で55.39%）と単独のトリプレットネットワーク（MNISTで81.27%、CIFAR-10で70.76%）に比べ、特にCIFAR-10において顕著に優れた性能を示した。
• 生成器の訓練における特徴マッチングの活用により、トリプレットネットワークの特徴表現の質が向上し、分類タスクの性能が向上した。
• 最小限のラベル付きデータでも有効であることが示された。CIFAR-10では5,000個のラベル付き例、MNISTでは100個のラベル付き例でのみでも、優れた性能を発揮した。