[論文レビュー] Elastic-InfoGAN: Unsupervised Disentangled Representation Learning in Class-Imbalanced Data

Utkarsh Ojha, Krishna Kumar Singh+2 more|arXiv (Cornell University)|Jan 1, 2020

Generative Adversarial Networks and Image Synthesis被引用数 3

ひとこと要約

この論文では、クラス不均衡データにおいて、物体のアイデンティティを低レベルの視覚的要因から分離するため、離散的潜在要因をアイデンティティ保持変換に対して不変にすることによって、エラスティック・インフォジーアイジェン（Elastic-InfoGAN）と呼ばれる新しい教師なし生成モデルを提案する。この不変性を学習信号として活用することで、分布が不均衡であっても、表現の分離がうまくいく。合成データおよび現実世界の不均衡データセットにおいて、標準的なインフォジーアイジェンを上回る性能を発揮する。

ABSTRACT

We propose a novel unsupervised generative model that learns to disentangle object identity from other low-level aspects in class-imbalanced data. We first investigate the issues surrounding the assumptions about uniformity made by InfoGAN, and demonstrate its ineffectiveness to properly disentangle object identity in imbalanced data. Our key idea is to make the discovery of the discrete latent factor of variation invariant to identity-preserving transformations in real images, and use that as a signal to learn the appropriate latent distribution representing object identity. Experiments on both artificial (MNIST, 3D cars, 3D chairs, ShapeNet) and real-world (YouTube-Faces) imbalanced datasets demonstrate the effectiveness of our method in disentangling object identity as a latent factor of variation.

研究の動機と目的

• クラス不均衡なデータ分布下でインフォジーアイジェンが物体のアイデンティティを分離できない理由を解明すること。
• インフォジーアイジェンの均一な潜在分布仮定が不均衡な状況でなぜ崩壊するのかを調査すること。
• 離散的潜在要因をアイデンティティ保持変換に対して不変にすることで、分離表現を学習する手法を開発すること。
• このアプローチが合成および現実世界の不均衡データセットにおいて有効であることを実証すること。

提案手法

• 本手法は、実画像におけるアイデンティティ保持変換に対して離散的潜在要因が不変であることを強制する、修正されたインフォジーアイジェンの目的関数を導入する。
• データ拡張を用いて、物体のアイデンティティを保持しながら低レベル特徴を変化させる変換を生成する。
• モデルは、これらのアイデンティティ保持変換に対して離散的要因が安定した潜在分布を学習し、これが分離の信号として機能する。
• 訓練目的関数は、不変な潜在コードと入力との間の相互情報量を最大化することで、アイデンティティを他の要因から分離するように促進する。
• 本手法は、人工的なクラス不均衡があるMNIST、3Dカー、3Dチェア、ShapeNetといった合成データセットおよびYouTube-Facesといった現実世界のデータセットに適用されている。
• 訓練中にクラスラベルを必要とせず、完全に教師なしのままに分離を達成する。

実験結果

リサーチクエスチョン

• RQ1 インフォジーアイジェンは、クラス不均衡なデータにおいて物体のアイデンティティを効果的に分離できるのか。もしそうでないなら、その失敗の理由は何か。
• RQ2 アイデンティティ保持変換への不変性を、分離表現学習の信号としてどのように活用できるか。
• RQ3 離散的潜在要因に不変性を強制することで、標準的なインフォジーアイジェンと比較して、不均衡データセットにおける分離性能が向上するか。
• RQ4 提案手法は、さまざまな度合いのクラス不均衡を示す多様な合成および現実世界のデータセットに一般化可能か。

主な発見

• エラスティック・インフォジーアイジェンは、標準的なインフォジーアイジェンが失敗するクラス不均衡データにおいても、物体のアイデンティティを低レベルの視覚的要因から効果的に分離する。
• 人工的なクラス不均衡があるMNIST、3Dカー、3Dチェア、ShapeNetデータセットにおいて、優れた分離性能を達成する。
• YouTube-Facesデータセットでは、現実世界のデータ不均衡と複雑なアイデンティティの変動が存在するが、エラスティック・インフォジーアイジェンは効果的な分離を示す。
• アイデンティティ保持変換から得られる不変性信号により、教師なしの状態で離散的潜在要因の安定した学習が可能になる。
• 実験により、不均衡なデータ条件下でも、提案手法が標準的なインフォジーアイジェンを上回る分離品質を確認した。
• 本手法は教師なし学習を維持しつつ、ベンチマーク上の不均衡データセットで最先端の分離性能を達成する。