[論文レビュー] JADE: Joint Autoencoders for Dis-Entanglement

Ershad Banijamali, Amir-Hossein Karimi+2 more|arXiv (Cornell University)|Nov 24, 2017

Generative Adversarial Networks and Image Synthesis参考文献 12被引用数 16

ひとこと要約

JADEは、ラベル付き小規模データセット（例：SVHN）と大規模補助データセット（例：MNIST）の間で、共有要因の変動を分離する共同変分オートエンコーダフレームワークを提案する。データが限られた条件下での教師あり分類性能を向上させる。両データセットを同時に学習することで、コンテンツ（共有でラベル関連の要因）とスタイル（データセット固有の変動）を分離し、ラベル付きサンプルがたった1,000個のSVHNで29.08%のテスト精度を達成。ベースラインモデルを上回り、無作為なラベルなしデータを用いないにもかかわらず、効果的な分離を実現している。

ABSTRACT

The problem of feature disentanglement has been explored in the literature, for the purpose of image and video processing and text analysis. State-of-the-art methods for disentangling feature representations rely on the presence of many labeled samples. In this work, we present a novel method for disentangling factors of variation in data-scarce regimes. Specifically, we explore the application of feature disentangling for the problem of supervised classification in a setting where few labeled samples exist, and there are no unlabeled samples for use in unsupervised training. Instead, a similar datasets exists which shares at least one direction of variation with the sample-constrained datasets. We train our model end-to-end using the framework of variational autoencoders and are able to experimentally demonstrate that using an auxiliary dataset with similar variation factors contribute positively to classification performance, yielding competitive results with the state-of-the-art in unsupervised learning.

研究の動機と目的

• ラベル付きデータが僅かで、半教師あり学習のための無作為ラベルなしデータが存在しないデータが限られた状況における教師あり分類を解決すること。
• ラベル付きデータが限られている状況で、共有の変動要因を持つ類似の大きなデータセットが分類性能を向上させることを検証すること。
• 変分オートエンコーダを用いて、2つのデータセット間でコンテンツ（共有でラベル関連）とスタイル（データセット固有）の要因を共同で分離する手法を開発すること。
• 共同学習による共有要因の分離が、低データ環境における一般化性能の向上と過学習の低減に寄与することを示すこと。

提案手法

• JADEは、コンテンツ用に共有された潜在空間成分と、スタイル用に別々の成分を持つ共同変分オートエンコーダアーキテクチャを採用し、主（小規模）および補助（大規模）データセットの両方でエンドツーエンドに学習する。
• 主データセットおよび補助データセットそれぞれに別々のエンコーダを用い、コンテンツ符号化潜在変数のための共有推論ネットワークを導入することで、共有要因の分離を強制する。
• コンテンツ潜在変数の事後分布をスタイルに条件付き独立とすることで、コンテンツの共有事前分布を両データセットで共有することにより、分離を強制する。
• 補助データセットの豊富さを活用してコンテンツ要因の分離を改善し、そのコンテンツ要因を小規模なラベル付きデータセット上で分類器を学習するために利用する。
• モデルは、両データセットの再構成項とKLダイバージェンス項を含む、下界の期待値（ELBO）目的関数を用いて学習する。
• 比較のためのペアド分類器ベースラインを用い、同じエンコーダを共有するが、明示的な分離は行わない。

実験結果

リサーチクエスチョン

• RQ1 ラベルなしデータが存在しない状況で、共有の変動要因を持つ大規模な補助データセットが、小規模なラベル付きデータセットの分類性能を向上させることができるか？
• RQ2 共有コンテンツ要因をデータセット固有のスタイル要因から明示的に分離することで、低データ環境における一般化性能が向上するか？
• RQ3 1つの主データセットでの学習や、分離を強制しないペアド分類器と比較して、2つの類似データセットを共同で学習することは、どのように性能に影響するか？
• RQ4 主データセットのラベル付きサンプルが僅かである状況で、潜在空間においてコンテンツとスタイルをどの程度効果的に分離できるか？

主な発見

• JADEは、SVHNでラベル付きサンプルがたった1,000個の状況でも、29.08% ± 0.92のテスト精度を達成し、単一分類器ベースライン（32.31% ± 1.56）およびペアド分類器（30.17% ± 2.77）を上回った。
• コンテンツを固定した場合、分類器に情報が与えられた潜在空間部の活性化の分散が顕著に低く抑えられており、コンテンツとスタイルの有効な分離が示された。
• コンテンツとスタイルが両方変化する状況で、全20の潜在パラメータが活性化しており、モデルが共同潜在空間全体で多様な変動を捉えていることを確認した。
• 結果から、共有要因（コンテンツ）が効果的に分離され、分類に活用されている一方で、スタイル要因は抑制されていることが示された。
• 1,000個のラベル付きサンプルでの学習にもかかわらず、数十万件のサンプルを用いる最先端の教師なし手法と同等の性能を示した。
• 潜在空間の活性化の可視化から、モデルがコンテンツとスタイルを分離する能力を学習していることが確認され、コンテンツ関連の潜在変数はコンテンツ固定時において分散が小さく、コンテンツ変化時には高い活性化を示した。