[論文レビュー] An Identifiable Double VAE For Disentangled Representations

Graziano Mita, Maurizio Filippone+1 more|arXiv (Cornell University)|Oct 19, 2020

Generative Adversarial Networks and Image Synthesis参考文献 35被引用数 12

ひとこと要約

本稿では、補助情報を利用して潜在変数の最適な条件付き事前分布を学習することにより、理論的に保証された分離性を達成する、識別可能な二重VAE（idVAE）を提案する。二つのVAEを組み合わせることで、一方は入力から潜在変数の事後分布を補助変数で条件づけて学習し、もう一方は生成モデルとして機能する。このアプローチにより正則化と分離性が向上し、複数のベンチマークで最先端の手法を上回る一貫した分離性指標の向上を達成した。

ABSTRACT

A large part of the literature on learning disentangled representations focuses on variational autoencoders (VAE). Recent developments demonstrate that disentanglement cannot be obtained in a fully unsupervised setting without inductive biases on models and data. However, Khemakhem et al., AISTATS, 2020 suggest that employing a particular form of factorized prior, conditionally dependent on auxiliary variables complementing input observations, can be one such bias, resulting in an identifiable model with guarantees on disentanglement. Working along this line, we propose a novel VAE-based generative model with theoretical guarantees on identifiability. We obtain our conditional prior over the latents by learning an optimal representation, which imposes an additional strength on their regularization. We also extend our method to semi-supervised settings. Experimental results indicate superior performance with respect to state-of-the-art approaches, according to several established metrics proposed in the literature on disentanglement.

研究の動機と目的

• 完全に教師なしの設定において、分離性が誘導的バイアスなしでは理論的に不可能であるという課題に対処すること。
• 真の要因を符号化する補助変数に条件づけた事前分布を用いることで、VAEベースのモデルに理論的同定性の保証を与えること。
• 入力から潜在変数への推論マッピングの正則化を向上させるために、条件付き事前分布の最適な表現を学習すること。
• 補助情報が訓練サンプルの一部にのみ利用可能な半教師あり設定にこの手法を拡張すること。
• 複数のベンチマークデータセットで確立された指標を用いて、優れた分離性性能を実証的に検証すること。

提案手法

• モデルは二重VAEアーキテクチャを用いる。最初のVAEは補助変数で条件づけられた潜在変数の事後分布を学習し、第二のVAEの条件付き事前分布として機能する。
• 条件付き事前分布は、補助変数を潜在変数の構造的事前分布にマップする推論ネットワークから導出され、理論的同定性を保証する。
• 主な生成モデルのELBOは、二つのVAEの目的関数の組み合わせとして定式化され、分離性と再構成の両方を同時に最適化可能となる。
• 情報理論的正則化を用いて条件付き事前分布の最適な表現を学習することで、潜在マッピングの表現力と安定性が向上する。
• 補助変数が入力の一部にのみ利用可能な状況を想定した半教師ありバージョンであるss-idVAEを導入し、教師ありと教師なし学習の混合を用いる。
• Khemakhemら（2020）の同定性フレームワークに従い、因子分解された事前分布を補助変数で条件づけるが、より優れた正則化と実験的性能を実現するように拡張している。

実験結果

リサーチクエスチョン

• RQ1 補助変数が真の要因を符号化するように条件づけた事前分布を用いることで、VAEベースのモデルが理論的同定性と分離性の保証を達成できるか？
• RQ2 条件付き事前分布の最適な表現を学習することで、入力から潜在変数への推論ネットワークの正則化がどの程度向上するか？
• RQ3 提案手法が多様なベンチマークデータセットと指標において、最先端の分離性モデルをどの程度上回るか？
• RQ4 半教師あり設定において、正則化強度や補助情報の可用性の変動に対して、この手法はどの程度頑健か？
• RQ5 訓練中に補助変数が完全に利用できない状況でも、提案された二重VAEアーキテクチャは強力な分離性性能を維持できるか？

主な発見

• idVAEは全データセットで最高の中央値分離スコアを達成し、β-VAE、iVAE、full-VAEを含む最先端の手法を一貫して上回った。
• dsprites、cars3d、shapes3dのデータセットにおいて、βスコアや明示性を含むすべての標準的分離性指標で優れた性能を示した。
• 半教師ありバージョンであるss-idVAEは、1%のラベル付きデータでのみ学習してもβ-VAEを上回り、完全に教師ありのfull-VAEと同等の性能を達成した。これは優れたデータ効率性を示している。
• idVAEは広い正則化強度の範囲で安定した性能を示し、他の手法（iVAE や full-VAE など）がハイパーパramータチューニングに強く依存するのとは異なり、分離スコアの低下が最小限に抑えられた。
• ラベル付きインスタンス数が増加しても、idVAEは依然として優れた分離性性能を維持した。これは低データ環境下での頑健性とスケーラビリティを示している。
• 実験結果は、最適な条件付き事前分布を学習することで、推論マッピングの正則化が顕著に向上し、分離性品質に実質的な改善がもたらされることを確認した。