[論文レビュー] Hyperprior Induced Unsupervised Disentanglement of Latent Representations

Abdul Fatir Ansari, Harold Soh|arXiv (Cornell University)|Sep 12, 2018

Generative Adversarial Networks and Image Synthesis参考文献 32被引用数 5

ひとこと要約

本稿では、潜在空間の共分散行列に逆ウィシャートハイパーパriorを設定することで、変分オートエンコーダーにおける分離性を強制する階層ベイジアン手法、Covariance Hyperprior VAE (CHyVAE) を提案する。ハイパーパriorの自由度を調整することにより、ELBOを変更せずに潜在次元の統計的独立性を促進する。β-VAE や FactorVAE よりも優れた分離性と再構成性能を、標準的および相関要因を含むデータセットで達成した。

ABSTRACT

We address the problem of unsupervised disentanglement of latent representations learnt via deep generative models. In contrast to current approaches that operate on the evidence lower bound (ELBO), we argue that statistical independence in the latent space of VAEs can be enforced in a principled hierarchical Bayesian manner. To this effect, we augment the standard VAE with an inverse-Wishart (IW) prior on the covariance matrix of the latent code. By tuning the IW parameters, we are able to encourage (or discourage) independence in the learnt latent dimensions. Extensive experimental results on a range of datasets (2DShapes, 3DChairs, 3DFaces and CelebA) show our approach to outperform the $β$-VAE and is competitive with the state-of-the-art FactorVAE. Our approach achieves significantly better disentanglement and reconstruction on a new dataset (CorrelatedEllipses) which introduces correlations between the factors of variation.

研究の動機と目的

• ELBOの手動修正や追加ペナルティ項に依存せずに、深層生成モデルにおける教師なし分離性の課題に取り組むこと。
• 事前分布の指定を通じて潜在空間の独立性を制御する、整合的な階層ベイジアンアプローチを検討すること。
• 潜在事前分布の共分散をハイパーパriorを用いて学習可能なパラメータとしてモデル化することで、再構成品質を維持したまま分離性を向上させること。
• 要因の変動が相関するデータセットにおいて、本手法を評価すること。
• モデル設計そのもの——特に事前分布共分散へのハイパーパriorの導入——が、損失関数の修正よりも優れた分離性を達成できることを示すこと。

提案手法

• VAEの潜在事前分布 p(z|Σ) の共分散行列 Σ に逆ウィシャート (IW) ハイパーパriorを導入し、潜在独立性を原理的かつ制御可能に保証する。
• ハイパーパriorの自由度パラメータ ν が事前分布の情報量を制御し、ν が小さいほど単位共分散からの逸脱が促進され、結果として分離性が向上する。
• 潜在コードと共分散行列を同時に推論する構造的変分後解 q(z, Σ|x) を用いることで、推論の安定性と表現力が向上する。
• 変分推論により階層的事前分布が自然にELBOに追加項を生じさせ、損失関数に対する恣意的修正を回避する。
• 本手法は全共分散行列 Σ を学習可能であり、標準VAEが等方的事前分布を仮定するのとは異なり、データに由来する相関を捉えることができる。
• 本手法は Covariance Hyperprior VAE (CHyVAE) として実装され、近似手法を用いて安定した最適化が可能なエンドツーエンド学習が可能になった。

実験結果

リサーチクエスチョン

• RQ1 損失関数の修正に依存せず、整合的な階層的事前分布の指定によってVAEにおける分離性を達成できるか？
• RQ2 潜在共分散行列に対するハイパーパriorのチューニングが、分離性と再構成性能に与える影響は何か？
• RQ3 要因の変動が相関するデータセットにおいて、CHyVAE は β-VAE や FactorVAE よりも一般化性能に優れるか？
• RQ4 全共分散行列を学習可能な階層ベイジアンモデルは、固定または対角事前分布を仮定するモデルよりも分離性タスクで優れるか？
• RQ5 ハイパーパrior分布の選択（例：逆ウィシャート）が、分離表現の質にどの程度影響を及えるか？

主な発見

• CHyVAE は 2DShapes, 3DChairs, 3DFaces, CelebA といった全評価データセットで、β-VAE よりも分離性と再構成性能の両方で優れた性能を示した。
• 強い要因相関を有する新規データセット CorrelatedEllipses において、CHyVAE は β-VAE や FactorVAE よりも顕著に優れた分離性と再構成誤差を達成した。
• 最良の性能を示した CHyVAE モデルは、分離性スコア 0.905 を達成し、FactorVAE の 0.909 に匹敵したが、再構成の忠実度が優れていた。
• 潜在変動の可視化から、CHyVAE は 3DFaces や CelebA で意味的に意味のある要因を学習しており、FactorVAE が見逃していた 3DChairs の脚スタイルの変化を捉えていた。
• 訓練曲線から、異なるハイパーパrameter設定下でも、CHyVAE は β-VAE や FactorVAE よりも低い再構成誤差と高い分離性を達成していた。
• 本研究の結果は、ELBOを変更せずにハイパーパラメータの調整により分離性を効果的に制御できることを示しており、ELBO手術のより原理的で整合性のある代替手段であることを示した。