[論文レビュー] Variational Inference of Disentangled Latent Concepts from Unlabeled Observations

Abhishek Kumar, Prasanna Sattigeri+1 more|arXiv (Cornell University)|Nov 2, 2017

Generative Adversarial Networks and Image Synthesis参考文献 43被引用数 50

ひとこと要約

この論文は、推定された prior を正則化して潜在因子間の独立性を促し、解かれた潜在表現を評価する SAP 指標を導入する、DIP-VAE（Disentangled Latent Inference with an Inferred Prior）を提案し、beta-VAE よりデータセット間での独立性と再構成のトレードオフを改善する。

ABSTRACT

Disentangled representations, where the higher level data generative factors are reflected in disjoint latent dimensions, offer several benefits such as ease of deriving invariant representations, transferability to other tasks, interpretability, etc. We consider the problem of unsupervised learning of disentangled representations from large pool of unlabeled observations, and propose a variational inference based approach to infer disentangled latent factors. We introduce a regularizer on the expectation of the approximate posterior over observed data that encourages the disentanglement. We also propose a new disentanglement metric which is better aligned with the qualitative disentanglement observed in the decoder's output. We empirically observe significant improvement over existing methods in terms of both disentanglement and data likelihood (reconstruction quality).

研究の動機と目的

• unlabeled data から disentangled latent factors の教師なし学習を動機づけて定義する。
• 推定後方分布に正則化子を導入して disentangled な潜在表現を促進する。
• latent 次元を decorrelate する 2 つの DIP-VAE 変種（DIP-VAE-I と DIP-VAE-II）を提案する。
• デコーダー風出力と整合する形で disentanglement を評価する SAP スコアを開発する。

提案手法

• 潜在変数に対して disentangled prior を持つアロメトリック変分推論フレームワーク（VAE）を採用する。
• 推定された prior q_phi(z) と disentangled prior p(z) とのずれを Penalize する正則化子を導入する。
• DIP-VAE の 2 種類を実装する：DIP-VAE-I は Cov_p(x)[mu_phi(x)] を直交性と対角要素が 1 になるよう正則化する；DIP-VAE-II は Cov_q(z)[z] を直交性と対角要素が 1 になるよう正則化する。
• 正則化子は各次元の共分散デカップリング objective を用い、オフ対角項と対角項をそれぞれ制御するハイパーパラメータ lambda_od と lambda_d を用いる。
• beta-VAE と比較し、彼らのアプローチはデータ尤度を維持しつつ disentanglement を促進する点で beta-VAE のトレードオフを回避する。

実験結果

リサーチクエスチョン

• RQ1 推定された prior 正則化子は再構成品質を犠牲にせず disentangled latent factors を促進できるのか。
• RQ2 DIP-VAE-I と DIP-VAE-II はデータセット間で disentanglement と再構成にどのような影響の違いがあるのか。
• RQ3 共分散に基づく decorrelation objective は Z-diff のような既存指標より定性的な disentanglement により適合するのか。
• RQ4 SAP スコアは decoder 出力を観察したとき、 Z-diff よりも disentanglement の信頼性が高い指標なのか。
• RQ5 DIP-VAE は標準的な disentanglement ベンチマーク（2D Shapes, CelebA, 3D Chairs）で beta-VAE と比較してどのような性能を示すのか。

主な発見

• DIP-VAE は beta-VAE および標準 VAE と比較して、複数のデータセットで再構成品質を維持または向上させつつ disentanglement を改善する。
• DIP-VAE-I と DIP-VAE-II は異なるトレードオフを提供する；実際の生成因子数が潜在次元より少ない場合には DIP-VAE-II が特に有利で、潜在因子の分割を回避する。
• SAP スコアは潜在 traversals で観察される定性的な disentanglement と Z-diff 指標よりも高く相関することが多く、誤解を招く可能性がある Z-diff より妥当性が高い。
• 実証的成果は DIP-VAE のバリアントでより高い disentanglement スコア（SAP）を示し、Beta-VAE と比較して再構成誤差が競合的または改善する場合が多い。
• CelebA の属性予測実験は、DIP-VAE が VAE や Beta-VAE と比較していくつかの属性でより良い分離性を示すことを示唆する。