[論文レビュー] Learning Discrete and Continuous Factors of Data via Alternating Disentanglement

Yeonwoo Jeong, Hyun Oh Song|arXiv (Cornell University)|May 23, 2019

Anomaly Detection Techniques and Applications被引用数 19

ひとこと要約

本稿では、推論を分離することで、変分オートエンコーダーにおいて離散的および連続的要因を交互に分離するCascadeVAEという手法を提案する。まず連続的潜在変数から離散的要因を推論し、次にそれらの離散的要因を用いてエンコーダーを更新する。情報段階的伝達と交互最適化を用いることで、合計相関を効率的に罰則化し、dSprites、MNIST、FashionMNISTで最先端の分離スコアおよび教師なし分類精度を達成した。

ABSTRACT

We address the problem of unsupervised disentanglement of discrete and continuous explanatory factors of data. We first show a simple procedure for minimizing the total correlation of the continuous latent variables without having to use a discriminator network or perform importance sampling, via cascading the information flow in the $β$-vae framework. Furthermore, we propose a method which avoids offloading the entire burden of jointly modeling the continuous and discrete factors to the variational encoder by employing a separate discrete inference procedure. This leads to an interesting alternating minimization problem which switches between finding the most likely discrete configuration given the continuous factors and updating the variational encoder based on the computed discrete factors. Experiments show that the proposed method clearly disentangles discrete factors and significantly outperforms current disentanglement methods based on the disentanglement score and inference network classification score. The source code is available at https://github.com/snu-mllab/DisentanglementICML19.

研究の動機と目的

• 画像のような複雑なデータにおける、離散的および連続的要因の教師なし分離の課題に対処すること。
• 既存手法が単一の事後分布で離散的および連続的要因を同時にモデル化するため、推論ネットワークに負担をかけ、分離性能を低下させるという制限を克服すること。
• 交互最適化プロセスを用いて、離散的および連続的要因を別々にかつ効果的に分離する手法を開発すること。
• ディスクリミネータを用いず、重要度サンプリングを避けても、連続的潜在空間における合計相関を効率的に罰則化する方法を提供すること。
• ベンチマークデータセットにおいて、定量的（分離スコアを用いて）および定性的（潜在変数の走査を用いて）に分離性能を向上させること。

提案手法

• 本手法は、$β$-VAEフレームワークに情報段階的伝達を導入し、ディスクリミネータや重要度サンプリングを用いずに、暗黙的に合計相関を罰則化する。
• 交互最小化手順を定式化する：まず、現在の連続的潜在変数をもとに最も確率の高い離散的構成を推論する。次に、推論された離散的要因を用いて変分エンコーダーを更新する。
• 推論中に離散的および連続的要因を別々に取り扱うことで、モデル化の負担を分離し、分離品質を向上させる。
• 合計相関の罰則は、高次元の相互情報量を直接計算しない段階的情報フロー機構を介して適用される。
• 標準的なVAEアーキテクチャに、離散的推論とエンコーダー更新ステップを交互に実行するように変更された訓練目的関数を用いる。
• 本手法はCascadeVAEとして実装され、GitHubで公開されている。

実験結果

リサーチクエスチョン

• RQ1 変分オートエンコーダーにおいて、離散的および連続的要因の推論を分離することで、より良い分離が達成可能か？
• RQ2 離散的および連続的要因の推論の間で交互最適化を適用することで、同時モデル化に比べて分離性能が向上するか？
• RQ3 $β$-VAEフレームワークにおいて、ディスクリミネータや重要度サンプリングを用いずに合計相関を効果的に罰則化できるか？
• RQ4 本手法は、FactorVAE、JointVAE、$β$-VAEといった最先端の分離手法と比較して、定量的および定性的なベンチマークで優れた性能を示すか？
• RQ5 本手法は、離散的要因の教師なし分類精度をどの程度向上させるか？

主な発見

• dSpritesでは、m=10の条件下で分離スコア81.41（±9.54）を達成し、JointVAE（68.57 ± 9.19）および他のベースラインを上回った。
• MNISTでは、離散的要因の平均教師なし分類精度が84.19%（±5.02）に達し、JointVAEの78.33%（±7.18）を顕著に上回った。
• FashionMNISTでは、平均分類精度が57.72%（±3.29）に達し、JointVAEの51.51%（±4.42）を上回った。
• MNISTおよびFashionMNISTにおける潜在変数の走査結果から、明確な分離が確認された：連続的次元は形状やスタイルを制御し、離散的次元は数字の識別およびオブジェクトの種別を制御していた。
• チェアデータセットでは、カテゴリカルな形状要因が正常に分離された。離散的潜在変数の走査結果から、明確に区別可能なチェアの種別が観察された。
• 訓練過程を通じて、データと潜在変数間の相互情報量が増加した。これは、特に離散的要因において、表現学習が向上したことを確認するものである。