[論文レビュー] Learning Disentangled Representations with Semi-Supervised Deep Generative Models

N. Siddharth, Brooks Paige+6 more|arXiv (Cornell University)|Jun 1, 2017

Explainable Artificial Intelligence (XAI)被引用数 140

ひとこと要約

半教師付き深層生成モデルは、部分的に指定されたグラフィカル構造を組み合わせた柔軟なニューラルエンコーダ／デコーダと重要性サンプリングに基づく半教師付き目的を用いて、解 disentangled representations learning を可能にします。 digit identity、handwriting style、identity、lighting、multi-digit scenes の計数といった因子の解離を実証します。

ABSTRACT

Variational autoencoders (VAEs) learn representations of data by jointly training a probabilistic encoder and decoder network. Typically these models encode all features of the data into a single variable. Here we are interested in learning disentangled representations that encode distinct aspects of the data into separate variables. We propose to learn such representations using model architectures that generalise from standard VAEs, employing a general graphical model structure in the encoder and decoder. This allows us to train partially-specified models that make relatively strong assumptions about a subset of interpretable variables and rely on the flexibility of neural networks to learn representations for the remaining variables. We further define a general objective for semi-supervised learning in this model class, which can be approximated using an importance sampling procedure. We evaluate our framework's ability to learn disentangled representations, both by qualitative exploration of its generative capacity, and quantitative evaluation of its discriminative ability on a variety of models and datasets.

研究の動機と目的

• interpretable factors of variation を分離する disentangled representations の学習を動機づける。
• variational autoencoders 内で部分的に指定されたグラフィカルモデルをサポートする枠組みを開発する。
• latent factorization を導くための部分的監視を活用して半教師付き学習を可能にする。
• 任意の潜在変数間の依存構造を許容する一般的な目的関数と推論法を提供する。

提案手法

• いくつかの潜在変数が解釈可能で任意に監視される一方、他はニューラルネットワークによって学習される部分的に指定されたグラフィカルモデルを定義する。
• 生成モデル p_theta(x,y,z) および認識モデル q_phi(y,z|x) の双方において、潜在変数間の任意の依存構造を考慮できるよう VAE の目的関数を一般化する。
• y に部分的な監視を許容しつつ、任意の q_phi(y,z|x) を扱う重要性サンプリング推定に基づく半教師付き目的を導出する。
• 監視付きおよび非監視の潜在変数の両方をエンドツーエンドで訓練可能な確率計算グラフの構築を導入する。
• MNIST、SVHN、Yale B faces、および multi-MNIST 設定で部分的監視シナリオを含む実験を通してアプローチを実証する。

実験結果

リサーチクエスチョン

• RQ1 部分的に指定された確率グラフィカルモデルを変分オートエンコーダに効果的に統合して、disentangled representations を得ることができるか。
• RQ2 潜在変数が単純な因子分解以上の任意の依存構造を持つ場合、半教師付き学習をどのように定式化・最適化するか。
• RQ3 digit identity、handwriting style、identity、lighting などの解釈可能な潜在因子の学習を部分的監視がどの程度導くか。
• RQ4 確率的次元性と構成的サブモデルを持つモデルを扱いつつ、分離性と予測性能を保てるか。

主な発見

• このフレームワークは、解釈可能な潜在変数を部分的に監視可能な因子に結びつけ、他をニューラルネットワークによる学習に委ねることで disentangled representations の学習が可能である。
• 提案された重要性サンプリングに基づく推定量（およびその log-sum-exp 変種）は、任意の潜在依存を持つモデルの半教師付き学習を可能にする。
• MNIST および SVHN で、ラベル付きデータが限られている条件下でも競争力のある分類精度を示し、同様の設定下での以前の半教師付き VAE と比較して遜色ない。
• intrinsic-face データに対して、 identity を lighting から分離させ、対応する潜在因子の分類および回帰タスクを部分的監視があっても実現する。
• multi-MNIST では、数字を数え、画像を構成する個々の数字に分解する能力を示し、確率的次元性と構成的構造を扱えることを示す。