[論文レビュー] Early Visual Concept Learning with Unsupervised Deep Learning

Irina Higgins, Löıc Matthey+6 more|arXiv (Cornell University)|Jun 17, 2016

Generative Adversarial Networks and Image Synthesis参考文献 28被引用数 127

ひとこと要約

論文は、脳科学にインスパイアされた制約を備えた variational autoencoder (VAE) が、生の画像から分離された連続的視覚因子を学習し、教師なしで zero-shot 推論と objectness のような出現的概念を可能にすることを示す。

ABSTRACT

Automated discovery of early visual concepts from raw image data is a major open challenge in AI research. Addressing this problem, we propose an unsupervised approach for learning disentangled representations of the underlying factors of variation. We draw inspiration from neuroscience, and show how this can be achieved in an unsupervised generative model by applying the same learning pressures as have been suggested to act in the ventral visual stream in the brain. By enforcing redundancy reduction, encouraging statistical independence, and exposure to data with transform continuities analogous to those to which human infants are exposed, we obtain a variational autoencoder (VAE) framework capable of learning disentangled factors. Our approach makes few assumptions and works well across a wide variety of datasets. Furthermore, our solution has useful emergent properties, such as zero-shot inference and an intuitive understanding of "objectness".

研究の動機と目的

• 教師なし深層生成モデルは、連続的な視覚因子の分離された表現を学習できることを示す。
• データの連続性、冗長性の削減、独立性といった脳科学にインスパイアされたプレッシャーを VAE フレームワークに組み込む。
• 分離性を定量的に評価し、出現的特性と zero-shot 推論を示す。
• アーキテクチャ、データセット、ノイズ設定を横断した頑健性を示す。

提案手法

• 潜在因子上の事前分布を持ち、冗長性の削減と独立性を促進するベータ正則化付き目的関数を用いて VAE を定式化する（L = E_q[log p(x|z)] - beta * KL(q(z|x)||p(z))）。
• 潜在因子間の独立性を誘導するために等方ガウス分布を事前分布として用いる。
• 連続的変換を含むデータセットで訓練し、マニフォールド学習と分離を促進する。
• どの生成因子がフレーム遷移を引き起こしたかを予測する因子変化分類器を用いて分離を定量化する。
• 見たことのない因子の組み合わせや新しいオブジェクトの識別性をテストして zero-shot 汎化を評価する。
• 新規オブジェクトを用いて推論を検証し、objectness のような出現的概念を示す。

実験結果

リサーチクエスチョン

• RQ1 教師なし深層生成モデルは、事前知識なしに視覚変動の分離された因子を学習できるのか？
• RQ2 データの連続性、冗長性の削減、独立性のプレッシャーは VAE における分離性にどう影響するのか？
• RQ3 分離された表現は zero-shot 推論と新規オブジェクトへの一般化を可能にするのか？
• RQ4 分離された VAE における objectness のような出現的特性と新規タスクへの転送に関する特性は何か？

主な発見

• 適切な学習圧力が与えられた場合、分離された VAE は位置・スケール・回転といった異なる連続因子に対応する潜在ユニットを学習する。
• データの連続性を減らすと分離性が損なわれ、ベータ値を適切な最適点まで上げると分離性が改善する。
• より大きな潜在空間はより強い正規化されたベータを必要とし、ベータと分離性にはU字型の関係がある。
• 分離された表現は見たことのない因子の組み合わせや新規オブジェクトに対する zero-shot 推論を可能にする。
• 分離された VAE はデータの統計と整合する独立した潜在因子を割り当て、新しい組み合わせやタスクへの一般化を改善する。
• 再構成品質だけでは分離性を信頼すべき指標とはなり得ず、分離されたモデルはぼやけた再構成を生みやすい。