[論文レビュー] Associative Compression Networks

Alex Graves, Jacob Menick+1 more|arXiv (Cornell University)|Apr 6, 2018

Generative Adversarial Networks and Image Synthesis被引用数 8

ひとこと要約

本稿では、類似した潜在コードに条件づけられた事前分布を用いる変分オートエンコーダー枠組みである関連圧縮ネットワーク（ACNs）を提案する。これにより符号化コストが低減され、より豊かで情報量の多い表現が可能になる。潜在空間における局所的構造を活用して逐次的圧縮を実現するACNsは、MNIST、CIFAR-10、ImageNet、CelebAの各データセットにおいて、標準的なVAEに比べて、分離可能な高レベル特徴を学習し、多様で現実的なサンプルを生成する点で優れている。

ABSTRACT

This paper introduces Associative Compression Networks (ACNs), a new framework for variational autoencoding with neural networks. The system differs from existing variational autoencoders (VAEs) in that the prior distribution used to model each code is conditioned on a similar code from the dataset. In compression terms this equates to sequentially transmitting the dataset using an ordering determined by proximity in latent space. Since the prior need only account for local, rather than global variations in the latent space, the coding cost is greatly reduced, leading to rich, informative codes. Crucially, the codes remain informative when powerful, autoregressive decoders are used, which we argue is fundamentally difficult with normal VAEs. Experimental results on MNIST, CIFAR-10, ImageNet and CelebA show that ACNs discover high-level latent features such as object class, writing style, pose and facial expression, which can be used to cluster and classify the data, as well as to generate diverse and convincing samples. We conclude that ACNs are a promising new direction for representation learning: one that steps away from IID modelling, and towards learning a structured description of the dataset as a whole.

研究の動機と目的

• 強力な自己回帰的デコーダーを用いる際、標準的なVAEが情報量が多く分離可能な表現を学習する点で抱える制限を解消すること。
• 潜在空間におけるグローバルな変動の代わりに局所的な変動をモデル化することで、変分オートエンコーダーにおける符号化コストを低減すること。
• オブジェクトの種別、ポーズ、顔の表情といった高レベルのデータ属性を捉える構造的かつ階層的な表現学習を可能にすること。
• 自己回帰的デコーダーと組み合わせた際、多様で現実的なサンプルを生成しつつも、強力な分離性とクラスタリング性能を維持する生成モデルの開発

提案手法

• 潜在空間における類似度に基づき、類似したデータポイントの潜在コードに条件づけられた新たな事前分布を導入する。
• 潜在空間における距離に基づいてデータポイントの順序付けを行い、逐次的送信と圧縮を可能にする。
• 高精度なサンプル生成を可能にするために自己回帰的デコーダーを活用し、その生成モデルを支援するように事前分布を調整する。
• 類似度に基づいて各コードとその近隣コードを関連付ける類似学習に類似したメカニズムを採用し、事前分布モデリングの効率を向上させる。
• 構造的で近隣条件付き事前分布を組み込んだ変分下界の目的関数を用いて、エンド・ツー・エンドでモデルを訓練する。
• MNIST、CIFAR-10、ImageNet、CelebAを含む多様なデータセットにこのフレームワークを適用し、異なるデータモodalに対しても一般化できることを示す。

実験結果

リサーチクエスチョン

• RQ1 類似した潜在コードに条件づけられた事前分布を用いることで、変分オートエンコーダーにおける符号化コストを低減し、表現品質を向上させることができるか？
• RQ2 このアプローチにより、オブジェクトの種別、ポーズ、顔の表情といった高レベル特徴のより効果的な分離が可能になるか？
• RQ3 強力な自己回帰的デコーダーと組み合わせたACNsは、標準的なVAEとは異なり、多様で現実的なサンプルを生成できるか？
• RQ4 ACNsにおける構造的でIIDでない事前分布は、クラスタリングおよび分類性能において標準的なVAEの事前分布と比べてどのように異なるか？
• RQ5 ACNsが発見する潜在空間の構造は、意味的に意味のあるデータ組織をどの程度反映しているか？

主な発見

• ACNsは、潜在空間におけるグローバルな分布の代わりに局所的変動のみをモデル化することで、符号化コストを顕著に低減する。
• 本モデルは、複数のデータセットでオブジェクトの種別、筆致、ポーズ、顔の表情といった分離可能な高レベル特徴を効果的に学習する。
• 学習された潜在コードを用いて、効果的なクラスタリングと分類が可能であり、強い意味的構造が示された。
• MNIST、CIFAR-10、ImageNet、CelebAの各データセットで、自己回帰的デコーダーを搭載したACNsは、標準的なVAEに比べて、多様で現実的なサンプルを生成する。
• 関連性に基づく事前分布によって整理された潜在空間は、IID仮定を越えた構造的かつ階層的なデータセット記述を捉えている。
• 実験的結果から、ACNsはベンチマークデータセットにおいてベースラインのVAEに比べて優れた表現品質と生成性能を達成していることが確認された。