[論文レビュー] GibbsNet: Iterative Adversarial Inference for Deep Graphical Models

Alex Lamb, Devon Hjelm+4 more|arXiv (Cornell University)|Dec 12, 2017

Adversarial Robustness in Machine Learning被引用数 5

ひとこと要約

GibbsNetは、有向モデルのサンプリング効率と無向モデルの表現力のある事前分布を組み合わせる、深層グラフィカルモデル向けの新しい反復的敵対的推論フレームワークを提案する。実データと短いマルコフ連鎖からのサンプルを区別するGANに類似したディスクライマーを訓練することで、複雑でデータ駆動の事前分布 $p(z)$ を持つ連合分布 $p(x,z)$ を学習し、タスク固有の事前学習なしに高品質な無条件生成、インpainting、画像と属性の同時モデリングを可能にする。

ABSTRACT

Directed latent variable models that formulate the joint distribution as $p(x,z) = p(z) p(x \mid z)$ have the advantage of fast and exact sampling. However, these models have the weakness of needing to specify $p(z)$, often with a simple fixed prior that limits the expressiveness of the model. Undirected latent variable models discard the requirement that $p(z)$ be specified with a prior, yet sampling from them generally requires an iterative procedure such as blocked Gibbs-sampling that may require many steps to draw samples from the joint distribution $p(x, z)$. We propose a novel approach to learning the joint distribution between the data and a latent code which uses an adversarially learned iterative procedure to gradually refine the joint distribution, $p(x, z)$, to better match with the data distribution on each step. GibbsNet is the best of both worlds both in theory and in practice. Achieving the speed and simplicity of a directed latent variable model, it is guaranteed (assuming the adversarial game reaches the virtual training criteria global minimum) to produce samples from $p(x, z)$ with only a few sampling iterations. Achieving the expressiveness and flexibility of an undirected latent variable model, GibbsNet does away with the need for an explicit $p(z)$ and has the ability to do attribute prediction, class-conditional generation, and joint image-attribute modeling in a single model which is not trained for any of these specific tasks. We show empirically that GibbsNet is able to learn a more complex $p(z)$ and show that this leads to improved inpainting and iterative refinement of $p(x, z)$ for dozens of steps and stable generation without collapse for thousands of steps, despite being trained on only a few steps.

研究の動機と目的

• VAEのような有向モデルにおける固定事前分布の制限を解消し、モデルの表現力を向上させること。
• DBM やボルツマンマシンのような無向モデルの遅いサンプリングと訓練の難易度を克服すること。
• 単一の統合フレームワーク内で画像と属性の同時モデリング、条件付き生成、インpaintingを可能にすること。
• 訓練中にわずか数ステップのサンプリングしか行わない状況でも、マルコフ連鎖の定常分布がデータ分布と一致するようにする訓練手順を開発すること。
• 最小限のサンプリングステップでの訓練にもかかわらず、モード崩壊を伴わず安定的かつ高品質な生成と推論を達成すること。

提案手法

• 学習された遷移演算子を用いて、$p(x|z)$ からの $x$ のサンプリングと $q(z|x)$ からの $z$ のサンプリングを交互に繰り返すマルコフ連鎖を定義し、学習されたギブスサンプリングを模倣する。
• 実データペア $(z_{\text{real}}, x_{\text{real}})$ と、アンクラamped連鎖からの生成ペアを区別するための連合ディスクライマー $D(z,x)$ を訓練する。
• GAN風の目的関数を用いて生成器と推論ネットワークを更新し、連鎖の定常分布がデータ分布と一致することを保証する。
• 生成器 $p(x|z)$ とエンコーダー $q(z|x)$ を、$p(z)$ の明示的モデリングを避けるために、連合敵対的目的関数を用いて同時に訓練する。
• 推論とサンプリングには、$x$ と $z$ の更新を交互に繰り返し、数ステップ後に最終サンプルを抽出する。
• 混合モダリティデータ（例：画像とバイナリ属性）に対して連続的および離散的境界探索GANを適用し、連合分布の学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 わずか数ステップのサンプリングで、敵対的目的関数によって訓練されたマルコフ連鎖が、高品質な生成と推論を達成できるか？
• RQ2 事前分布 $p(z)$ が、固定されたものではなく、データとモデルのダイナミクスによって暗黙的に形状づけられるか？
• RQ3 提案された反復的敵対的訓練手順により、データ分布と一致する定常分布が得られるか？
• RQ4 同じモデルが、タスク固有の微調整なしに、無条件生成、インpainting、画像と属性の同時モデリングをすべて実行できるか？
• RQ5 サンプル品質とサンプリング効率の観点で、ALI や非平衡熱力学と比較して、モデルの性能はどのように異なるか？

主な発見

• CIFAR-10 における無条件生成のインセプションスコアは 5.69 を達成し、ALI（5.41）を上回り、わずか 20 ステップで 1000 ステップの非平衡熱力学と同等またはそれを上回る性能を示した。
• インpaintingの結果では、両モデルが同一の $p(x|z)$ と $q(z|x)$ アーキテクチャを使用しても、GibbsNetはALIよりも高品質で一貫性のある再構成を生成した。
• インpaintingタスクにおけるインセプションスコアは 6.15 を達成し、このタスクに明示的な訓練を施さなくても、強力な条件付き生成性能を示した。
• 学習された潜在空間 $p(z)$ は複雑で分離可能であり、$q(z|x)$ を特徴抽出器として用いることで、下流の分類タスクでより良い性能を発揮した。
• わずか数ステップのマルコフ連鎖でのみ訓練されたにもかかわらず、GibbsNetは推論中に数千ステップにわたり安定したサンプルを生成し、モード崩壊を示さなかった。
• CelebA における40個のバイナリ属性と画像の同時モデリングは、1つのモデルで成功裏に実現され、属性生成には離散的BGAN、画像生成には連続的BGANを適用した。