[論文レビュー] Monte Carlo Variational Auto-Encoders

Achille Thin, Nikita Kotelevskii+4 more|arXiv (Cornell University)|Jun 30, 2021

Generative Adversarial Networks and Image Synthesis被引用数 10

ひとこと要約

本稿では、アンナールド・インポートランス・サンプリング（AIS）および逐次インポートランス・サンプリング（SIS）を用い、有向マルコフ連鎖モンテカルロ（MCMC）遷移としてラングジュアン・ダイナミクスを適用することで、VAEにおけるEvidence Lower Bound（ELBO）をタイトにしたモンテカルロ変分オートエンコーダー（MCVAE）を提案する。本稿では、メトロポリス＝ハスティングスカーネルの非標準的表現と再パラメータライゼーション・トリックを用いて、AISおよびSISに基づくELBOに対する微分可能な勾配推定器を導入し、より低い分散の勾配と、MNIST、CIFAR-10、CelebAにおけるより優れた尤度推定を実現するエンド・ツー・エンド学習を可能にする。

ABSTRACT

Variational auto-encoders (VAE) are popular deep latent variable models which are trained by maximizing an Evidence Lower Bound (ELBO). To obtain tighter ELBO and hence better variational approximations, it has been proposed to use importance sampling to get a lower variance estimate of the evidence. However, importance sampling is known to perform poorly in high dimensions. While it has been suggested many times in the literature to use more sophisticated algorithms such as Annealed Importance Sampling (AIS) and its Sequential Importance Sampling (SIS) extensions, the potential benefits brought by these advanced techniques have never been realized for VAE: the AIS estimate cannot be easily differentiated, while SIS requires the specification of carefully chosen backward Markov kernels. In this paper, we address both issues and demonstrate the performance of the resulting Monte Carlo VAEs on a variety of applications.

研究の動機と目的

• 標準VAEが真の対数尤度を近似する際のELBOの下界が緩いため、その制限を是正すること。
• これまでの研究ではエンド・ツー・エンド学習への応用が困難であった、AISおよびSIS推定器の微分可能性を克服すること。
• 学習可能な逆方向マルコフ遷移核を必要としないVAEフレームワーク内に、AISやSISといった高度なモンテカルロ推定器を統合する手法を開発すること。
• 高次元で低分散のインポートランス・サンプリング推定器を用いてELBOをタイトにすることで、変分推論の品質を向上させること。
• SISに基づくMCVAEに有向ラングジュアン遷移を適用した場合、実世界のデータセット上でのELBOと対数尤度において、標準VAEおよびIWAEを上回ることを実証すること。

提案手法

• 有向マルコフ遷移核（特に未調整ラングジュアン・ダイナミクス）を用いた新規なSISベースのELBOを提案し、逆方向核の学習を回避する。
• 再パラメータライゼーション・トリックを用いてSISベースのELBOに対する不偏勾配推定器を導出することで、効率的なバックプロパゲーションを可能にする。
• メトロポリス＝ハスティングスカーネルの非標準的表現を導入し、微分可能なサンプリングを可能にすることで、AISベースのELBOにおける勾配推定を可能にする。
• AISベースのELBOの訓練を安定化させるため、分散低減技術を適用する。これは、通常の高分散REINFORCE型勾配に起因する問題を緩和するためである。
• 事前分布から結合モデルまでの段階的ブリッジ分布の系列を用いてAISパスを定義し、MCMC遷移を$K$ステップ実行する。
• 標準的なVAEアーキテクチャ（畳み込みエンコーダーとデコーダー、因子化ベルヌーイ／ガウス尤度）を用いて、画像生成タスクに適用する。

実験結果

リサーチクエスチョン

• RQ1 アンナールド・インポートランス・サンプリング（AIS）を用いることで、VAEにおけるELBOのタイトさを高めつつ、微分可能な学習を可能にすることができるか？
• RQ2 メトロポリス＝ハスティングス遷移カーネルをどのようにして微分可能にすれば、AISベースのVAEにおける勾配最適化が可能になるか？
• RQ3 未調整ラングジュアン・ダイナミクス（ULA）を用いた逐次インポートランス・サンプリング（SIS）は、標準VAEやIWAEに比べ、より良いELBOと対数尤度を達成できるか？
• RQ4 MCVAEの訓練において、MCMCステップ数を増加させた場合の計算コストと性能向上のトレードオフは何か？
• RQ5 有向遷移を用いたSISベースのMCVAEは、標準VAEおよびAISベースのMCVAEに比べ、ELBOのタイトさと尤度推定の両面で優れているか？

主な発見

• L-MCVAE（ラングジュアン・ダイナミクスを用いたSISベース）は、MNISTでK=5のとき、テスト対数尤度68.09 ± 0.10を達成し、IWAE（69.43 ± 0.03）および標準VAEを上回る性能を示した。
• A-MCVAE（AISベース）は、MNISTでK=3のとき、テスト対数尤度69.97 ± 0.99を達成し、一部の設定ではSISよりもタイトなELBOを実現した。
• L-MCVAEにおけるMCMCステップ数（K）の増加は、ELBOおよびホールドアウト対数尤度の両方を向上させ、CIFAR-10ではK=10で68.36 ± 0.04を達成した。
• L-MCVAEは、A-MCVAEに比べて収束が早く、訓練の安定性に優れている。これは、より低い分散の勾配推定に起因する。
• 提案手法は、MNIST（K=5で68.09 ± 0.10）およびCIFAR-10（K=10で67.76 ± 0.04）で、標準VAEおよびIWAEを上回る最先端の対数尤度を達成した。
• 実験結果から、有向遷移を用いたSISベースのMCVAEは、ELBOのタイトさと勾配分散の両面で良好なトレードオフを実現しており、AISベースの代替手法に比べて実用的であることが確認された。