[論文レビュー] Variational Inference using Implicit Distributions

Ferenc Huszár|arXiv (Cornell University)|Feb 27, 2017

Generative Adversarial Networks and Image Synthesis参考文献 27被引用数 70

ひとこと要約

本論文は、暗黙分布を用いる変分推論の手法を包括的に整理・統合し、VIとGAN様のアプローチおよびノイズ除去ベースの手法を結びつけ、事前分布・結合コントラスト付きの定式化と実用的なアルゴリズムのフレームワークを提示する。

ABSTRACT

Generative adversarial networks (GANs) have given us a great tool to fit implicit generative models to data. Implicit distributions are ones we can sample from easily, and take derivatives of samples with respect to model parameters. These models are highly expressive and we argue they can prove just as useful for variational inference (VI) as they are for generative modelling. Several papers have proposed GAN-like algorithms for inference, however, connections to the theory of VI are not always well understood. This paper provides a unifying review of existing algorithms establishing connections between variational autoencoders, adversarially learned inference, operator VI, GAN-based image reconstruction, and more. Secondly, the paper provides a framework for building new algorithms: depending on the way the variational bound is expressed we introduce prior-contrastive and joint-contrastive methods, and show practical inference algorithms based on either density ratio estimation or denoising.

研究の動機と目的

• 明示的VIの計算可能性の限界を克服するために、変分推論における暗黛分布の利用を動機づける。
• 既存のGAN様の推論法とノイズ除去ベースの推論法をVIフレームワークの下で統合する。
• 事前-コントラストおよび結合コントラストの変分境界の分類法を導入する。
• 密度が不可解な場合の密度比や勾配を推定する実用的なアルゴリズムを提供する。
• 事前分布や尤度が暗黙的な場合の学習拡張を議論し、今後の方向性を概説する。

提案手法

• 潜在変数/後方分布間の密度比として、事前-コントラスト（r）と結合-コントラスト（s）の2形式でELBOを表現する。
• 敵対的識別器（PC-Adv, JC-Adv）による密度比推定と、ノイズ除去オートエンコーダ（デノイジング・オートエンコーダ）による勾配推定を提案する（PC-Den, JC-Den）。
• 2つの推論モードのアルゴリズムを提供: PC-Adv/JC-Adv（暗黙分布を用いた推論）とPC-Den/JC-Den（勾配ベースのVI）。
• q_psiが暗黙的な場合に生成器を用いてサンプリングを再パラメータ化する方法を示し、SGD更新を可能にする（再パラメータ化トリックの類似）。
• 収束性と安定性の向上のため、敵対的手法とデノイジング手法の組み合わせを議論する。
• すべての分布が暗黙的な場合の潜在的な完全変分学習のためのRMDベースの変種（JC-Adv-RMD）を概説する。

実験結果

リサーチクエスチョン

• RQ1 事前分布、尤度、または事後分布が暗黙的で不可解な場合、変分推論をどのように実行できるか。
• RQ2 事前-コントラストELBO形式と結合-コントラストELBO形式は、既存のVIおよびGANベースの手法とどのように関連するか。
• RQ3 敵対的手法による密度比推定やデノイジングベースの勾配は、暗黙モデルに対して有効なVIの更新を提供できるか。
• RQ4 推論における敵対的手法とデノイジング戦略のトレードオフは何か、より良い性能のために組み合わせられるか。
• RQ5 完全に暗黙的なモデルへこれらの手法を拡張し、完全な変分学習を実現することは可能か（例: JC-Adv-RMD）？

主な発見

• 密度比として表現されたELBOを介して、VAE、敵対的推論、OPVI、およびGANベースの画像再構成を統一的に結びつける見方。
• 実用的な2つの経路: 識別器による密度比推定（PC-Adv/JC-Adv）と、勾配ベースのデノイジング（PC-Den/JC-Den）、どちらも暗黙分布に適用可能。
• PC-AdvとAVBはKLベースのVI文脈では同等であり、JC-AdvはKLダイバージェンス制約を伴うALI/BiGANの定式化に関連する。
• デノイザーベースのVI（PC-Den）は、スコア様の勾配を推定する柔軟な代替手段を提供し、より良い収束のために敵対的方法と組み合わせ可能。
• 暗黙成分を用いた推論の実行方法を概説し、JC-Adv-RMDによる潜在的な完全学習の可能性を論じるが、理論的な検討を伴う。