[論文レビュー] Differentiable Antithetic Sampling for Variance Reduction in Stochastic Variational Inference

Mike Wu, Noah D. Goodman+1 more|arXiv (Cornell University)|Oct 5, 2018

Generative Adversarial Networks and Image Synthesis被引用数 6

ひとこと要約

本稿では、目的の母集団モーメントと一致する負に相関したサンプルを生成することにより、確率的変分ベイズ推論における分散を低減する微分可能アンチソリティックサンプリングを提案する。再パラメータライゼーションと組み合わせることで、低分散で微分可能な勾配推定が可能となり、VAEなどの深層生成モデルにおける学習安定性と性能が著しく向上する。

ABSTRACT

Stochastic optimization techniques are standard in variational inference algorithms. These methods estimate gradients by approximating expectations with independent Monte Carlo samples. In this paper, we explore a technique that uses correlated, but more representative , samples to reduce estimator variance. Specifically, we show how to generate antithetic samples that match sample moments with the true moments of an underlying importance distribution. Combining a differentiable antithetic sampler with modern stochastic variational inference, we showcase the effectiveness of this approach for learning a deep generative model.

研究の動機と目的

• サンプルサイズを増加させないまま、確率的変分ベイズ推論における勾配分散を低減すること。
• 不偏推定を維持しつつ、サンプルの代表性を向上させる微分可能なサンプリング手法を開発すること。
• 現代の深層生成モデルにアンチソリティックサンプリングを組み込み、エンドツーエンドのバックプロパゲーションを可能にすること。

提案手法

• 目的の標本平均ηと標本分散δ²を正確に一致させるk個のサンプルを生成する微分可能なアンチソリティックサンプラーを提案する。
• ヘルメルトの直交行列に基づく変換を用いて、i.i.d.な標準正規変数を、制御されたモーメントを持つアンチソリティックサンプルに変換する。
• マーサグリアのアルゴリズムを適用して、従来の手法と比較してランダムドローの数を削減し、アンチソリティック変数を効率的に生成する。
• 再パラメータライゼーションとアンチソリティックサンプラーを統合し、サンプリングプロセスを経由した勾配計算を可能にする。
• アンチソリティックサンプルが周辺分布として目的の分布（例：正規分布）に従う条件を導出する。
• アンチソリティックペアの線形結合を用いて、分散が低く不偏な推定量を構築する。

実験結果

リサーチクエスチョン

• RQ1 勾配ベース最適化を可能にするために、アンチソリティックサンプリングを微分可能にできるか？
• RQ2 制御された標本モーメントを持つアンチソリティックサンプリングは、i.i.d.サンプリングと比較してELBO推定における分散を低減するか？
• RQ3 提案手法は、さまざまなVAEアーキテクチャ、尤度関数の族、およびデータセットにおいてどのように性能を発揮するか？
• RQ4 決定的変換を用いることで、正規分布を超えた分布へ一般化可能か？
• RQ5 アンチソリティックサンプリングは、深層生成モデルにおける学習安定性と収束速度にどのような影響を与えるか？

主な発見

• 提案された微分可能なアンチソリティックサンプラーは、目的の分布（例：正規分布）に周辺的に従う一方で、所望の標本モーメントと一致する。
• ELBO推定における勾配分散が低減され、学習中により安定的かつ高速に収束するようになる。
• アンチソリティックサンプルを用いたVAEの学習は、複数の目的関数、事後分布族、およびデータセットにおいて性能が向上する。
• 従来のアンチソリティックサンプリング手法と比較して、ランダムドローの数を半分に削減でき、計算効率が向上する。
• 実験結果では、特に小規模バッチサイズにおいて、テスト対数尤度と再構成品質の両方で一貫した改善が得られた。
• 従来の再パラメータライゼーション技術と完全に互換性があり、エンドツーエンドの微分可能な学習が可能である。