[論文レビュー] Stein Neural Sampler

Tianyang Hu, Zixiang Chen+4 more|arXiv (Cornell University)|Oct 8, 2018

Generative Adversarial Networks and Image Synthesis参考文献 39被引用数 16

ひとこと要約

本稿では、シンプルな参考分布から複雑で正規化されていないターゲット分布への変換を学習するための2つの深層生成サンプラー、KSD-NS および Fisher-NS を提案する。カーネル化されたスティーブ分散とフィッシャー発散を最小化することで、理論的保証と高い安定性を備えた高品質なサンプル生成が実現され、従来の MCMC や変分推論手法に比べて優れた性能を発揮する。

ABSTRACT

We propose two novel samplers to generate high-quality samples from a given (un-normalized) probability density. Motivated by the success of generative adversarial networks, we construct our samplers using deep neural networks that transform a reference distribution to the target distribution. Training schemes are developed to minimize two variations of the Stein discrepancy, which is designed to work with un-normalized densities. Once trained, our samplers are able to generate samples instantaneously. We show that the proposed methods are theoretically sound and experience fewer convergence issues compared with traditional sampling approaches according to our empirical studies.

研究の動機と目的

• 正規化されていないターゲット密度に対して、従来の MCMC や変分推論の制限を回避するスケーラブルで高容量のサンプリング手法を開発すること。
• 深層ニューラルネットワークの表現力を利用し、シンプルな参考分布からターゲット分布への複雑で非線形な変換をモデル化すること。
• 正規化されていない密度に直接作用するスティーブ分散に基づく学習目的を設計し、再生ヒルバート空間（RKHS）上で閉形式最適化を可能にすることで、安定的でサンプル効率の良い学習を実現すること。
• 特に高次元およびマルチモーダルな設定において、HMC や SVGD や GAN ベースの手法と比較して、サンプリングの安定性と収束性を向上させること。

提案手法

• 標準的な参考分布（例：正規分布）からターゲット分布への決定的変換をパラメータライズするための深層ニューラルネットワークを用いる。
• 訓練目的としてカーネル化されたスティーブ分散（KSD）を採用し、正規化されていない密度に作用可能であり、再生ヒルバート空間（RKHS）上で閉形式最適化が可能である。
• RKHSからL²空間への判別関数空間の一般化を提案し、フィッシャー発散に基づくより良い収束特性を実現する Fisher-NS を開発する。
• 正規化定数を必要としないスコア関数 $ S_q(x) = \nabla_x \log q(x) $ を用いて、ターゲット分布との乖離を最小化する勾配降下法により生成器を訓練する。
• GAN に類似した訓練フレームワークを採用し、生成器がスティーブ分散マトリクス上でターゲット分布のサンプルと区別不能になるように学習する。
• 正規化定数を必要としないスコア関数 $ S_q(x) = \nabla_x \log q(x) $ を用いることで、正規化されていない後部分布への適用が可能になる。

実験結果

リサーチクエスチョン

• RQ1 シンプルな参考分布から複雑で正規化されていないターゲット分布への決定的変換を学習できるように、深層ニューラルネットワークを効果的に訓練できるか？
• RQ2 ニューラルネットワークを用いてスティーブ分散を最小化することで、従来の MCMC や変分推論に比べてより安定的かつ正確なサンプリングが可能になるか？
• RQ3 判別関数空間を RKHS から $ L^2 $ 空間に拡張することで、ニューラルサンプラーの収束性とサンプル品質にどのような影響が生じるか？
• RQ4 提案手法はマルチモーダルな分布を効果的に探索でき、GAN や SVGD で一般的に見られるモード消失や局所的停留点を回避できるか？
• RQ5 実世界の高次元データにおいて、SGLD や DSVI や SVGD といった既存のベースラインと比較して、提案手法の性能はいかがなものか？

主な発見

• KSD-NS は RKHS 内の単位球を用いることで理論的保証を得ており、ベイジアンロジスティック回帰における Covertype データセットでの繰り返し実験においても低い分散を示し、安定した学習を実現した。
• Fisher-NS は Covertype データセットで平均テスト精度 76.22% を達成し、KSD-NS（76.17%）、SGLD（75.09%）、DSVI（73.46%）を上回り、高次元設定下での優れた性能を示した。
• 8つの明確に分離されたモードを持つ2次元マルチモーダルなガウス混合分布において、提案手法はモードの欠落を起こさずにすべてのモードを効果的に探索し、SVG D や スティーブ GAN、HMC を上回った。
• 単一モードおよびマルチモーダル混合のトゥイ・エクサムプルにおいて、訓練ステップの経過とともに生成されたサンプルがターゲット分布の局所的・大域的構造をよく再現しており、可視化された訓練経過からその妥当性が示された。
• 訓練後は順伝播計算により即座に独立なサンプルが生成可能であり、MCMC の逐次的依存性を回避し、大規模データにおける効率的な推論を可能にした。
• 実験結果から、KSD-NS および Fisher-NS は初期化に依存しにくく、特に高次元および複雑な後部分布において従来のサンプリング手法よりも高速に収束することが示された。