[論文レビュー] A Spectral Approach to Gradient Estimation for Implicit Distributions

Jiaxin Shi, Shengyang Sun+1 more|arXiv (Cornell University)|Jun 7, 2018

Model Reduction and Neural Networks参考文献 36被引用数 23

ひとこと要約

本稿では、カーネル作用素のスペクトル分解とニストローム近似を用いて、密度が明示的に与えられない分布の勾配を推定する新規手法であるスペクトルスティン勾配推定器（SSGE）を提案する。従来の手法がサンプル点での勾配推定に限られるのに対し、SSGEは勾配関数を直接推定でき、サンプル外への一般化が可能であり、勾配フリーのハミルトニアンモンテカルロ法や、implicitモデルを用いた変分推論において優れた性能を示している。

ABSTRACT

Recently there have been increasing interests in learning and inference with implicit distributions (i.e., distributions without tractable densities). To this end, we develop a gradient estimator for implicit distributions based on Stein's identity and a spectral decomposition of kernel operators, where the eigenfunctions are approximated by the Nyström method. Unlike the previous works that only provide estimates at the sample points, our approach directly estimates the gradient function, thus allows for a simple and principled out-of-sample extension. We provide theoretical results on the error bound of the estimator and discuss the bias-variance tradeoff in practice. The effectiveness of our method is demonstrated by applications to gradient-free Hamiltonian Monte Carlo and variational inference with implicit distributions. Finally, we discuss the intuition behind the estimator by drawing connections between the Nyström method and kernel PCA, which indicates that the estimator can automatically adapt to the geometry of the underlying distribution.

研究の動機と目的

• 密度が明示的に与えられない（すなわち、閉形式で表現できない）implicit分布の勾配推定という課題に対処すること。
• 観測されたサンプル点でのみ勾配を推定できる従来の推定器の限界を克服し、サンプル外への一般化を可能にすること。
• スペクトル分解とカーネル法を用いて、関数レベルの勾配推定器を体系的に構築し、最適化や推論への応用範囲を広げること。
• 推定器の性能におけるバイアス-バリアンストレードオフを理論的に確立し、誤差境界を分析すること。
• 推定器の挙動がカーネルPCAとどのように関連するかを明らかにし、データの幾何構造への適応性や次元削減の利点を示唆すること。

提案手法

• スティンの恒等式を用いて、対数密度の勾配をカーネルに基づく作用素の固有関数を含む積分作用素に関連付ける。
• カーネル作用素のスペクトル分解を実行し、固有関数が元の分布の下で直交し、勾配関数を表現する基底を形成することを保証する。
• 有限個のサンプルを用いて、固有関数の近似をニストローム法により行う。
• 推定された固有関数の線形結合として勾配推定器を構築し、入力空間全体にわたり滑らかで連続的な推定が可能になるようにする。
• 同じ基底関数を用いて新しい点で同じ関数形を評価することで、自然にサンプル外への拡張が可能になる。
• カーネルPCAとの関連性により、推定器がデータ多様体の内在的幾何構造に自動的に適応し、次元の呪いの影響を軽減することが示唆される。

実験結果

リサーチクエスチョン

• RQ1 カーネル作用素の固有関数に基づくスペクトル的手法は、従来の手法よりもより体系的かつ一般化性の高いimplicit分布の勾配推定器を提供できるか？
• RQ2 提案手法のサンプル外への能力は、サンプル点に限った推定にとどまる既存手法と比べてどのように優れているか？
• RQ3 スペクトル勾配推定器の理論的誤差境界は何か？実用的文脈においてバイアスとバリアンスのトレードオフはどのように調整されるか？
• RQ4 カーネルPCAとの関連性は、推定器のロバスト性およびデータ幾何構造への適応性をどの程度説明できるか？
• RQ5 推定精度のさらなる向上を目的として、より良いカーネルや固有関数を学習するための拡張が可能か？

主な発見

• スペクトルスティン勾配推定器（SSGE）は、点ごとの値ではなく勾配関数を直接推定でき、サンプル外への体系的な拡張が可能である。
• 理論的解析により推定器の誤差境界が得られ、収束性と安定性を理解する体系的な枠組みが提供される。
• 勾配フリーのハミルトニアンモンテカルロ法およびimplicit分布を用いた変分推論において、ベースライン手法を上回る性能を示した。
• SSGEとカーネルPCAとの関連性は、推定器がデータの内在的幾何構造に自動的に適応し、高次元性の影響を軽減することを示唆している。
• 固有関数のニストローム近似により、計算効率を保ちながらも入力空間全体にわたる勾配推定の関数的形を維持できる。
• カーネルの選択と正則化の選択によって、自然にバイアス-バリアンストレードオフが現れ、理論的知見が実用的設計を支援する。