[論文レビュー] Stochastic Stein Discrepancies

Jackson Gorham, Anant Raj+1 more|arXiv (Cornell University)|Jul 6, 2020

Markov Chains and Monte Carlo Methods参考文献 37被引用数 7

ひとこと要約

本稿では、尤度項やポテンシャルに計算コストの高い項を含む場合の標準的Stein差分の計算コストを低減するための、スティーブ作用素の部分集合近似を用いる計算効率の良い代替手法として、確率的Stein差分（SSDs）を導入する。SSDsは、確率的1の収束制御特性を保持しており、尤度評価回数を最大で1桁以上削減可能であり、偏ったMCMCチューニング、サンプラー選択、確率的SVGDといった応用分野において、同等の推論品質を達成する。

ABSTRACT

Stein discrepancies (SDs) monitor convergence and non-convergence in approximate inference when exact integration and sampling are intractable. However, the computation of a Stein discrepancy can be prohibitive if the Stein operator - often a sum over likelihood terms or potentials - is expensive to evaluate. To address this deficiency, we show that stochastic Stein discrepancies (SSDs) based on subsampled approximations of the Stein operator inherit the convergence control properties of standard SDs with probability 1. Along the way, we establish the convergence of Stein variational gradient descent (SVGD) on unbounded domains, resolving an open question of Liu (2017). In our experiments with biased Markov chain Monte Carlo (MCMC) hyperparameter tuning, approximate MCMC sampler selection, and stochastic SVGD, SSDs deliver comparable inferences to standard SDs with orders of magnitude fewer likelihood evaluations.

研究の動機と目的

• スティーブ作用素に高コストな尤度項やポテンシャルを含む場合、標準的Stein差分を計算する際の高い計算コストを解消すること。
• スティーブ作用素の部分集合抽出により、理論的保証を失わず、スケーラブルな収束モニタリングを可能にすること。
• 非有界領域におけるStein変分勾配降下法（SVGD）の収束に関する未解決の問題を解消すること。
• 実世界のベイズ推論およびMCMC応用分野における標準的Stein差分の実用的でスケーラブルな代替手段を提供すること。
• SSDsが標準的SDsと同等の推論品質を達成しながら、計算コストを1桁以上削減できることを実証すること。

提案手法

• スティーブ作用素をランダムな尤度項やポテンシャルのサブセットで推定することで、標準的Stein差分の部分集合近似としてSSDsを提案する。
• 理論的分析により、スティーブ作用素が確率的に近似されても、標準的SDsと同様にほとんど確実な収束制御特性を保つことが示される。
• 指数型分布族モデルや一般の統計モデルにおけるスティーブ作用素の構造を活用し、効率的な部分集合抽出を可能にする。
• 完全な尤度評価が非現実的であるため、確率的SVGDや偏ったMCMC手法における収束モニタリングにSSDsを適用する。
• 非コンact状態空間を扱えるように理論枠組みを拡張することで、非有界領域におけるSVGDのほとんど確実な収束を証明する。
• 実用的な実装を可能にするために、経験的リスク最小化の原則を用いて差分を最適化する。

実験結果

リサーチクエスチョン

• RQ1 スティーブ作用素の部分集合近似は、標準的Stein差分の収束モニタリング特性を保持できるか？
• RQ2 部分集合抽出に起因するノイズが存在する状況下でも、確率的Stein差分（SSD）はほとんど確実な収束制御を維持できるか？
• RQ3 SSDsは、確率的SVGDや偏ったMCMCといったスケーラブルな推論手法において効果的に利用できるか？
• RQ4 非有界領域におけるSVGDの理論的収束挙動は何か？ そして、それを厳密に確立できるか？
• RQ5 実際の応用において、SSDsは標準的SDsと比較して推論品質と計算効率の両面で優れているか？

主な発見

• 確率的Stein差分（SSDs）は、スティーブ作用素が部分集合で近似されても、標準的Stein差分と同等のほとんど確実な収束制御特性を保持する。
• 偏ったMCMC、サンプラー選択、確率的SVGDの実験において、SSDsは標準的SDsと同等の推論品質を達成しながら、尤度評価回数を最大で1桁以上削減する。
• 本稿では、非有界領域におけるStein変分勾配降下法（SVGD）のほとんど確実な収束を証明することで、未解決の問題を解決した。
• 実験結果から、SSDsは完全な尤度計算が不可能なスケーラブルな推論パイプラインにおいて、非収束の検出や進行状況のモニタリングを信頼性高く行えることが示された。
• SSDsの理論的枠組みにより、部分集合抽出下でも確率1で収束モニタリングが有効であることが保証され、実用的導入に耐える堅牢性を有する。
• SSDsは、スケーラブルで信頼性の高い差分測度を提供するため、近似的MCMCにおけるハイパーパrameterチューニングやサンプラー選択を効率的に行える。