[論文レビュー] Using Large Ensembles of Control Variates for Variational Inference

Tomas Geffner, Justin Domke|arXiv (Cornell University)|Jan 1, 2018

Machine Learning and Algorithms被引用数 10

ひとこと要約

本論文は、確率的変分ベイズ推論における多数の制御変数を組み合わせるためのベイジアンリスク最小化フレームワークを提案し、多様な制御変数を体系的に統合することで最適化収束を顕著に改善する。この手法は、最適な組み合わせルールを単純に導出し、標準推定器や制御変数の部分集合を上回る性能を発揮する。

ABSTRACT

Variational inference is increasingly being addressed with stochastic optimization. In this setting, the gradient's variance plays a crucial role in the optimization procedure, since high variance gradients lead to poor convergence. A popular approach used to reduce gradient's variance involves the use of control variates. Despite the good results obtained, control variates developed for variational inference are typically looked at in isolation. In this paper we clarify the large number of control variates that are available by giving a systematic view of how they are derived. We also present a Bayesian risk minimization framework in which the quality of a procedure for combining control variates is quantified by its effect on optimization convergence rates, which leads to a very simple combination rule. Results show that combining a large number of control variates this way significantly improves the convergence of inference over using the typical gradient estimators or a reduced number of control variates.

研究の動機と目的

• 確率的変分ベイズ推論における高い勾配分散が最適化収束を妨げる問題に対処すること。
• 既存の変分ベイズ推論における制御変数の導出を統合的かつ体系的に整理すること。
• 複数の制御変数を組み合わせる原理的フレームワークを構築し、収束速度を向上させること。
• リスクベースの基準を用いて、制御変数の組み合わせが最適化性能に与える影響を定量化すること。

提案手法

• 著者らは、収束速度への影響に基づいて制御変数を評価・組み合わせるためのベイジアンリスク最小化フレームワークを導入する。
• 最適化プロセスにおける期待リスクを最小化する単純で最適な制御変数の組み合わせルールを導出する。
• 多数の制御変数を体系的に導出し、統一された推論フレームワークの一部として統合する。
• このフレームワークは、確率的最適化の収束速度への影響を評価することで、制御変数の組み合わせの質を定量化する。
• 変分ベイズ推論の構造を活用し、計算コストの増加を伴わずに制御変数を効率的に計算・組み合わせる。

実験結果

リサーチクエスチョン

• RQ1 多数の制御変数をどのように体系的に組み合わせれば、変分ベイズ推論の収束を改善できるか？
• RQ2 確率的最適化設定において、制御変数を最適に重み付け・集約する方法は何か？
• RQ3 多数の制御変数を組み合わせた場合と、少数のみまたは標準推定器を使用した場合とを比較した場合、収束速度にどのような差が生じるか？
• RQ4 原理的でリスクベースのフレームワークを用いて、制御変数の組み合わせの質を定量化・向上させることは可能か？

主な発見

• 提案されたフレームワークを用いて多数の制御変数を組み合わせることで、変分ベイズ推論における収束が著しく速くなる。
• 最適化収束速度の観点から、標準勾配推定器や制御変数の部分集合を上回る性能を発揮する。
• ベイジアンリスク最小化から導出された最適な組み合わせルールは単純で効果的であり、実験全体にわたり一貫した改善効果を示す。
• 制御変数の体系的導出により、より良い推論に利用可能な広範な推定器クラスが明らかになった。