[論文レビュー] Automatic Reparameterisation of Probabilistic Programs

Maria I. Gorinova, Dave Moore+1 more|arXiv (Cornell University)|Jun 7, 2019

Machine Learning and Algorithms参考文献 23被引用数 4

ひとこと要約

この論文では、確率的プログラミングにおける自動再パラメータライゼーションを提案し、中心化と非中心化パラメータライゼーションの動的切り替えによって推論のロバスト性と効率性を向上させる。iHMC と Variationally Inferred Parameterisation (VIP) の2つのアルゴリズムを導入し、固定されたパラメータライゼーションよりも優れた性能を発揮。特に VIP は、ドイツの信用スコアのモデルのような困難なケースにおいて、勾配評価あたり 3 倍の有効サンプルサイズ（ESS）を達成。

ABSTRACT

Probabilistic programming has emerged as a powerful paradigm in statistics, applied science, and machine learning: by decoupling modelling from inference, it promises to allow modellers to directly reason about the processes generating data. However, the performance of inference algorithms can be dramatically affected by the parameterisation used to express a model, requiring users to transform their programs in non-intuitive ways. We argue for automating these transformations, and demonstrate that mechanisms available in recent modeling frameworks can implement non-centring and related reparameterisations. This enables new inference algorithms, and we propose two: a simple approach using interleaved sampling and a novel variational formulation that searches over a continuous space of parameterisations. We show that these approaches enable robust inference across a range of models, and can yield more efficient samplers than the best fixed parameterisation.

研究の動機と目的

• 確率的プログラミングにおける不適切なモデルパラメータライゼーションによる推論性能の低下という課題に対処すること。
• 非中心化および関連する再パラメータライゼーションを自動化し、手作業による非直感的なモデル再定式化の必要性を低減すること。
• 事前に最良の形式を知らなくても、動的に最適なパラメータライゼーションを選択または学習する推論アルゴリズムを可能にすること。
• モデル定式化と推論効率を分離し、ユーザーが統計的仮定に集中できるようにすること。

提案手法

• 現代の確率的プログラミングフレームワークにおける効果ハンドリング機構を活用し、潜在変数に対して一対一の変換（例：非中心化）を自動的に適用する。
• 中心化と非中心化パラメータライゼーションを交互に切り替えながら HMC ステップを実行する、インターリーブド ハミルトニアン モンテカルロ（iHMC）を提案する。
• 連続的なパラメータライゼーション空間を探索する新しい変分推論法である、変分的に推定されるパラメータライゼーション（VIP）を導入する。非中心化は特別なケースとして含む。
• 平均場近似を用いて、モデルパラメータと再パラメータライゼーションパラメータ（λ）を同時に最適化する。λ は非中心化の度合いを制御する。
• 勾配ベース最適化を用いてパラメータライゼーションのハイパーパrameterを調整し、最適な設定の自動発見を可能にする。
• すべての手法において、変分後退の分散を用いた対角プリコンディショニングを適用し、HMC の効率を向上させる。

実験結果

リサーチクエスチョン

• RQ1 自動再パラメータライゼーションは、多様な確率的モデルにおいて推論のロバスト性と効率性を向上させることができるか？
• RQ2 固定された人間が設計したパラメータライゼーションよりも、推論アルゴリズムが動的により良いパラメータライゼーションを発見できるか？
• RQ3 VIP を通じた連続的なパラメータライゼーション探索は、中心化または非中心化の離散的選択よりも優れた性能をもたらすか？
• RQ4 再パラメータライズドモデルにおいて、ELBO は事後分布の幾何構造とサンプリング効率の信頼できる代理指標として機能するか？
• RQ5 自動再パラメータライゼーションは、手作業による非中心化と比較して、サンプリング効率と収束性において優れているか？

主な発見

• iHMC は、すべてのデータセットで最良の固定パラメータライゼーション（CP-HMC や NCP-HMC）と同等以上の性能を示し、ドイツの信用スコアデータセットでは 3.0±0.2 ESS/∇ の高い性能を達成。
• VIP-HMC はドイツの信用スコアデータセットで 5.6±0.6 ESS/∇ を達成し、CP-HMC や NCP-HMC を大きく上回り、優れたサンプリング効率を示した。
• VIP は意味的で解釈可能なパラメータライゼーションを発見した：大多数の変数は中心化（λ=0）または非中心化（λ=1）に設定されたが、ドイツの信用スコアのような複雑なケースでは混合構成が出現した。
• ELBO はサンプリング効率と良好に相関しており、モデルの条件数予測や自動再パラメータライゼーションのガイドとしての有効性が裏付けられた。
• 平均して VIP-HMC は最良の固定パラメータライゼーションと同等またはそれを上回る性能を示し、自動探索が優れた設定を発見できることを確認した。