[論文レビュー] Challenges and Opportunities in High-dimensional Variational Inference

Akash Kumar Dhaka, Alejandro Catalina+4 more|OpenBU (Boston University)|Mar 1, 2021

Gaussian Processes and Bayesian Inference参考文献 28被引用数 4

ひとこと要約

本稿では、尤度比の事前漸近的尾部挙動を重要度サンプリングの道具で分析することにより、高次元における変分推論の改善フレームワークを提案する。特に、柔軟な変分族、特に正規化フローを用いた排他的KL発散が、高次元において最も信頼性が高く正確な近似をもたらすことが判明した。一方、質量カバー型の発散（例：包含KL）は不安定さと収束の悪さのため失敗する。

ABSTRACT

Current black-box variational inference (BBVI) methods require the user to make numerous design choices -- such as the selection of variational objective and approximating family -- yet there is little principled guidance on how to do so. We develop a conceptual framework and set of experimental tools to understand the effects of these choices, which we leverage to propose best practices for maximizing posterior approximation accuracy. Our approach is based on studying the pre-asymptotic tail behavior of the density ratios between the joint distribution and the variational approximation, then exploiting insights and tools from the importance sampling literature. Our framework and supporting experiments help to distinguish between the behavior of BBVI methods for approximating low-dimensional versus moderate-to-high-dimensional posteriors. In the latter case, we show that mass-covering variational objectives are difficult to optimize and do not improve accuracy, but flexible variational families can improve accuracy and the effectiveness of importance sampling -- at the cost of additional optimization challenges. Therefore, for moderate-to-high-dimensional posteriors we recommend using the (mode-seeking) exclusive KL divergence since it is the easiest to optimize, and improving the variational family or using model parameter transformations to make the posterior and optimal variational approximation more similar. On the other hand, in low-dimensional settings, we show that heavy-tailed variational families and mass-covering divergences are effective and can increase the chances that the approximation can be improved by importance sampling.

研究の動機と目的

• 高次元ベイズ的事後分布近似における変分目的関数および近似族の選択に関する原則的指針の欠如を解消すること。
• 変分推論に関する一般的な低次元における直感が、高次元設定ではなぜ失敗するかを調査すること。
• 事前漸近的収束挙動に基づいて、ブラックボックス変分推論（BBVI）手法の信頼性を評価する概念的かつ実証的フレームワークを構築すること。
• 多様な事後分布次元領域における変分推論の最適化に関する実務家向けの具体的な助言を提供すること。
• 重要度サンプリング補正（例：PSIS）が、さまざまな条件下で近似の正確性をどの程度向上させるかを評価すること。

提案手法

• 真の事後分布と変分近似との間の密度比 $ w(\theta) = p(\theta,Y)/q(\theta) $ の事前漸近的尾部挙動を分析する。
• 重要度サンプリングのPareto $ k $ 臨界値を用いて、BBVIにおける勾配推定器および発散推定器の信頼性を評価する。
• 複数の発散（排他的/包含KL、$ \chi^2 $、$ \alpha $-発散、尾部適応型 $ f $-発散）および変分族（正規分布、スチューデントt分布、正規化フロー）を実証的に評価する。
• posteriordb からのシミュレートおよび実世界のデータセットを用いて、さまざまな手法における事後モーメント推定および予測尤度を比較する。
• PSIS（Pareto平滑化重要度サンプリング）を用いて事後期待値を補正し、正確性の向上を評価する。
• モデルの再パラメータライゼーションを用いて、事後分布の構造と変分族を一致させ、近似品質を向上させる。

実験結果

リサーチクエスチョン

• RQ1 理論的吸引力はあるものの、高次元事後分布において質量カバー型の変分目的関数（例：包含KL）がなぜ正確性を向上させないのか。
• RQ2 密度比の事前漸近的挙動が、ブラックボックス変分推論における勾配推定器の信頼性にどのように影響するか。
• RQ3 異なる発散（例：排他的KL 対 包含KL）が、さまざまな事後分布次元において、それぞれどのような強み・弱みを示すか。
• RQ4 重要度サンプリング補正（例：PSIS）が、$ \hat{k} $ 臨界値が不安定を示す場合でも、変分近似の正確性をどの程度向上させるか。
• RQ5 正規化フローおよび再パラメータライゼーション戦略が、高次元事後分布近似の安定性および正確性にどのように影響するか。

主な発見

• 排他的KL発散は、勾配推定器のより良い最適化安定性と低い分散のおかげで、高次元設定において包含KLや他の質量カバー型発散を常に上回る性能を示す。
• 高次元事後分布（$ D > 10 $）においては、正規化フローと排他的KL、およびPSIS補正を組み合わせたアプローチが、多様なデータセットにおいて最も正確な事後分布近似を達成する。
• 低次元設定（$ D \leq 10 $）では、重尾型の変分族（例：スチューデントt分布）と質量カバー型発散が、近似の正確性を向上させ、重要度サンプリングの有効性を高めることができる。
• Pareto $ \hat{k} $ 臨界値は、不安定な推定器を信頼性高く特定する：高値の $ \hat{k} $ は、収束が悪いことと、原始的およびPSIS補正済み推定値の信頼性が低下することを示す。
• PSIS補正は、平均および共分散推定の相対誤差を顕著に低減する。特に正規化フロー近似において顕著であり、$ \hat{k} $ が大きくてもその価値が示される。
• 事後分布の構造と変分族を一致させるモデル再パラメータライゼーション（例：ファンネル型事後分布）は、中程度の次元でも近似の正確性を劇的に向上させることができる。