[論文レビュー] Hierarchical Importance Weighted Autoencoders

Chin-Wei Huang, Kris Sankaran+3 more|arXiv (Cornell University)|May 13, 2019

Statistical Methods and Inference被引用数 6

ひとこと要約

本稿では、複数の提案サンプル間の負の相関を誘導するために共有メタ潜在変数を用いる階層的重要度加重オートエンコーダー（H-IWAE）という変分推論手法を提案する。この手法により、重要度加重下界の分散が低減され、特にサンプル数を増やすことで事後分布の近似と推論性能が向上する。提案分布同士を調整することで個々の誤差を是正する。

ABSTRACT

Importance weighted variational inference (Burda et al., 2015) uses multiple i.i.d. samples to have a tighter variational lower bound. We believe a joint proposal has the potential of reducing the number of redundant samples, and introduce a hierarchical structure to induce correlation. The hope is that the proposals would coordinate to make up for the error made by one another to reduce the variance of the importance estimator. Theoretically, we analyze the condition under which convergence of the estimator variance can be connected to convergence of the lower bound. Empirically, we confirm that maximization of the lower bound does implicitly minimize variance. Further analysis shows that this is a result of negative correlation induced by the proposed hierarchical meta sampling scheme, and performance of inference also improves when the number of samples increases.

研究の動機と目的

• 提案サンプル間に構造的な依存関係を導入することで、重要度加重変分推論における高い分散を低減する。
• 複数の提案分布を調整する階層的メタサンプラーを用いることで、事後分布近似の品質を向上させる。
• 下界の収束と推定誤差分散の収束との間の理論的関係を確立する。
• 実験的に、下界を最大化することで分散が暗黙的に最小化されることを確認する。これは誘導された負の相関によるものである。
• 最適化された重み付けヒューリスティクスを用いた階層的サンプリングにより、標準的な密度推定ベンチマークにおける推論性能の向上を示す。

提案手法

• 共有メタ潜在変数 $\mathbf{z}_0$ が複数の提案分布 $q_j(\mathbf{z}_j|\mathbf{z}_0)$ を制御する階層的潜在構造を導入し、サンプル間の依存性を誘導する。
• 共有メタサンプリングを組み込んだ標準のIWAE下界を一般化した階層的重要度加重下界（H-IWLB）を導出する。
• バイアス補正のための重み関数 $\pi_j$ を用いた重要度加重を実装し、均等平均（$\alpha=0$）やバランス重み付け（$\alpha=1$）などのヒューリスティクスを用いる。
• 勾配ベース最適化によりH-IWLBを訓練し、ニューラルネットワークエンコーダーによるアモアタイズド推論を適用する。
• サンプリング重要度再サンプリング（SIR）を用いて、学習済みの提案分布の相関構造を可視化・分析する。
• ポリャク平均化と学習率スケジューリングを用いて、標準的な密度推定データセットにおける訓練を安定化させる。

実験結果

リサーチクエスチョン

• RQ1 階層的メタサンプリング方式は、変分推論における重要度加重推定誤差の分散を低減できるか？
• RQ2 複数の提案分布に負の相関を誘導することで、変分下界のタイトさは向上するか？
• RQ3 重み付けヒューリスティクスの選択が、学習済みの提案分布の形状および相関構造にどのように影響するか？
• RQ4 H-IWLBを最大化することは、下界のモンテカルロ推定誤差の分散を暗黙的に最小化するか？
• RQ5 標準的なIWAEと比較して、階層的サンプリングは標準的な密度推定ベンチマークにおける推論性能を向上させられるか？

主な発見

• H-IWAEモデルは、共有メタ潜在変数 $\mathbf{z}_0$ を用いて提案分布間の負の相関を誘導することで、重要度加重推定誤差の分散を低減している。
• 実験的結果から、H-IWLBを最大化することで推定誤差の分散が暗黙的に低減することが確認され、下界収束と分散収束との理論的関係が裏付けられた。
• $\alpha=1$（バランス重み付けヒューリスティクス）の場合、提案分布はより特化し、負の相関を示し、$K$ が増加するにつれてバイナリズドMNISTおよびOMNIGLOTデータセットでより良い性能を示した。
• Caltech101シルエットデータセットでは、$K=5$ かつ $\alpha=1$ のH-IWAEが、標準的なガウス分布IWAEおよび単一階層的提案分布IWAEを上回ったが、最良のベースラインよりは性能が劣った。
• ミニバッチごとにデコーダー更新の前にエンコーダー更新を繰り返すことで、H-IWAEの性能が著しく向上した。これは、より良い推論モデル最適化によるアモアタイゼーションバイアスの低減を示唆している。
• 可視化結果から、共通の $\mathbf{z}_0$ を用いて学習された提案分布は負の相関を示している一方、独立した $\mathbf{z}_0$ を用いる場合は正の相関を持つバイアスが生じ、性能が劣ることが分かった。