[論文レビュー] Embarrassingly parallel MCMC using deep invertible transformations

Diego Mesquita, Paul Blomstedt+1 more|arXiv (Cornell University)|Mar 11, 2019

Markov Chains and Monte Carlo Methods参考文献 17被引用数 5

ひとこと要約

本稿では、非体積保存型アグリゲーション積（NAP）を提案する。これは、深層可逆正規化フロー（real NVP）を用いて複雑な部分事後分布を近似する、並列性が著しく高いMCMC手法である。部分事後分布を取り扱いやすい形に変換することで、安定的かつ通信量が少ない重要度サンプリングによる結果の統合が可能となり、定数の通信コストで、高次元・多峰性・非一様な設定において、最先端の手法を上回る性能を発揮する。

ABSTRACT

While MCMC methods have become a main work-horse for Bayesian inference, scaling them to large distributed datasets is still a challenge. Embarrassingly parallel MCMC strategies take a divide-and-conquer stance to achieve this by writing the target posterior as a product of subposteriors, running MCMC for each of them in parallel and subsequently combining the results. The challenge then lies in devising efficient aggregation strategies. Current strategies trade-off between approximation quality, and costs of communication and computation. In this work, we introduce a novel method that addresses these issues simultaneously. Our key insight is to introduce a deep invertible transformation to approximate each of the subposteriors. These approximations can be made accurate even for complex distributions and serve as intermediate representations, keeping the total communication cost limited. Moreover, they enable us to sample from the product of the subposteriors using an efficient and stable importance sampling scheme. We demonstrate the approach outperforms available state-of-the-art methods in a range of challenging scenarios, including high-dimensional and heterogeneous subposteriors.

研究の動機と目的

• 大規模な分散データセットにスケーリング可能なMCMCを実現するため、効率的で通信量が少ない並列ベイズ推論を可能にする。
• 中央集権的な部分事後分布サンプルを必要とし、通信量が多いか、近似品質が低いという既存の並列性が著しいMCMC手法の限界を克服する。
• 通信量と計算コストを最小限に抑えながら、複雑で高次元的、または非一様な部分事後分布に対しても高い精度を維持する手法を開発する。
• 可逆変換による取り扱いやすい密度表現を活用することで、重要度サンプリングを用いた安定的かつ効率的な事後分布統合を可能にする。

提案手法

• 実NVP（正規化フロー）モデルを用いて、複雑な部分事後分布を単純で取り扱いやすい潜在空間に写像する可逆的かつ一対一の変換を学習する。
• 変数変換の公式を用いて各部分事後分布密度を近似し、潜在空間における対数密度値の正確な評価を可能にする。
• 各部分事後分布の変換された密度の積をとることで、潜在空間における結合近似事後分布を構築する。
• 変換された部分事後分布サンプルを提案分布として用い、重要度サンプリングにより結合事後分布からサンプリングする。
• サンプリング／重要度リサンプリングを適用し、最終的な近似結合事後分布からの重み付きサンプルを取得する。
• ネットワークアーキテクチャにやや緩い仮定を置くと、重要度サンプリング推定器の分散が有限であることを証明し、安定性を保証する。

実験結果

リサーチクエスチョン

• RQ1 深層可逆変換を用いて、複雑な部分事後分布の正確で次元が低い中間表現を構築し、効率的な並列MCMCを実現できるか？
• RQ2 部分事後分布を正規化フローで表現することで、従来の手法と比較して、安定的かつ低コストの重要度サンプリングによる統合が可能になるか？
• RQ3 従来の手法が失敗する高次元的または多峰性の事後分布状況において、提案手法はどのように性能を発揮するか？
• RQ4 部分事後分布サンプルの数に関係なく、通信コストが一定を保つことができるか。これは大規模分散システムに適しているか？
• RQ5 非一様な部分事後分布設定において、パラメトリック法、カーネル密度推定、ガウス過程近似といった最先端手法と比較して、精度と効率の点でどのように差がつくか？

主な発見

• NAPは高次元設定において、最先端の手法を著しく上回り、レアなカテゴリカル事象の実験ではRMSEが0.71×10⁻³を達成した。これに対してPARAMは0.11×10⁻¹、PARTは0.27×10⁻²であった。
• ロジスティック回帰の実験では、p=25のときNAPの平均二乗誤差は337.28であった。これに対してPARTは117.10、PARAMは33.36、SPは476.90、NPは43.47、CONは32.59であった。
• 高次元ケース（p=100）では、NAPは妥当な誤差426.95を維持したが、SPの誤差は18,378.86にまで膨張し、高次元性に起因する不安定性が顕著に現れた。
• NAPは、一部のパーティションに希少なデータがあるため部分事後分布が著しく異なるような、極めて非一様な部分事後分布に対しても、頑健であることが示された。
• NAPの通信コストは、部分事後分布サンプルの数に関係なく一定であり、送信されるのはサンプルではなく学習済みの正規化フローのパラメータのみである。
• 理論的分析により、NAPで用いられる重要度サンプリングスキームは、やや緩い仮定のもとで安定しており、テスト関数の推定において分散が有限であることが確認された。