[論文レビュー] On Contrastive Learning for Likelihood-free Inference

Conor Durkan, Iain Murray+1 more|arXiv (Cornell University)|Feb 10, 2020

Model Reduction and Neural Networks被引用数 21

ひとこと要約

本稿は、一般化された対照学習フレームワークの下で、2つの代表的な尤度フリー推論手法—スコアベースの比率推定（SRE）と正規化フローを用いた事後分布推定（SNPE-C）—を統一し、同じ目的関数で訓練された場合の同等性を示している。主な貢献は、両手法が同一の対照的最適化目標を最適化することを示し、直接的な比較と実用的アドバイスを可能にすることである。特に、SNPE-Cは正規化密度出力を備えるため、事後分布サンプリングにおいて優位性を発揮する。

ABSTRACT

Likelihood-free methods perform parameter inference in stochastic simulator models where evaluating the likelihood is intractable but sampling synthetic data is possible. One class of methods for this likelihood-free problem uses a classifier to distinguish between pairs of parameter-observation samples generated using the simulator and pairs sampled from some reference distribution, which implicitly learns a density ratio proportional to the likelihood. Another popular class of methods fits a conditional distribution to the parameter posterior directly, and a particular recent variant allows for the use of flexible neural density estimators for this task. In this work, we show that both of these approaches can be unified under a general contrastive learning scheme, and clarify how they should be run and compared.

研究の動機と目的

• 尤度フリー推論の2大分野—分類を用いた密度比推定（SRE）と条件付き密度推定（SNPE-C）—の関係を明確にすること。
• これらの手法を一つの対照学習フレームワークに統合し、その背後にある同等性を明らかにすること。
• 特に事後分布サンプリングとシミュレーション効率を踏まえた、各手法の使用時期に関する実用的ガイダンスを提供すること。
• 特にコンパクトサポートを持つ事前分布を伴うSNPE-Cにおける高い棄却率といった、尤度フリー推論における未解決課題を特定すること。

提案手法

• SREとSNPE-Cの両者を特別ケースとして含む一般化された対照学習フレームワークを提案する。
• 二値分類の目的関数を用いて、密度比 $ r(\mathbf{x}, \bm{\theta}) = \frac{p(\mathbf{x}|\bm{\theta})}{p(\mathbf{x})} $ を推定し、これは事後分布 $ p(\bm{\theta}|\mathbf{x}) $ に比例する。
• SNPE-Cを、分類器を条件付き密度推定器に再パrameter化した対照学習の設定として再解釈する。
• 両手法に共通するニューラルネットワークエンコーダーを用いて、$(\mathbf{x}, \bm{\theta})$ ペairを共通の表現空間にマップする。
• SREを多値分類に一般化することで、訓練の安定性と性能を向上させることを示した。
• 同じトレーニングコードベースと目的関数を用いて、SREとSNPE-Cを直接比較し、公平な評価を実現した。

実験結果

リサーチクエスチョン

• RQ1 SREとSNPE-Cは根本的に異なる手法であるのか、それとも共通の学習フレームワークの下で統合可能か？
• RQ2 分類器を条件付き密度推定器に再パラメータ化することは、尤度フリー設定における推論品質に顕著な影響を与えるか？
• RQ3 実際の応用において、i.i.d.サンプリング（SNPE-C）とMCMC（SRE）のサンプリング効率はどのように比較されるか？
• RQ4 尤度フリー推論において、分類器ベース手法と密度推定器ベース手法の間には、どのような実用的トレードオフがあるか？
• RQ5 コンパクトサポートを持つ事前分布を伴うSNPE-Cでは、棄却率はどのように振る舞い、事後分布サンプリングにどのような影響を及えるか？

主な発見

• SREとSNPE-Cは、同じ対照的最適化目的関数で訓練された場合、数学的に同等である。両者とも同一の密度比推定タスクを最適化している。
• 同じ目的関数とコードベースで訓練された場合、SNPE-CはSREと同等の性能を達成しており、理論的統合の妥当性が裏付けられた。
• SNPE-Cは正規化密度出力を備えるため、i.i.d.事後分布サンプリングを効率的に実現可能であるが、SREにはこの特徴は存在しない。
• 性能は類似しているものの、SNPE-Cは事前分布のコンパクトサポートの下で高い棄却率（例：約1％の受容率）を示し、i.i.d.サンプリングがMCMCに比べて最大100倍遅くなる場合がある。
• M/G/1タスクにおいて、SREはSNLを上回り、観測変数の次元が高い状況では、観測密度をモデル化する必要がないため優位性を発揮する。
• MCMCサンプリングがSNPE-Cにおいても有効であることが確認されたが、i.i.d.サンプリングが可能であればそれを優先すべきである。