[論文レビュー] Decision-Making with Auto-Encoding Variational Bayes

Romain Lopez, Pierre Boyeau+3 more|arXiv (Cornell University)|Feb 17, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 55被引用数 23

ひとこと要約

本稿では、変分オートエンコーダー（VAEs）のための3段階意思決定フレームワークを提案する。このフレームワークは、モデル適合と事後分布の近似を分離するもので、まず、IWELBO や $χ^2$-VAE などの目的関数を用いて生成モデルを学習する。次に、異なる推論目的関数を用いて複数の異なる近似事後分布を学習する。最後に、複数の重要度サンプリング（MIS）を用いてそれらを組み合わせ、意思決定の信頼性を高める。この手法は、単一細胞RNAシークエンシングにおいて、最新の手法を上回る性能を示し、差分発現検出の精度が著しく向上する。

ABSTRACT

To make decisions based on a model fit with auto-encoding variational Bayes (AEVB), practitioners often let the variational distribution serve as a surrogate for the posterior distribution. This approach yields biased estimates of the expected risk, and therefore leads to poor decisions for two reasons. First, the model fit with AEVB may not equal the underlying data distribution. Second, the variational distribution may not equal the posterior distribution under the fitted model. We explore how fitting the variational distribution based on several objective functions other than the ELBO, while continuing to fit the generative model based on the ELBO, affects the quality of downstream decisions. For the probabilistic principal component analysis model, we investigate how importance sampling error, as well as the bias of the model parameter estimates, varies across several approximate posteriors when used as proposal distributions. Our theoretical results suggest that a posterior approximation distinct from the variational distribution should be used for making decisions. Motivated by these theoretical results, we propose learning several approximate proposals for the best model and combining them using multiple importance sampling for decision-making. In addition to toy examples, we present a full-fledged case study of single-cell RNA sequencing. In this challenging instance of multiple hypothesis testing, our proposed approach surpasses the current state of the art.

研究の動機と目的

• AEVBベースのモデルで真の事後分布の代理として変分事後分布を使用する際の意思決定品質の低さを是正すること。
• ELBO以外の代替的推論目的関数（例：ELBO以外）が、意思決定における重要度サンプリングのための提案分布として優れた性能を発揮するかどうかを調査すること。
• モデル適合と事後分布近似を分離することで、下流の意思決定におけるバイアスと分散を低減する手法を開発すること。
• 複数の仮説検定を含む実世界の単一細胞RNAシークエンシングの事例研究において、本手法を評価すること。
• MISを用いて複数の近似事後分布を組み合わせることで、標準的なVAE推論よりも信頼性が高く正確な意思決定が得られることを実証すること。

提案手法

• 生成モデルを、IWELBO や WW（前方KL）や $χ^2$-VAE などのELBO以外の目的関数を用いて学習し、データ生成プロセスへの適合性を向上させる。
• モデルを固定した上で、異なる推論目的関数（例：ELBO、前方KL、$χ^2$-発散）を用いて、複数の異なる変分事後分布を学習し、多様な提案分布を生成する。
• 複数の近似事後分布を、複数の重要度サンプリング（MIS）を用いて1つの提案分布に統合し、バイアスと分散を低減した事後分布の期待値を推定する。
• 得られたMISベースの事後分布期待値を用いて、ベイジアン意思決定理論に従い、真の事後分布における期待損失を最小化する意思決定を実行する。
• 後退的FDRの事後期待値を意思決定指標として用い、全スケールの単一細胞RNA-seqデータセットにフレームワークを適用し、差分発現検出に応用する。
• PSIS診断とPRAUCを用いて性能を評価し、異なる推論設定における遺伝子ランク付けの安定性と正確性を比較する。

実験結果

リサーチクエスチョン

• RQ1 標準的なELBOベースの変分事後分布を、代替的推論目的関数に置き換えることで、VAEにおける意思決定品質が向上するか。
• RQ2 複数の近似事後分布を複数の重要度サンプリング（MIS）で組み合わせることで、単一の事後分布を用いる場合よりも、より正確で頑健な意思決定が得られるか。
• RQ3 前方KLや$χ^2$-発散などの異なる推論目的関数が、意思決定に使用される事後分布近似の品質に与える影響は何か。
• RQ4 ELBO最適化によるモデルの不適合が、単一細胞ゲノム学などの実世界応用における下流の意思決定性能をどの程度悪化させるか。
• RQ5 提案されたフレームワークが、単一細胞RNA-seqにおける差分発現検出のような複数の仮説検定タスクにおいて、最新の手法を上回る性能を発揮できるか。

主な発見

• ELBOで学習された古典的VAE事後分布は、分散の過小評価により、重要度サンプリングのための提案分布として機能すると、PSIS診断値が高く、FDR推定が信頼できない結果をもたらす。
• IWAE や $χ^2$-VAE 目的関数で学習されたモデルは、より良いPSIS値と信頼性の高い事後期待FDR推定値を示し、提案分布の品質が向上していることを示している。
• MISを用いて複数の事後分布近似を組み合わせることで、差分発現検出におけるFDR制御とAUC（PRAUC = 0.94）が著しく向上し、標準VAEおよびIWAEベースラインを上回った。
• 本手法は実世界の単一細胞RNA-seqデータセットにおいて優れた性能を発揮し、数値的不安定性に対しても頑健であり、遺伝子ランク付けの正確性が向上した。
• 推論目的関数の選択が、モデル目的関数の選択よりも意思決定品質に強い影響を与えることが判明し、モデルと推論の最適化を分離することが重要であることが示された。
• IWELBOが高くても、標準ELBO事後分布を用いることで誤った遺伝子ランク付けが生じる場合があり、意思決定のための独立した事後分布近似の必要性が強調された。