[論文レビュー] Scalable Semi-Modular Inference with Variational Meta-Posteriors

Chris U. Carmona, Geoff K. Nicholls|arXiv (Cornell University)|Apr 1, 2022

Machine Learning in Healthcare被引用数 5

ひとこと要約

この論文は、正規化フローと新しい変分メタ後確信分布（VMP）を用いて、連続的な影響パラメータηの範囲全体で半モジュラー推論（SMI）の後確信分布を同時に近似するスケーラブルな変分推論フレームワークを導入する。この手法により、モジュール間のフィードバックを制御するエンドツーエンドで微分可能な最適化が可能となり、平均場VIよりも不確実性の定量化が優れており、各ηごとの再訓練を伴わずに複数のカットを効率的に探索できる。

ABSTRACT

The Cut posterior and related Semi-Modular Inference are Generalised Bayes methods for Modular Bayesian evidence combination. Analysis is broken up over modular sub-models of the joint posterior distribution. Model-misspecification in multi-modular models can be hard to fix by model elaboration alone and the Cut posterior and SMI offer a way round this. Information entering the analysis from misspecified modules is controlled by an influence parameter $η$ related to the learning rate. This paper contains two substantial new methods. First, we give variational methods for approximating the Cut and SMI posteriors which are adapted to the inferential goals of evidence combination. We parameterise a family of variational posteriors using a Normalising Flow for accurate approximation and end-to-end training. Secondly, we show that analysis of models with multiple cuts is feasible using a new Variational Meta-Posterior. This approximates a family of SMI posteriors indexed by $η$ using a single set of variational parameters.

研究の動機と目的

• 複数のカットを伴うSMI後確信分布の計算的非可解性、特にηが高次元である場合に対処すること。
• モジュール間の情報フローを制御する変分推論フレームワークを構築し、平均場VIで一般的に見られる分散不足を回避すること。
• ηによってインデックス付けられるSMI後確信分布の全族を1つのモデルで近似可能なエンドツーエンドの訓練を可能にすること。
• 事前にカットを指定するのではなく、影響パラメータを同時に推定することで、誤ったモジュールを特定すること。
• 高価な各ηごとのMCMCサンプリングに代わり、高速で微分可能なVMP推論に置き換えることで、複雑なモデルへのモジュラー推論のスケーリングを実現すること。

提案手法

• モジュール間のパrameter更新を分離するために勾配停止演算子を用いた修正された下界期待値（ELBO）を提案し、ηを介した制御されたフィードバックを可能にする。
• 正規化フロー（NFs）を変分族のパrameter化に用い、表現力に富み、分散不足を回避する柔軟な近似を実現する。
• 変分メタ後確信分布（VMP）フローを導入し、ηに条件付けられた条件付き正規化フローとして、一度の訓練で全SMI後確信分布を同時に近似する。
• 2段階の訓練手順を採用：まずVMPをηから変分パrameterへマップするように訓練し、次に統合的目的関数に対してSGDでVMPを最適化する。
• VMPを活用してηの範囲で高速なサンプリングとELPD推定を可能にし、グリッドベースやネストドMCMC手法に代わる。
• 標準的なKLダイバージェンスを避ける二重損失目的関数を採用し、η = 0（カット後確信分布）およびη = 1（ベイズ後確信分布）における正しい情報フロー制御を保証する。

実験結果

リサーチクエスチョン

• RQ1 変分推論は、モジュール間の制御されたフィードバックを保ちつつ、エンドツーエンド最適化を可能にする形でSMI後確信分布に適応可能か？
• RQ2 各η値ごとの再訓練を伴わず、ηによってインデックス付けられる連続的なSMI後確信分布族を効率的に近似できるか？
• RQ3 変分族に正規化フローを用いることで、SMI設定において平均場VIよりも優れた不確実性の定量化が達成できるか？
• RQ4 VMPフレームワークは、全モジュールの影響パラメータを同時に推定することで、誤ったモジュールを特定可能か？
• RQ5 計算コストとELPD推定の正確さの観点から、VMPの性能はネストドMCMCやグリッドベース手法と比べてどうか？

主な発見

• VMPフロー・フレームワークにより、ηの全範囲で全SMI後確信分布を1つのモデルで同時に微分可能な訓練が可能となり、訓練コストをCの指数関数的増加からカット数に線形に削減した。
• 平均場VIよりも不確実性の定量化が優れており、MCMCベースラインと比較して分散が不足しない（MFVIは分散を過小評価するのとは対照的に）。
• VMPを直接学習する手法に比べ、最適化ダイナミクスが優れているため、VMPフローはより高速かつ安定した収束を達成した。
• 変分近似はηの変化に伴い、変分カット（Yu et al., 2021）と標準的な変分ベイズの間を正確に補間し、SMIの理論的性質を保持した。
• フレームワークにより、ηの範囲でELPDを効率的に最大化でき、各ηのサンプリングを伴わず最適な影響パラメータの自動選択が可能になった。
• 適切なフロー（例：カップリング層に基づくMLP条件付きリニアスプライン変換）が特定されれば、アーキテクチャの選択にかかわらず一貫した性能を示し、ロバストであることが示された。