[論文レビュー] To Sample or Not To Sample: Retrieving Exoplanetary Spectra with Variational Inference and Normalising Flows

Kai Hou Yip, Quentin Changeat+2 more|arXiv (Cornell University)|May 14, 2022

Reservoir Engineering and Simulation Methods被引用数 5

ひとこと要約

この論文は、正規化フローを用いた変分推論フレームワークを導入し、ExoPlanetの大気の再構築を高速化する。サンプリングベースの手法と比較して、最大75%の前向きモデル呼び出しを削減しながら、高精度な事後分布を達成する。高速で微分可能なベイズ推論と、大規模な事前計算済みデータセットを必要としない、単一観測値で学習された新しい微分可能な放射移動モデルDiff-τを用いた、形式的なモデル選択が可能になる。

ABSTRACT

Current endeavours in exoplanet characterisation rely on atmospheric retrieval to quantify crucial physical properties of remote exoplanets from observations. However, the scalability and efficiency of the technique are under strain with increasing spectroscopic resolution and forward model complexity. The situation becomes more acute with the recent launch of the James Webb Space Telescope and other upcoming missions. Recent advances in Machine Learning provide optimisation-based Variational Inference as an alternative approach to perform approximate Bayesian Posterior Inference. In this investigation we combined Normalising Flow-based neural network with our newly developed differentiable forward model, Diff-Tau, to perform Bayesian Inference in the context of atmospheric retrieval. Using examples from real and simulated spectroscopic data, we demonstrated the superiority of our proposed framework: 1) Training Our neural network only requires a single observation; 2) It produces high-fidelity posterior distributions similar to sampling-based retrieval and; 3) It requires 75% less forward model computation to converge. 4.) We performed, for the first time, Bayesian model selection on our trained neural network. Our proposed framework contribute towards the latest development of a neural-powered atmospheric retrieval. Its flexibility and speed hold the potential to complement sampling-based approaches in large and complex data sets in the future.

研究の動機と目的

• 高次元かつ高分解能なExoPlanet分光法における、従来のサンプリングベースの再構築の計算的ボトル neck を解消すること。
• ExoPlanet再構築におけるベイズ事後分布推論のための、マルコフ連鎖モンテカルロ法やネストドサンプリングのスケーラブルで効率的な代替手法を開発すること。
• 最小限のデータ、特に単一観測値での学習が可能な正規化フローを用いた、エンドツーエンド微分可能な再構築を実現すること。
• ELBOと微分可能な尤度を用いて、事後確率の計算により形式的なベイズモデル選択を可能にすること。
• 正確さと不確実性の評価を維持しつつ、大規模な事前計算済み照合テーブルへの依存を減らすこと。

提案手法

• ExoPlanet大気再構築における事後分布の近似のために、正規化フローに基づく変分推論フレームワークを提案する。
• 逆伝播を前向きモデルを通じて可能にする、微分可能な放射移動モデルDiff-τを開発する。
• 近似事後分布と真の事後分布のKLダイバージェンスを最小化するため、Evidence Lower Bound (ELBO) 目的関数を用いて正規化フローを学習する。
• 大規模な事前計算済みトレーニングデータセットを必要とせず、単一の観測値でのみニューラルネットワークを学習する。
• ELBOと微分可能な尤度を用いて、ベイズ的証拠とベイズ因子を計算し、形式的なモデル比較を実現する。
• 観測ノイズを尤度関数に直接組み込むことで、不確実性の伝搬を統合する。

実験結果

リサーチクエスチョン

• RQ1 単一観測値で学習された正規化フローは、ExoPlanet再構築において、サンプリングベースの手法と同等の事後分布近似を達成できるか？
• RQ2 Diff-τのような微分可能な前向きモデルは、収束に必要な前向きモデル呼び出し回数をどの程度削減できるか？
• RQ3 正規化フローを用いた変分推論は、大気再構築において形式的なベイズモデル選択を可能にするか？
• RQ4 従来のMCMCおよびネストドサンプリング手法と比較して、本フレームワークの正確さと効率性はいかがなものか？
• RQ5 本フレームワークは、計算コストの高いサンプリングベースの再構築を実行する前段階として、高速で情報豊富な事前分布やスクリーニングツールとして機能できるか？

主な発見

• 提案されたフレームワークは、サンプリングベースの手法と比較して、最大75%の前向きモデル呼び出しを削減しながら、高精度な事後分布を維持している。
• 本手法は、実データおよびシミュレートされた分光データの両方において、従来のサンプリングベースの再構築と非常に良好に一致する事後分布近似を達成している。
• ニューラルネットワークの学習には、単一の観測値のみを必要とし、大規模な事前計算済みトレーニングセットの必要性がなくなる。
• ELBOから直接ベイズ的証拠とベイズ因子を計算することで、形式的なベイズモデル選択が可能になっている。
• ネットワークが生成する不確実性の境界は、従来の再構築手法と整合的であり、信頼性が裏付けられている。
• 微分可能な放射移動モデルDiff-τにより、エンドツーエンドの逆伝播が可能となり、効率的な学習と変分推論との統合が実現されている。