[論文レビュー] Strong-lensing source reconstruction with variationally optimised Gaussian processes

Konstantin Karchev, Adam Coogan+1 more|arXiv (Cornell University)|May 20, 2021

Gaussian Processes and Bayesian Inference参考文献 3被引用数 4

ひとこと要約

本論文は、ガウス過程を用いた変分推論を用いて、高精度な源画像の再構成とレンズパラメータの推定を実現する、微分可能でGPUアクセラレートされたベイジアン強力レンズモデルパイプラインを提示する。1時間未満で不偏でノイズ制限の再構成と高精度な不確実性評価を達成し、将来のダークマターの小構造推定のためのスケーラブルな訓練データ生成を可能にする。

ABSTRACT

Strong-lensing images provide a wealth of information both about the magnified source and about the dark matter distribution in the lens. Precision analyses of these images can be used to constrain the nature of dark matter. However, this requires high-fidelity image reconstructions and careful treatment of the uncertainties of both lens mass distribution and source light, which are typically difficult to quantify. In anticipation of future high-resolution datasets, in this work we leverage a range of recent developments in machine learning to develop a new Bayesian strong-lensing image analysis pipeline. Its highlights are: (A) a fast, GPU-enabled, end-to-end differentiable strong-lensing image simulator; (B) a new, statistically principled source model based on a computationally highly efficient approximation to Gaussian processes that also takes into account pixellation; and (C) a scalable variational inference framework that enables simultaneously deriving posteriors for tens of thousands of lens and source parameters and optimising hyperparameters via stochastic gradient descent. Besides efficient and accurate parameter estimation and lens model uncertainty quantification, the main aim of the pipeline is the generation of training data for targeted simulation-based inference of dark matter substructure, which we will exploit in a companion paper.

研究の動機と目的

• 現代のディープラーニングフレームワークと互換性を持つ、高速で微分可能な強力レンズ画像シミュレータの開発。
• スケール選択を伴う階層的ガウス過程を用いた統計的に妥当で計算効率の良いソースモデルの構築。
• 確率的勾配変分推論を用いて、数万ものレンズおよびソースパラメータに対してスケーラブルなベイジアン推論を実現。
• 将来の作業において、ダークマターの小構造のシミュレーションベース推論のための高精細で現実的な訓練データの生成。
• レンズ質量分布およびソース光の両方における不確実性を最小限のバイアスと高解像度で評価。

提案手法

• PyTorchとKeOpsを用いて、効率的な線形代数演算を実現する、完全に微分可能なGPUアクセラレートされた強力レンズ画像シミュレータの実装。
• 複数の空間スケールを同時にモデル化する、マルチレイヤーで変分最適化されたガウス過程カーネルの導入。
• 固定および適応的誘導点の併用：大規模構造には固定グリッド、微細構造には可動誘導点を用い、パラメータ相関の低減を図る。
• レンズ-ソース相関を捉える提案事後分布を用いた確率的勾配変分推論（SVI）の適用により、スケーラブルな事後分布近似を実現。
• エビデンス下界（ELBO）を目的関数として用い、ハイパーパramータとパラメータの共同学習を勾配降下法で最適化。
• ピクセル化効果を直接ガウス過程モデルに組み込み、観測画像の解像度とノイズと物理的に整合させる。

実験結果

リサーチクエスチョン

• RQ1 微分可能でエンドツーエンドの強力レンズシミュレータは、複雑なレンズ系において高速かつ正確なベイジアン推論を可能にするか？
• RQ2 階層的ガウス過程モデルは、ノイズの存在下でも高解像度のソース画像をどれほど正確に再構成できるか？
• RQ3 ガウス過程レイヤー構成および誘導点配置の選択が、再構成忠実度およびパラメータ推定にどの程度影響を及えるか？
• RQ4 構造化された提案事後分布を用いた変分推論は、レンズおよびソースパラメータの保守的かつ不偏な事後推定を提供できるか？
• RQ5 このパイプラインは、将来のダークマターの小構造のシミュレーションベース推論のための現実的で高精細な訓練データをどれほど効果的に生成できるか？

主な発見

• 本パイプラインは、高解像度のモック観測においてノイズ制限のソース再構成を達成し、残差がノイズレベルに達している。
• レンズパラメータ推定値は不偏であり、観測解像度によってのみ精度が制限される。
• 本手法はガウス過程レイヤー構成に対して頑健である：多数の小スケールレイヤーを追加しても、残差にほとんど影響しない。
• ハイパーパramータ最適化により、高周波数ガウス過程成分からのノイズが効果的に抑制され、過学習が防止される。
• ソースパラメータの変分事後分布の不確実性は、一次元テストにおける解析的および数値的検証で保守的であることが確認された。
• 実行時間はモデル複雑度に線形に比例し、数時間で完全収束が達成され、現代のGPUハードウェアでは約10分で妥当な事後分布が得られる。