[論文レビュー] Automatic physical inference

Tom Charnock, Guilhem Lavaux+1 more|arXiv (Cornell University)|Feb 10, 2018

Computational Physics and Python Applications被引用数 5

ひとこと要約

この論文は、尤度フリー推論のための最適で非線形なデータ要約を自動的に学習する強化学習手法である情報最大化ニューラルネットワーク（IMNNs）を紹介する。フィッシャー情報量を最大化することで、テストケースではほぼ正確な事後分布が得られ、特にリューマン-アルファフォレストやLISA重力波データからの宇宙論的パラメータ推定といった複雑な天体物理学的問題において、線形圧縮法を上回る性能を発揮する。

ABSTRACT

Compressing large data sets to a manageable number of summaries that are informative about the underlying parameters vastly simplifies both frequentist and Bayesian inference. When only simulations are available, these summaries are typically chosen heuristically, so they may inadvertently miss important information. We introduce a simulation-based reinforcement learning technique that trains artificial neural networks to find non-linear functionals of data that maximize Fisher information: information maximizing neural networks (IMNNs). In test cases where the posterior can be derived exactly, likelihood-free inference based on automatically derived IMNN summaries produces nearly exact posteriors, showing that these summaries are good approximations to sufficient statistics. In a series of numerical examples of increasing complexity and astrophysical relevance we show that IMNNs are robustly capable of automatically finding optimal, non-linear summaries of the data even in cases where linear compression fails: inferring the variance of Gaussian signal in the presence of noise; inferring cosmological parameters from mock simulations of the Lyman-$\alpha$ forest in quasar spectra; and inferring frequency-domain parameters from LISA-like detections of gravitational waveforms. In this final case, the IMNN summary outperforms linear data compression by avoiding the introduction of spurious likelihood maxima. We anticipate that the automatic physical inference method described in this paper will be essential to obtain both accurate and precise cosmological parameter estimates from complex and large astronomical data sets, including those from LSST, Euclid, and WFIRST.

研究の動機と目的

• 十分統計量が不明な場合に、大規模なシミュレーションベースのデータセットから情報量が多く、次元が低い要約を選択する課題に対処すること。
• ヒューリスティック法や線形要約選択法の限界を克服し、重要な情報を捨てる可能性を避けること。
• 複雑で高次元のデータに対して、非線形で情報量を最大化する要約を自動的に同定する手法を開発すること。
• LSST、Euclid、WFIRSTなどの大規模天文学的調査から、正確で高精度な宇宙論的パラメータ推定を可能にすること。

提案手法

• 本手法は、フィッシャー情報量を最大化する非線形関数を学習するため、人工ニューラルネットワークを強化学習で訓練する。
• 訓練の目的関数は、モデルパラメータに関して要約統計量のフィッシャー情報量を最適化することである。
• 本手法はシミュレーションベースであり、明示的な尤度を必要とせず、前方シミュレーションのみに依存してネットワークを訓練する。
• ネットワークは、潜在的なパラメータに関する最大限の情報を保持する要約を生成するように訓練され、十分統計量に近いものとなる。
• 本手法は、段階的に複雑な問題に適用される：正規分布の分散推定、リューマン-アルファフォレストのシミュレーション、LISA重力波形解析。
• 得られた要約は尤度フリー推論に用いられ、明示的な尤度計算なしに事後分布を近似可能となる。

実験結果

リサーチクエスチョン

• RQ1 シミュレーションベース推論において、ニューラルネットワークがフィッシャー情報量を最大化する最適で非線形なデータ要約を自動的に学習できるか？
• RQ2 複雑な天体物理学的推論タスクにおいて、自動的に学習された要約の性能は線形圧縮法と比べてどうなるか？
• RQ3 真の事後分布が解析的に扱える状況で、IMNNが得た要約はほぼ正確な事後分布を生成できるか？
• RQ4 重力波形のような高次元で非線形なデータにおいて、本手法は誤った尤度最大値を導入しないか？
• RQ5 LSST、Euclid、WFIRSTのような大規模で複雑な天文学的データセットにもスケーラブルか？

主な発見

• 解析的に扱える事後分布を有するテストケースでは、IMNN要約を用いた尤度フリー推論がほぼ正確な事後分布を生成した。
• ノイズや複雑な信号構造が存在する状況では、線形圧縮法が失敗する中で、IMNNは最適な非線形要約を的確に特定した。
• リューマン-アルファフォレストのモックシミュレーションでは、高次元で非線形なデータに対しても、IMNNは正確な宇宙論的パラメータ推定を実現した。
• LISAに類似した重力波検出において、IMNN要約は誤った尤度最大値を導入しないため、線形圧縮法を上回った。
• 単純な正規分布の分散推定から現実の天体物理学的シミュレーションまで、複雑性の増加に伴う頑健性が確認された。
• 結果から、IMNNは大規模な宇宙論的推論におけるヒューリスティック法や線形要約選択の代替手段として、スケーラブルかつ信頼性があることが示唆された。