[論文レビュー] Collaborative Nested Sampling: Big Data vs. complex physical models

Johannes Büchner|arXiv (Cornell University)|Jul 14, 2017

Data Analysis with R被引用数 3

ひとこと要約

本稿では、複数のデータセット間でライブポイントを共有することで、大規模な天文学的データセットの解析に必要な物理的モデル評価回数を削減するスケーラブルなベイジアン推論手法、共同ネストド・サブセットリングを提案する。この手法により、複雑で評価が遅いモデルですら、非一様な誤差を伴う状況でも、効率的なパrameter推定、モデル比較、不確実性の定量化が可能となり、データセット数に対して劣線形スケーリングを達成する。

ABSTRACT

The data torrent unleashed by current and upcoming astronomical surveys demands scalable analysis methods. Many machine learning approaches scale well, but separating the instrument measurement from the physical effects of interest, dealing with variable errors, and deriving parameter uncertainties is often an after-thought. Classic forward-folding analyses with Markov Chain Monte Carlo or Nested Sampling enable parameter estimation and model comparison, even for complex and slow-to-evaluate physical models. However, these approaches require independent runs for each data set, implying an unfeasible number of model evaluations in the Big Data regime. Here I present a new algorithm, collaborative nested sampling, for deriving parameter probability distributions for each observation. Importantly, the number of physical model evaluations scales sub-linearly with the number of data sets, and no assumptions about homogeneous errors, Gaussianity, the form of the model or heterogeneity/completeness of the observations need to be made. Collaborative nested sampling has immediate application in speeding up analyses of large surveys, integral-field-unit observations, and Monte Carlo simulations.

研究の動機と目的

• 数百万もの天文学的データセットを、評価が遅く複雑な物理モデルで解析する際の計算的ボトル neck を解消すること。
• 従来のマルコフ連鎖モンテカルロ法やネストド・サブセットリングの限界を克服し、各データセットごとに独立して実行を要するため、スケールが大きくなると非現実的になる問題に対処すること。
• ガウスノイズの仮定や均一な誤差をせず、全ベイジアン推論（事後分布、不確実性、モデル比較を含む）を大規模な調査に適用可能にすること。
• 類似したデータセット間でサンプリング領域を共有することで、合計のモデル評価回数を削減し、データセット数に対して劣線形スケーリングを達成すること。
• 物理的知識をデータ解析に統合できることで、複雑な現実世界のデータにおいて、機器効果と天体的信号を明確に分離できること。

提案手法

• 複数のデータセットの間で、同じ尤度制約にライブポイントを共有できるように、古典的なネストド・サブセットリングを拡張する。これは、データセット間の構造的類似性を活用する。
• 複数のデータセットの尤度等高線の和集合からの受理サンプリングを用い、サンプリング領域が類似しているという仮定の下で、正当なボリューム縮小推定を維持する。
• モデルを評価が遅い物理的コンponent（例：スペクトル合成）と、各データセットで高速に計算できる尤度計算（例：ポissonまたはガウス尤度）に分解する。
• 尤度等高線が類似したデータセットを動的にグループ化することで、共有サンプリングを最適化し、重複するモデル評価を削減する。
• MultiNest風の楕円体クラスタリングを適用し、高次元パラメータ空間での効率的サンプリングを実現するとともに、収束保証を維持する。
• 特に尤度閾値が低く、サンプリング領域が大きく重複する初期イテレーションにおいて、尤度評価を保存・再利用する。

実験結果

リサーチクエスチョン

• RQ1 N個の大きな天文学的データセットを同時に解析する際、物理的モデル評価回数をN未満に抑えるために、ネストド・サブセットリングをどのように適応可能にすることができるか？
• RQ2 誤差が変動する不均一なデータセット間でサンプリングポイントを共有する場合、全事後分布とモデル比較を維持するベイジアン推論は、どのように実現できるか？
• RQ3 共同ネストド・サブセットリングは、独立したネストド・サブセットリング実行と比較して、モデル評価回数においてどの程度劣線形スケーリングを達成できるか？
• RQ4 ガウス分布や誤差の一様性に関する仮定なしに、複雑で非ガウス的かつ不均一なノイズモデルを扱えるか？
• RQ5 積分フィールドユニット分光法のような、空間的に相関する物理的性質を持つ現実世界の高次元データに対して、共同ネストド・サブセットリングはどの程度の性能を示すか？

主な発見

• 共同ネストド・サブセットリングにより、4,223本のMUSEファイバーの解析において、1440万回（140時間）の尤度評価を、100本のファイバーのみを解析した場合（280万回、14.9時間）と比較して4倍の効率向上を達成した。
• データセット数に対してモデル評価回数が劣線形スケーリングを示し、明示的並列処理の手法を著しく上回る性能を発揮した。
• 実際のMUSE積分フィールドユニット観測における4,223個の空間ピクセルすべてについて、滑らかさや空間相関の仮定をせず、全事後分布を成功裏に導出できた。
• トイ例においてベイズ因子を用いたモデル比較が可能となり、データが支持する場合にはより複雑なモデルを正しく同定できた。
• ガウス分布や一様な誤差を仮定せず、任意の物理的モデルと尤度関数を扱える完全なベイジアン推論が可能であり、簡略化仮定を必要としない。
• 本手法は、300万個の源と複雑で位置依存の検出器応答を持つeROSITAの全天X線調査など、大規模な調査に即座に適用可能である。