[論文レビュー] Bayesian averaging of computer models with domain discrepancies: a nuclear physics perspective

Vojtech Kejzlar, Léo Neufcourt+2 more|arXiv (Cornell University)|Apr 9, 2019

Nuclear reactor physics and engineering参考文献 51被引用数 7

ひとこと要約

本稿は、核物理学における非同一の研究領域を有するコンピュータモデルに対して、ドメイン補正付きベイジアンモデル平均化（BMA）フレームワークを提案する。ドメインの不一致を事後odds比と共有データ領域を通じて明示的に取り入れることで、予測誤差の分散を低減し、経験的カバレッジを向上させ、核質量予測における正確性と不確実性の定量化に顕著な向上を示す。

ABSTRACT

This article studies Bayesian model averaging (BMA) in the context of competing expensive computer models in a typical nuclear physics setup. While it is well known that BMA accounts for the additional uncertainty of the model itself, we show that it also decreases the posterior variance of the prediction errors via an explicit decomposition. We extend BMA to the situation where the competing models are defined on non-identical study regions. Any model's local forecasting difficulty is offset by predictions obtained from the average model, thus extending individual models to the full domain. We illustrate our methodology via pedagogical simulations and applications to forecasting nuclear observables, which exhibit convincing improvements in both the BMA prediction error and empirical coverage probabilities.

研究の動機と目的

• 核構造モデリングにおいて一般的な、競合するコンピュータモデルが非同一の定義領域に定義されている場合のベイジアンモデル平均化の課題に対処すること。
• ドメイン補正を用いたモデル平均化を通じて、個々のモデルの予測を全領域に拡張する手法を開発すること。
• モデル不確実性を明示的にモデル化し、予測誤差の事後分散を低減することで、不確実性の定量化を向上させること。
• 実データおよびシミュレートデータを用いた核質量予測において、本手法の有効性を示し、経験的カバレッジの向上とRMSEの低減を確認すること。

提案手法

• 標準的なベイジアンモデル平均化（BMA）を、異なる研究領域に定義されたモデルを扱えるように拡張し、ドメイン補正付きの事後混合分布を導入する。
• BMA混合におけるモデルの重み付けに、事後odds比 $ Q = \frac{p(\tilde{y}^{(-k)}|y^{(k)})p(\tilde{\theta}_k|y^{(k)})}{p(\tilde{y}^{(-k)}|y^{(k)})p(\tilde{\theta}_k|y^{(k)})} $ を用い、ドメイン間で一貫した推論を保証する。
• モデル出力を比較・統合できる共有領域 $ D_{\text{shared}} $ を定義し、これによりモデル間のキャリブレーションと誤差分解を可能にする。
• ガウス過程の事前分布を予測誤差に適用し、指数型平方カーネルを用い、柔軟な誤差モデリングとガンマ事前分布によるハイパーパramータ推定を可能にする。
• 条件付き分散の公式を用いて、全事後分散をモデル内およびモデル間の成分に分解し、モデル不確実性を明示的に定量化する。
• MCMCサンプリングを用いて手法を実装し、訓練およびテストデータセットにおけるRMSE、$ \tilde{r}^2_{\text{BMA}} $、および経験的カバレッジ確率を用いて性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 核物理学における異なる同位体領域を有するコンピュータモデルに対して、ベイジアンモデル平均化を非同一ドメインに適応させる方法は何か？
• RQ2 標準的なBMAまたは個々のモデルと比較して、ドメイン補正付きBMAは予測誤差の事後分散を低減するか？
• RQ3 提案手法は、核質量外挿予測における経験的カバレッジ確率と予測正確性をどの程度向上させるか？
• RQ4 異なる同位数領域（例：偶数Z・奇数Z、偶数N・奇数N）において、モデルの事後重みと予測性能はどのように変化するか？

主な発見

• ドメイン補正付きBMA手法は、モデル条件付き期待値の分散を明示的に取り入れることで、予測誤差の分散を低減する。
• 教育的シミュレーションでは、ドメイン補正付きBMAのRMSE（$ \text{RMSE} = 3.28 $）は個々のモデル（$ \text{RMSE} \text{ up to } 4.69 $）および独立ドメインBMA（$ \text{RMSE} = 3.28 $）よりも顕著に低く、共有領域 $ D_{\text{shared}} $ が大きくなるほど改善が顕著になる。
• 核質量データセット（AME2016 $\setminus$ AME2003）において、BMAモデルはテストセットでRMSE 0.709 MeVを達成し、最良の個別モデル（FRDM-2012、RMSE = 0.808 MeV）を上回った。
• 経験的カバレッジ確率はBMAで向上し、訓練データでは $ \tilde{r}^2_{\text{BMA}} = 0.413 $、テストデータでは $ \tilde{r}^2_{\text{BMA}} = 0.231 $ を示し、個別モデルよりも良好なキャリブレーションを示した。
• 共有データとドメイン補正付き重み付けを活用することで、モデルが部分領域でのみ有効であっても、全領域への局所的予測の拡張を効果的に行える。
• FRDM-2012 や HFB-24 などのモデルの事後重みはスピンおよび領域に強く依存していたが、BMAにより予測が安定化し、あらゆる設定で分散が低減された。