[论文解读] Deterministic and Bayesian Neural Networks for Low-latency Gravitational Wave Parameter Estimation of Binary Black Hole Mergers

Hongyu Shen, E. A. Huerta+3 more|arXiv (Cornell University)|Mar 5, 2019

Pulsars and Gravitational Waves Research被引用 19

一句话总结

本文提出了一种用于使用超过1000万次引力波波形进行双黑洞并合低延迟参数估计的确定性和贝叶斯神经网络。在Theta超级计算机上进行训练，模型在单个GPU上实现亚2毫秒的推理速度，提供准确且对噪声鲁棒的参数估计，与传统贝叶斯分析结果一致。

ABSTRACT

We present the first application of deep learning for gravitational wave parameter estimation of binary black hole mergers evolving on quasi-circular orbits with aligned or anti-aligned spins. We use root-leaf structured networks to ensure that common physical features are shared across all parameters. In order to cover a broad range of astrophysically motivated scenarios, we use a training dataset with over $10^7$ modeled waveforms to ensure local time- and scale-invariance. The trained models are applied to estimate the astrophysical parameters of the existing catalog of detected binary black hole mergers, and their corresponding black hole remnants, including the final spin and the gravitational wave quasi-normal frequencies. Using a deterministic neural network model, we are able to efficiently provide point-parameter estimation results, along with statistical errors caused by the noise spectrum uncertainty. We also introduce the first application of Bayesian neural networks for gravitational wave parameter estimation of real astrophysical events. These probabilistic models were trained with over $10^7$ modeled waveforms and using 1024 nodes (65,536 core processors) on the Theta supercomputer at Argonne Leadership Computing Facility to reduce the training stage to just thirty minutes. In inference mode, both the deterministic and Bayesian neural networks estimate the astrophysical parameters of binary black hole mergers within 2 milliseconds using a single Tesla V100 GPU. Both deterministic and Bayesian neural networks produce agreeing parameter estimation results, which are also consistent with Bayesian analyses used to characterize the catalog of binary black hole mergers observed by the advanced LIGO and Virgo detectors.

研究动机与目标

• 为LIGO和Virgo探测到的双黑洞并合实现实时、低延迟的参数估计。
• 开发尊重物理约束（如时间不变性与尺度不变性）且在参数间共享特征的神经网络。
• 在包含超过1000万次波形的天体物理驱动的大规模数据集上进行训练，以确保模型的鲁棒性与泛化能力。
• 对真实星表事件应用确定性和贝叶斯神经网络，包括最终自旋和准正规模频率的估计。
• 将深度学习结果与用于LIGO-Virgo星表的传统贝叶斯推断方法进行验证。

提出的方法

• 采用根叶结构神经网络，以在所有天体物理参数间强制共享物理特征。
• 在包含拟圆轨道及平行/反平行自旋的超过10^7次模拟波形数据集上训练模型，以确保时间与尺度不变性。
• 使用配备1024个节点（65,536个核心）的Theta超级计算机，在三十分钟内完成贝叶斯神经网络的训练。
• 应用确定性网络实现快速点估计，并通过噪声谱不确定性量化统计误差。
• 使用贝叶斯神经网络提供完整的后验分布，从而实现对真实天体物理事件的不确定性量化。
• 在单个Tesla V100 GPU上执行推理，实现低于2毫秒的推理时间。

实验结果

研究问题

• RQ1 深度学习模型能否实现与传统贝叶斯推断相当的低延迟、高精度双黑洞并合参数估计？
• RQ2 根叶结构神经网络能否有效编码引力波参数估计中的时间不变性与尺度不变性等物理不变性？
• RQ3 在大规模波形数据集上训练的贝叶斯神经网络能否为真实的LIGO-Virgo事件提供可靠的不确定性量化？
• RQ4 深度学习模型的参数估计结果与LIGO-Virgo星表传统贝叶斯分析的结果相比如何？
• RQ5 能否利用高性能计算将复杂贝叶斯神经网络在引力波分析中的训练时间缩短至三十分钟以内？

主要发现

• 确定性神经网络在单个Tesla V100 GPU上实现每事件低于2毫秒的参数估计速度。
• 贝叶斯神经网络在Theta超级计算机的1024个节点（65,536个核心处理器）上训练时间低于三十分钟。
• 确定性与贝叶斯模型在所有星表事件中均产生一致的参数估计结果，包括最终自旋和准正规模频率。
• 深度学习结果与用于表征LIGO-Virgo双黑洞星表的传统贝叶斯推断结果高度一致。
• 模型提供了由于噪声谱不确定性导致的统计误差估计，增强了实时应用中的可靠性。
• 该方法在引力波天文学中实现了实时、低延迟参数估计的可行性。