[论文解读] Denoising Gravitational Waves using Deep Learning with Recurrent Denoising Autoencoders

Hongyu Shen, Daniel George+2 more|arXiv (Cornell University)|Nov 27, 2017

Pulsars and Gravitational Waves Research被引用 19

一句话总结

本文提出SMTDAE，一种基于双向LSTM的循环去噪自编码器，用于去除受非高斯、非平稳噪声污染的弱引力波信号。该模型仅在模拟的高斯噪声上进行训练，但在真实LIGO噪声中去噪性能优于主成分分析（PCA）和字典学习方法，在低信噪比（最低MF SNR = 6.44）下实现更优的信号恢复，且每秒数据的推理时间低于100毫秒。

ABSTRACT

Gravitational wave astronomy is a rapidly growing field of modern astrophysics, with observations being made frequently by the LIGO detectors. Gravitational wave signals are often extremely weak and the data from the detectors, such as LIGO, is contaminated with non-Gaussian and non-stationary noise, often containing transient disturbances which can obscure real signals. Traditional denoising methods, such as principal component analysis and dictionary learning, are not optimal for dealing with this non-Gaussian noise, especially for low signal-to-noise ratio gravitational wave signals. Furthermore, these methods are computationally expensive on large datasets. To overcome these issues, we apply state-of-the-art signal processing techniques, based on recent groundbreaking advancements in deep learning, to denoise gravitational wave signals embedded either in Gaussian noise or in real LIGO noise. We introduce SMTDAE, a Staired Multi-Timestep Denoising Autoencoder, based on sequence-to-sequence bi-directional Long-Short-Term-Memory recurrent neural networks. We demonstrate the advantages of using our unsupervised deep learning approach and show that, after training only using simulated Gaussian noise, SMTDAE achieves superior recovery performance for gravitational wave signals embedded in real non-Gaussian LIGO noise.

研究动机与目标

• 解决LIGO数据中受非高斯、非平稳噪声污染的弱引力波信号去噪挑战。
• 克服传统方法（如PCA和字典学习）的局限性，这些方法计算成本高，且在非高斯噪声下表现不佳。
• 开发一种无监督深度学习模型，可泛化至真实世界LIGO噪声，而无需在非高斯数据上重新训练。
• 实现快速、实时的引力波信号去噪，以支持未来探测任务。

提出的方法

• 所提出的模型SMTDAE是一种基于双向长短期记忆（LSTM）循环神经网络的序列到序列、堆叠式多时间步去噪自编码器。
• 该架构采用编码器-解码器结构，将编码器的最终隐藏状态传递给解码器的初始隐藏状态，以保留时间上下文信息。
• 模型通过使用已知干净信号的噪声波形进行自监督训练，通过最小化均方误差（MSE）损失来最小化重构误差。
• 训练从较高的峰值信噪比（2.00，MF SNR = 26）开始，逐步降低至峰值信噪比0.50（MF SNR = 6.44），以提升对低信噪比信号的鲁棒性。
• 在输出层之前应用信号放大器，以在推理过程中增强弱信号分量。
• 通过均方误差（MSE）和重叠度（通过PyCBC匹配滤波计算）作为评估指标。

实验结果

研究问题

• RQ1 仅在高斯噪声上训练的深度学习模型，能否有效去除真实LIGO噪声中嵌入的引力波信号（该噪声为非高斯、非平稳）？
• RQ2 SMTDAE在信号恢复精度和计算效率方面，与PCA和字典学习等传统方法相比表现如何？
• RQ3 SMTDAE在泛化能力方面表现如何，能否有效处理训练数据中未出现的新信号类型（如偏心率或自旋进动的双黑洞并合）？
• RQ4 该模型是否保持低延迟推理性能，适合实时引力波探测？

主要发现

• 在峰值信噪比0.50（MF SNR = 6.44）的真实LIGO噪声中注入信号时，SMTDAE在MSE和重叠度指标上均优于PCA和字典学习方法。
• 该模型的均方误差（MSE）显著低于PCA和字典学习，表明其具有更优的信号重构保真度。
• SMTDAE获得的重叠度高于两个基线模型，表明其与参考波形具有更好的相位对齐和相干性。
• 尽管仅在高斯噪声上进行训练，SMTDAE仍能有效泛化至真实LIGO噪声，表现出对非高斯和非平稳噪声分布的强鲁棒性。
• SMTDAE在GPU上处理1秒输入数据的时间低于100毫秒，而PCA约需2分钟，显示出显著的速度提升。
• 该模型成功恢复了训练过程中未见过的偏心双黑洞并合信号，表明其在训练信号类别之外具有强大的泛化能力。