[논문 리뷰] Denoising Gravitational Waves using Deep Learning with Recurrent Denoising Autoencoders

Hongyu Shen, Daniel George외 2명|arXiv (Cornell University)|2017. 11. 27.

Pulsars and Gravitational Waves Research인용 수 19

한 줄 요약

이 논문은 비정규, 비정상성 노이즈에 오염된 약한 중력파 신호를 복원하기 위해 양방향 LSTM를 사용하는 순환 노이즈 제거 오토인코더인 SMTDAE를 제안한다. 유일하게 시뮬레이션된 정규 노이즈로 훈련되었음에도 불구하고, SMTDAE는 실존하는 LIGO 노이즈에서 PCA와 사전학습 방법보다 뛰어난 노이즈 제거 성능을 보이며, 저신호대노이즈비(신호대노이즈비)에서 우수한 신호 복원 성능(최저 MF SNR = 6.44)을 달성하고, 데이터 1초당 추론 시간이 100ms 미만이다.

ABSTRACT

Gravitational wave astronomy is a rapidly growing field of modern astrophysics, with observations being made frequently by the LIGO detectors. Gravitational wave signals are often extremely weak and the data from the detectors, such as LIGO, is contaminated with non-Gaussian and non-stationary noise, often containing transient disturbances which can obscure real signals. Traditional denoising methods, such as principal component analysis and dictionary learning, are not optimal for dealing with this non-Gaussian noise, especially for low signal-to-noise ratio gravitational wave signals. Furthermore, these methods are computationally expensive on large datasets. To overcome these issues, we apply state-of-the-art signal processing techniques, based on recent groundbreaking advancements in deep learning, to denoise gravitational wave signals embedded either in Gaussian noise or in real LIGO noise. We introduce SMTDAE, a Staired Multi-Timestep Denoising Autoencoder, based on sequence-to-sequence bi-directional Long-Short-Term-Memory recurrent neural networks. We demonstrate the advantages of using our unsupervised deep learning approach and show that, after training only using simulated Gaussian noise, SMTDAE achieves superior recovery performance for gravitational wave signals embedded in real non-Gaussian LIGO noise.

연구 동기 및 목표

• LIGO 데이터에서 비정규성 및 비정상성 노이즈에 의해 오염된 약한 중력파 신호를 노이즈 제거하는 데 도전하는 것.
• PCA 및 사전학습 방법과 같은 전통적 방법의 한계를 극복하기 위한 것 — 이러한 방법들은 비정규 노이즈에 대해 계산 비용이 많이 들고 최적의 성능을 내지 못한다.
• 비정규 데이터에 대한 재훈련 없이도 실제 세계의 LIGO 노이즈에 일반화 가능한 비지도 딥러닝 모델을 개발하는 것.
• 미래의 탐지 캠페인을 위해 실시간 중력파 신호 노이즈 제거를 가능하게 하는 것.

제안 방법

• 제안된 모델인 SMTDAE는 순서 기반, 스택형, 다단계 시간 간격 노이즈 제거 오토인코더로, 양방향 장기 단기 기억(LSTM) 순환 신경망 기반이다.
• 모델 아키텍처는 인코더-디코더 구조를 사용하며, 인코더의 최종 은닉 상태가 디코더의 초기 은닉 상태로 전달되어 시간적 맥락을 유지한다.
• 모델은 노이즈가 첨부된 파형과 알려진 정제된 신호를 사용하여 자기지도 학습 방식으로 훈련되며, MSE 손실을 최소화함으로써 재구성 오차를 줄인다.
• 훈련은 높은 피크 신호대노이즈비(2.00, MF SNR = 26)에서 시작하여 점차 피크 신호대노이즈비 0.50(MF SNR = 6.44)로 감소시켜 저신호대노이즈비 신호에 대한 강건성을 향상시킨다.
• 추론 시 약한 신호 성분을 강화하기 위해 출력 레이어 이전에 신호 증폭기가 적용된다.
• 모델 평가에는 평균 제곱 오차(MSE)와 매칭 필터링을 통한 오버랩(Overlap)을 사용한 메트릭이 함께 사용된다.

실험 결과

연구 질문

• RQ1 정규 노이즈로만 훈련된 딥러닝 모델이 실제 비정규, 비정상성 LIGO 노이즈에 임베딩된 중력파 신호를 효과적으로 노이즈 제거할 수 있는가?
• RQ2 SMTDAE의 성능은 PCA 및 사전학습 방법과 비교해 신호 복원 정확도와 계산 효율성 측면에서 어떻게 다른가?
• RQ3 SMTDAE는 훈련 데이터에 포함되지 않은 새로운 신호 유형(예: 타원형 또는 스핀 예측 이격 이중 블랙홀 병합)에 대해 얼마나 잘 일반화되는가?
• RQ4 모델은 실시간 중력파 탐지에 적합한 낮은 지연 시간 추론 성능을 유지하는가?

주요 결과

• 피크 신호대노이즈비 0.50(MF SNR = 6.44)에서 실존 LIGO 노이즈에 주입된 신호에 대해 SMTDAE는 MSE 및 오버랩 메트릭 모두에서 PCA 및 사전학습 방법을 뛰어넘는 성능을 보였다.
• 모델은 PCA 및 사전학습 방법보다 유의미하게 낮은 평균 제곱 오차(MSE)를 기록하여 더 뛰어난 신호 재구성 정밀도를 나타냈다.
• SMTDAE는 두 기준 모델보다 더 높은 오버랩 값을 기록하여 기준 파형과의 위상 일치도 및 일관성에서 뛰어난 성능을 보였다.
• 비록 정규 노이즈로만 훈련되었음에도 불구하고, SMTDAE는 실존 LIGO 노이즈에 대해 효과적으로 일반화되었으며, 비정규성 및 비정상성 노이즈 분포에 강건함을 입증했다.
• SMTDAE는 GPU에서 1초 분량의 입력 데이터를 100ms 이내로 처리하는 데 성공했으며, 이는 PCA의 약 2분 대비 뚜렷한 속도 향상을 보였다.
• 훈련 중에 볼 수 없었던 타원형 이중 블랙홀 병합 신호에서도 모델이 성공적으로 신호를 복원하여, 훈련된 신호 유형을 초월한 강력한 일반화 능력을 보였다.