[논문 리뷰] Deep Autoassociative Neural Networks for Noise Reduction in Seismic data

Debjani Bhowmick, Deepak Gupta외 2명|arXiv (Cornell University)|2018. 05. 01.

Seismic Imaging and Inversion Techniques참고 문헌 1인용 수 4

한 줄 요약

이 논문은 깊이 있는 자동에코 신경망(자동NN)을 제안하여 지반 데이터의 노이즈 제거를 수행한다. 스택드 자동에코를 활용해 비선형적이고 희소적인 표현을 학습함으로써 노이즈가 섞인 입력에서 청소된 신호를 재구성한다. 시뮬레이션 테스트에서는 90% 이상의 노이즈 감소를 달성하였고, 실제 지반 데이터에서는 시간 및 주파수 국소화된 노이즈를 크게 억제하였지만, 일부 공간 해상도 손실이 발생하였다.

ABSTRACT

Machine learning is currently a trending topic in various science and engineering disciplines, and the field of geophysics is no exception. With the advent of powerful computers, it is now possible to train the machine to learn complex patterns in the data, which may not be easily realized using the traditional methods. Among the various machine learning methods, the artificial neural networks (ANNs) have received enormous attention. A variant of ANNs, autoassociative neural network (autoNN) tries to learn the reconstruction of input itself using backpropagation. In an autoNN, the input and output are the same, and an approximation to the identity mapping is obtained in a nonlinear setting. AutoNNs have primarily been used to extract sparse internal representations of any input and reduce its dimensionality. In this paper, we explore the potential of autoNNs in reducing random noise in geophysical data. In this paper, the first results of this study are presented. The synthetic mathematical example demonstrates the concept of autoNN. For the test seismic data, it is observed that autoNN can significantly remove the vertical time- and frequency-local noise, however, the resolution of the output signal is compromised to a certain extent. Future work includes testing larger examples with several different types of noise, and using deep-stacked-autoNNs to further reduce the noise, ensuring minimal compromise with the resolution of the signal.

연구 동기 및 목표

• 비일관적이고 국소화된 노이즈에 오염된 지구물리학적 데이터, 특히 지반 신호를 위한 딥 러닝 기반 노이즈 제거 방법을 개발하는 것.
• 기존의 자동에코 네트워크를 더 깊은 아키텍처로 확장하여 얕은 네트워크를 넘어서 노이즈 억제 성능을 향상시키는 것.
• 심층 자동NN의 성능을 시뮬레이션 수학적 신호와 실제 지반 데이터 모두에 대해 평가하는 것.
• 지반 데이터 복원 과정에서 노이즈 감소와 신호 해상도 간의 상충 관계를 조사하는 것.

제안 방법

• 노이즈가 있는 입력에서 청소된 출력으로의 비선형 맵핑을 학습하기 위해 세 개의 은닉층(300-400-300 뉴런)을 갖는 심층 자동에코 아키텍처를 사용한다.
• 에코더는 비선형 활성화 함수(예: 시그모이드)를 사용해 입력을 더 낮은 차원의 잠재 표현으로 압축하고, 디코더는 원래 신호를 재구성한다.
• 원래 신호와 재구성된 신호 간의 평균 제곱오차를 최소화하기 위해 역전파를 사용해 네트워크를 훈련시킨다.
• 스택드 자동에코 접근 방식을 적용하여, 전체 네트워크를 미세조정하기 전에 각 층을 게으르게 사전 훈련한다.
• 훈련을 위해 110만 개의 시뮬레이션 지반 패치(9×42 샘플)가 생성되었으며, 단일 주파수 정현파를 포함한 청소된 버전과 노이즈가 섞인 버전이 포함되어 있다.
• 경사 하강법 최적화를 사용하여 50,000 에포크 동안 훈련을 수행했으며, 훈련/검증 데이터 분할 비율은 95:5였다.

실험 결과

연구 질문

• RQ1 깊이 있는 자동에코 신경망은 지반 데이터에서 비일관적이고 시간/주파수 국소화된 노이즈를 효과적으로 감소시킬 수 있는가?
• RQ2 깊이 있는 자동NN의 노이즈 감소 성능은 얕은 자동에코 레이어와 비교해 어떻게 다른가?
• RQ3 자동에코는 노이즈 제거 과정에서 얼마나 잘 신호 해상도를 유지하는가?
• RQ4 학습 세트에 포함되지 않은 새로운 노이즈가 섞인 지반 트레이스에 대해 자동에코가 일반화 가능한가?

주요 결과

• 심층 자동NN은 시뮬레이션 신호 100개의 테스트 샘플에서 평균 노이즈 감소 효율 90.27%를 달성하여 강력한 노이즈 제거 능력을 입증하였다.
• 지반 데이터에서는 수직적, 시간 및 주파수 국소화된 노이즈를 성공적으로 억제하여 데이터의 해석 가능성을 크게 향상시켰다.
• 모델는 정규화 효과를 보였고, 특히 고진폭 이벤트에서 약간의 해상도 손실이 발생하였다.
• 고주파수 노이즈(110–220 Hz)에 대해 가장 우수한 성능을 보였지만, 저주파수 및 다주파수 노이즈는 훈련 커버리지가 제한되어 어려움을 겪었다.
• 스택드 자동에코 아키텍처는 얕은 네트워크보다 우수한 성능을 보였으며, 이는 더 깊은 표현이 복잡한 노이즈 패턴을 더 잘 포착할 수 있음을 시사한다.
• 더 깊고 전문화된 아키텍처로의 향후 적용 가능성이 있으며, 다양한 노이즈 유형에 대해 유망한 전망을 보인다.