[논문 리뷰] A CNN-BiLSTM Model with Attention Mechanism for Earthquake Prediction

Parisa Kavianpour, Mohammadreza Kavianpour외 2명|arXiv (Cornell University)|2021. 12. 26.

Earthquake Detection and Analysis인용 수 25

한 줄 요약

이 논문은 ZOH 전처리와 nine regional divisions를 사용하여 중국 본토의 매월 지진 발생 건수와 최대 규모를 예측하기 위한 어텐션(attention) 메커니즘이 있는 CNN-BiLSTM 모델을 제안하고, 이를 여러 기준 방법과 비교한다.

ABSTRACT

Earthquakes, as natural phenomena, have continuously caused damage and loss of human life historically. Earthquake prediction is an essential aspect of any society's plans and can increase public preparedness and reduce damage to a great extent. Nevertheless, due to the stochastic character of earthquakes and the challenge of achieving an efficient and dependable model for earthquake prediction, efforts have been insufficient thus far, and new methods are required to solve this problem. Aware of these issues, this paper proposes a novel prediction method based on attention mechanism (AM), convolution neural network (CNN), and bi-directional long short-term memory (BiLSTM) models, which can predict the number and maximum magnitude of earthquakes in each area of mainland China-based on the earthquake catalog of the region. This model takes advantage of LSTM and CNN with an attention mechanism to better focus on effective earthquake characteristics and produce more accurate predictions. Firstly, the zero-order hold technique is applied as pre-processing on earthquake data, making the model's input data more proper. Secondly, to effectively use spatial information and reduce dimensions of input data, the CNN is used to capture the spatial dependencies between earthquake data. Thirdly, the Bi-LSTM layer is employed to capture the temporal dependencies. Fourthly, the AM layer is introduced to highlight its important features to achieve better prediction performance. The results show that the proposed method has better performance and generalize ability than other prediction methods.

연구 동기 및 목표

• 정확하고 시의적절한 지진 예측이 피해 및 사망자 감소에 필요함을 동기부여한다.
• 지역 지진 데이터의 공간적 및 시간적 의존성을 포착하기 위해 하이브리드 CNN-BiLSTM-AM 아키텍처를 개발한다.
• 예측을 향상시키기 위해 영향력 있는 특징을 강조하는 어텐션 메커니즘을 도입한다.
• 모델의 견고성과 일반화를 높이기 위해 제로 차수 보정(ZOH)으로 데이터를 전처리한다.
• 중국 본토를 9개 하위 지역으로 나누어 월별 지진 데이터를 평가하고, 이를 기준 방법과 비교한다.

제안 방법

• 월별 지진 데이터에서 공간 특징을 추출하기 위해 1차원 CNN을 사용한다.
• 추출된 특징의 시간 의존성을 학습하기 위해 BiLSTM 계층을 적용한다.
• 예측을 위한 영향력 있는 특징을 가중하기 위해 어텐션 메커니즘을 도입한다.
• 제로 차수 보정(ZOH)으로 0 값 효과를 완화하기 위해 데이터를 전처리한다.
• 월별 건수와 진도에 대한 최종 예측을 생성하기 위해 완전 연결 계층을 사용한다.
• Min-Max 스케일링으로 데이터를 정규화하고, Adam 옵티마이저와 MSE 손실을 사용하여 150 에폭, 배치 크기 32로 학습한다.

실험 결과

연구 질문

• RQ1 CNN-BiLSTM-AM 모델이 월별 지진 수와 월간 최대 규모를 동시에 예측할 수 있는가?
• RQ2 어텐션 메커니즘이 중요한 특징을 강조하여 예측 정확도를 향상시키는가?
• RQ3 제로-오더 보존(ZOH) 전처리가 모델 성능 및 일반화에 미치는 영향은 무엇인가?
• RQ4 중국 본토를 nine regions으로 분할하는 것이 예측 능력 및 향후 사건의 위치화에 어떤 영향을 미치는가?
• RQ5 제안된 방법이 얕은 ML 및 다른 DL 모델과 비교하여 지진 통계 예측에 어떤 차이를 보이는가?

주요 결과

• 제안된 CNN-BiLSTM-AM 방법이 비교 대상 방법보다 더 나은 성능과 일반화 능력을 보인다.
• 모델 아키텍처가 CNN과 BiLSTM 구성요소를 통해 공간-시간 특징을 효과적으로 추출하고 어텐션을 통해 중요한 특징을 강조한다.
• ZOH 전처리으로 학습 안정성과 예측 정확도가 향상된다.
• 다음 지진 사건의 지역 예측 범위를 평가하기 위해 9개 지역 구분을 사용한다.
• 비교 모델에는 SVM, DT, RF, MLP, CNN, LSTM 및 CNN-BiLSTM이 포함되며, 제안된 방법은 이 기준선들과 비교 평가된다.