[논문 리뷰] Sea Level Anomaly Prediction using Recurrent Neural Networks

Anne Braakmann-Folgmann, Ribana Roscher외 3명|arXiv (Cornell University)|2017. 10. 19.

Oceanographic and Atmospheric Processes참고 문헌 10인용 수 39

한 줄 요약

이 논문은 해수면 이상(SLA)을 예측하기 위해 격자형 수중 레이더 데이터를 사용하는 하이브리드 CNN-LSTM 딥러닝 모델을 제안한다. 공간 패턴을 포착하기 위해 합성곱층을, 시간적 동역학을 모델링하기 위해 순환층을 조합함으로써, 회귀 모델(0.154 m)에 비해 훨씬 낮은 RMSE(0.051 m)를 달성하여 다년간의 예측에서 뛰어난 정확도와 안정성을 입증한다.

ABSTRACT

Sea level change, one of the most dire impacts of anthropogenic global warming, will affect a large amount of the world's population. However, sea level change is not uniform in time and space, and the skill of conventional prediction methods is limited due to the ocean's internal variabi-lity on timescales from weeks to decades. Here we study the potential of neural network methods which have been used successfully in other applications, but rarely been applied for this task. We develop a combination of a convolutional neural network (CNN) and a recurrent neural network (RNN) to ana-lyse both the spatial and the temporal evolution of sea level and to suggest an independent, accurate method to predict interannual sea level anomalies (SLA). We test our method for the northern and equatorial Pacific Ocean, using gridded altimeter-derived SLA data. We show that the used network designs outperform a simple regression and that adding a CNN improves the skill significantly. The predictions are stable over several years.

연구 동기 및 목표

• 해양 내부 변동성과 기후 변화 영향으로 인해 공간적·시간적으로 변동성이 큰 해수면 이상(SLA)을 예측하는 데 도전하는 것.
• 불완전한 물리 모델, 낮은 해상도, 초기 조건의 불확실성으로 어려움을 겪는 전통적 물리적 해양 모델의 한계를 극복하는 것.
• 해수면 높이 격자도의 공간적 상관관계와 시간 시리즈의 시간적 의존성을 모두 활용하는 딥러닝 접근법을 개발하는 것.
• 23년 분량의 수중 레이더 데이터를 바탕으로 하이브리드 신경망 아키텍처의 예측 성능을 전통적 회귀 방법과 비교 평가하는 것.
• 종합적인 딥러닝 기반 장기적 SLA 예측의 가능성과 잠재적 글로벌 적용 가능성을 입증하는 것.

제안 방법

• 공간적 구조를 유지하면서 시간적 변화를 모델링하기 위해 2차원 합성곱 신경망(CNN)과 ConvLSTM 층을 조합한 하이브리드 아키텍처를 사용한다.
• 1993–2015년 기간, 1/4° 해상도, 110°–250°E 경도 및 15°S–60°N 위도 범위를 커버하는 ESA CCI 레벨 4 제품에서 유래한 격자형 SLA 데이터를 입력으로 사용한다.
• 세 가지 네트워크 변형을 훈련: 표준 LSTM(벡터 입력), CNN+ConvLSTM(격자 입력, 공간적 특징 학습), 시퀀스 기반 모델(9개월 시퀀스 예측).
• 입력 데이터에 배치 정규화를 적용하고, 150 에포크 동안 감소하는 학습률을 사용하는 Adam 옵timizer를 활용해 평균 제곱오차(MSE) 손실을 최소화한다.
• Sequence LSTM-P 모델에서는 예측 출력을 다시 입력으로 피드백하여 다단계 예측을 위한 시퀀스-투-시퀀스 예측 전략을 구현한다.
• 과적합 방지를 위해 데이터를 훈련(16년), 검증(4년), 테스트(3년) 세트로 분할하여 강건한 일반화를 확보한다.

실험 결과

연구 질문

• RQ1 하이브리드 CNN-LSTM 아키텍처가 전통적 회귀 모델에 비해 상반기 해수면 이상을 예측하는 데에서 뛰어난 성능을 보일 수 있는가?
• RQ2 입력을 벡터로 평탄화하는 것에 비해, ConvLSTM를 통해 격자 구조를 유지함으로써 예측 정확도가 얼마나 향상되는가?
• RQ3 예측 수평선을 1개월에서 9개월으로 연장할 경우 모델의 예측 능력은 어떻게 저하되는가?
• RQ4 예측 출력을 반복적으로 피드백하는 순환 예측 루프를 사용할 때, 모델은 다년간의 예측에서도 정확도를 유지할 수 있는가?
• RQ5 태평양 해역의 어디서 예측 오차가 집중되며, 이러한 오차와 관련된 물리적 특징은 무엇인가?

주요 결과

• CNN+ConvLSTM 모델은 테스트 시 가장 낮은 RMSE 0.051 m를 기록하여, 회귀 기반 기준선(0.154 m)과 다른 신경망 변형들보다 뚜렷이 뛰어난 성능을 보였다.
• LSTM 아키텍처에 CNN를 추가함으로써 고리, 소용돌이와 같은 공간 패턴을 포착할 수 있었으며, 특히 공간적 구조를 유지하는 데 ConvLSTM를 함께 사용할 경우 정확도 향상 효과가 두드러졌다.
• Sequence LSTM-P 모델은 예측 출력을 반복적으로 피드백하여 다년간의 예측을 수행했으며, 오차는 약간 증가했지만 안정적인 예측 성능(테스트 데이터 RMSE 0.081 m)을 유지했다.
• 공간 오차 지도 분석 결과, 강력한 소용돌이 활동과 높은 변동성이 있는 쿠로시오 해류 근처에서 예측 오차가 가장 높았다.
• 모든 신경망 아키텍처가 훈련, 검증, 테스트 단계에서 일관되게 회귀 모델을 능가했으며, 이는 딥러닝이 복잡한 비선형 SLA 동역학을 효과적으로 포착할 수 있음을 시사한다.
• Sequence LSTM-P 설정을 사용할 경우, 20회의 순환 예측 이후에도 예측 값이 관측값과 매우 가까운 수준을 유지하여 장기 예측에 대한 강건성을 입증했다.