[논문 리뷰] Deep coastal sea elements forecasting using U-Net based models

Jesús García Fernández, Ismail Alaoui Abdellaoui외 1명|arXiv (Cornell University)|2020. 11. 06.

Oceanographic and Atmospheric Processes인용 수 9

한 줄 요약

이 논문은 위성 영상 데이터를 활용하여 해안 해양 요소의 다단계 예측을 위한 새로운 U-Net 기반 딥러닝 프레임워크를 제안한다. 3D U-Net 아키텍처에 잔차 연결, 병렬 컨볼루션, 이방향 컨볼루션을 통합한 AsymmInceptionRes-3DDR-UNet 모델은 모든 계절과 최대 72시간 이내의 예측 수준에서 해수면 온도, 염도, 해류 속도 예측에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

The supply and demand of energy is influenced by meteorological conditions. The relevance of accurate weather forecasts increases as the demand for renewable energy sources increases. The energy providers and policy makers require weather information to make informed choices and establish optimal plans according to the operational objectives. Due to the recent development of deep learning techniques applied to satellite imagery, weather forecasting that uses remote sensing data has also been the subject of major progress. The present paper investigates multiple steps ahead frame prediction for coastal sea elements in the Netherlands using U-Net based architectures. Hourly data from the Copernicus observation programme spanned over a period of 2 years has been used to train the models and make the forecasting, including seasonal predictions. We propose a variation of the U-Net architecture and further extend this novel model using residual connections, parallel convolutions and asymmetric convolutions in order to introduce three additional architectures. In particular, we show that the architecture equipped with parallel and asymmetric convolutions as well as skip connections outperforms the other three discussed models.

연구 동기 및 목표

• 위성 영상 기반 딥러닝을 활용하여 해안 해양 요소의 다단계 예측 성능을 향상시키기.
• 고도로 변동성이 큰 시간-공간적 특성을 보이는 복잡한 해안 해양 변수를 예측하는 데 도전.
• 잔차 학습, 병렬 컨볼루션, 이방향 컨볼루션을 통합하여 U-Net 아키텍처를 개선하여 더 나은 특징 추출 성능 확보.
• 모델 성능을 다양한 계절과 예측 수준(12~72시간)에서 평가하기.
• 물리 방정식에 의존하지 않고도 계산 비용을 줄인 데이터 기반의 기존 수치 기상 예측(NWP)의 대안 제공.

제안 방법

• 스패티오토르피컬 위성 데이터를 처리할 수 있도록 3D U-Net 아키텍처를 변형하여, 3D 입력(시간 지연 프레임)을 2D 출력(현재 해양 상태)으로 매핑.
• 깊은 네트워크에서 학습 안정성과 기울기 흐름 향상을 위해 스킵 연결을 갖춘 잔차 블록 도입.
• 다양한 스케일의 공간적 특징을 캡처하기 위해 Inception 모듈에서 영감을 얻은 병렬 컨볼루션 브랜치 통합.
• 파ram터 수를 줄이고 공간 패턴에 대한 감도를 높이면서도 효율성을 유지하기 위해 이방향 컨볼루션 적용.
• 네덜란드 해안 지역을 커버하는 2년간의 시간 간격 1시간의 Copernicus 위성 데이터를 기반으로 엔드 투 엔드로 모델 훈련.
• 손실 함수로 평균 제곱 오차(MSE) 사용 및 4개 계절과 다중 예측 수준에서 테스트 데이터 기반 성능 평가.

실험 결과

연구 질문

• RQ1 잔차 연결, 병렬 컨볼루션, 이방향 컨볼루션의 통합이 해안 해양 요소 예측 성능에 미치는 영향은 무엇인가?
• RQ2 다양한 계절과 예측 수준(12시간에서 72시간)에서 가장 잘 일반화되는 U-Net 기반 아키텍처는 무엇인가?
• RQ3 제안된 모델이 복잡한 해양 변수인 염도 및 해류 속도 예측에서 표준 U-Net 및 3D U-Net 기반 모델보다 우수한가?
• RQ4 모델 성능은 예측 리드 타임 증가와 계절별 기상 변동성 증가에 따라 어떻게 변화하는가?
• RQ5 물리 방정식에 의존하지 않고도 위성 데이터 기반 딥러닝 모델이 신뢰할 수 있는 다단계 예측을 수행할 수 있는가?

주요 결과

• AsymmInceptionRes-3DDR-UNet 모델은 모든 예측 수준과 계절에서 가장 낮은 테스트 MSE 기록. 12시간 전 예측 시 MSE는 5.15e-02, 72시간 전 예측 시 MSE는 1.41e-01.
• 예측 리드 타임 증가에 따라 성능 저하가 관찰되었지만, AsymmInceptionRes-3DDR-UNet 모델은 다른 모델 대비 오차 증가율이 가장 느렸다.
• 기상 변동성이 더 높은 겨울이 가장 도전적인 상황이었으며, 모든 모델에서 가장 높은 MSE 기록. 반면 여름은 가장 안정적이고 정확한 예측 기록.
• 염도 예측이 가장 어려운 변수로, 해수면 온도 및 해류 속도 대비 항상 더 높은 MSE 기록.
• 병렬 및 이방향 컨볼루션을 통합한 모델(AsymmInceptionRes-3DDR-UNet)은 72시간 전 예측에서 표준 3DDR-UNet 대비 MSE 기준 10.5% 향상되어 아키텍처 개선의 효과를 입증.
• 시각화 결과, AsymmInceptionRes-3DDR-UNet는 겨울 48시간 전 예측 시에도 복잡한 변수인 해류 속도(EastCUR 및 NorthCUR)에 대해 정확하고 공간적으로 일관된 예측 결과 도출.