[논문 리뷰] Physics Guided Machine Learning Methods for Hydrology

Ankush Khandelwal, Shaoming Xu외 6명|arXiv (Cornell University)|2020. 12. 02.

Hydrology and Watershed Management Studies참고 문헌 13인용 수 29

한 줄 요약

이 논문은 계류 유량 예측 성능을 햖을 수 있도록 중간 수문학적 상태(토양 수분 및积눈)를 명시적으로 모델링하는 물리 기반 딥러닝 프레임워크를 제안한다. 이는 계층적 LSTM 아키텍처와 SWAT 모델을 결합하여 구현된다. 물리적 제약 조건을 통합하고 200년 분량의 합성 데이터셋을 활용함으로써 데이터 의존도를 감소시키고, 표준 데이터 기반 LSTMs보다 성능을 향상시킨다. 이로 인해 미사용 데이터에 대해 테스트 NSE는 0.73, RMSE는 0.50을 기록한다.

ABSTRACT

Streamflow prediction is one of the key challenges in the field of hydrology due to the complex interplay between multiple non-linear physical mechanisms behind streamflow generation. While physics based models are rooted in rich understanding of the physical processes, a significant performance gap still remains which can be potentially addressed by leveraging the recent advances in machine learning. The goal of this work is to incorporate our understanding of hydrological processes and constraints into machine learning algorithms to improve the predictive performance. Traditional ML models for this problem predict streamflow using weather drivers as input. However there are multiple intermediate processes that interact to generate streamflow from weather drivers. The key idea of the approach is to explicitly model these intermediate processes that connect weather drivers to streamflow using a multi-task learning framework. While our proposed approach requires data about intermediate processes during training, only weather drivers will be needed to predict the streamflow during testing phase. We assess the efficacy of the approach on a simulation dataset generated by the SWAT model for a catchment located in the South Branch of the Root River Watershed in southeast Minnesota. While the focus of this paper is on improving the performance given data from a single catchment, methodology presented here is applicable to ML-based approaches that use data from multiple catchments to improve performance of each individual catchment.

연구 동기 및 목표

• 기계학습 모델에 수문학적 과정을 통합하여 계류 유량 예측의 성능 격차를 해소하고자 한다.
• SWAT 시뮬레이션으로부터의 물리적 제약 조건과 합성 데이터를 통합함으로써 대규모 관측 데이터셋에 대한 의존도를 줄이고자 한다.
• 중간 수문학적 상태(예: 토양 수분, 적설량)를 명시적인 구성 요소로 모델링하여 일반화 능력과 해석 가능성의 향상을 도모하고자 한다.
• 물리적으로 정보가 제공된 아키텍처가 표준 데이터 기반 딥러닝 모델보다 계류 유량 예측에서 우월한가를 평가하고자 한다.
• 표준 LSTMs가 명시적인 아키텍처 가이던스 없이도 물리적 기억 상태를 얼마나 암묵적으로 학습하는가를 탐색하고자 한다.

제안 방법

• 중간 수문학적 상태(토양 수분, 적설량)와 유량(증발산발산, 지표 Runoff)을 위한 별도의 LSTM과 최종 계류 유량 예측 헤드를 결합한 계층적 딥러닝 아키텍처를 설계하였다.
• 유량 보존 원칙을 반영한 예산 제약 손실 함수를 통해 질량 보존 원리를 통합하여 수문학적 구성 요소 간 일관성을 확보하였다.
• 모델의 수렴을 향상시키고 실제 데이터에 대한 의존도를 줄이기 위해 SWAT 모델로 생성된 200년 분량의 합성 데이터셋을 사용하여 사전 훈련하였다.
• 다중 작업 학습 설정에서 훈련을 수행하였으며, 각 작업(예: 토양 수분, 적설량)을 별도로 훈련한 후 공동 훈련을 통해 오류 전파를 정교화하였다.
• LSTM 은닉 상태와 실제 토양 수분 및 적설량 시계열 간 상관관계 분석을 통해 네트워크가 의미 있는 물리적 표현을 학습하는지 평가하여 물리적 해석 가능성을 점검하였다.
• 합성 데이터셋의 훈련 및 테스트 분할에 대해 RMSE와 나쉬-서틀리피 피지션스(이하 NSE)를 사용하여 프레임워크를 평가하였으며, 물리적 구성 요소 유무를 비교하는 탈락 연구를 실시하였다.

실험 결과

연구 질문

• RQ1 딥러닝 아키텍처에 중간 수문학적 상태(토양 수분 및 적설량)를 명시적인 구성 요소로 모델링하면 계류 유량 예측 정확도가 향상되는가?
• RQ2 아키텍처나 손실 함수 가이던스 없이도 표준 LSTMs가 물리적 기억 상태를 얼마나 암묵적으로 학습하는가?
• RQ3 질량 보존과 같은 물리적 제약 조건을 통합할 경우 모델 성능과 수렴 속도에 어떤 영향을 미치는가?
• RQ4 SWAT에서 생성한 200년 분량의 합성 데이터셋을 사용하면 모델의 일반화 능력 향상과 데이터 요구량 감소에 기여하는가?
• RQ5 외부 분포 데이터에 대해 계층적 아키텍처는 종단간 딥러닝 모델보다 더 강건한가?

주요 결과

• 제안된 물리 기반 아키텍처는 미사용 데이터에 대해 테스트 NSE 0.73, RMSE 0.50을 기록하여 표준 LSTMs(비교: NSE 0.62, RMSE 0.72)보다 유의미하게 뛰어난 성능을 보였다.
• 토양 수분과 적설량을 모두 중간 작업으로 모델링한 경우가 가장 우수한 성능을 보였으며, 물리적 요소가 없는 기본 LSTMs 대비 RMSE를 28% 감소시켰다.
• 탈락 연구 결과, 토양 수분만 포함시켜도 기본 모델 대비 성능 향상이 있었지만, 적설량까지 추가함으로써 정확도와 강건성이 더욱 향상됨을 확인하였다.
• 상관관계 분석 결과, 표준 LSTMs도 토양 수분 및 적설량과 유사한 특징를 학습하고 있으나, 정밀도가 낮고 감쇠 동역학이 느려 물리적 일치도가 제한적임을 시사하였다.
• 계층적 설계 덕분에 서로 다른 시간 스케일을 가진 과정을 더 잘 모델링할 수 있었으며, 각 중간 상태에 전용 LSTM을 할당함으로써 학습 효율성이 향상되었다.
• SWAT에서 생성한 200년 분량의 합성 데이터셋 사용이 수렴 시간을 크게 단축시키고 일반화 능력을 향상시켰으며, 특히 데이터가 적은 환경에서 유의미한 효과를 보였다.