[논문 리뷰] A multivariate water quality parameter prediction model using recurrent neural network

Dhruti Dheda, Ling Cheng|arXiv (Cornell University)|2020. 03. 25.

Hydrological Forecasting Using AI참고 문헌 13인용 수 5

한 줄 요약

이 연구는 호주 버넷 강의 용존 산소 농도를 예측하기 위해 기록된 용존 산소, pH 및 수온 데이터를 활용하여 다변량 수질 예측 모델을 개발한다. 단일 단계 LSTM 모델은 예측 오차 0.01 mg/L을 달성하였고, 다중 단계 모델은 RMSE 0.227 mg/L을 기록하여 딥러닝 기반 정밀하고 시의적인 수질 예측의 가능성을 입증한다. 이는 자원 관리 향상에 기여한다.

ABSTRACT

The global degradation of water resources is a matter of great concern, especially for the survival of humanity. The effective monitoring and management of existing water resources is necessary to achieve and maintain optimal water quality. The prediction of the quality of water resources will aid in the timely identification of possible problem areas and thus increase the efficiency of water management. The purpose of this research is to develop a water quality prediction model based on water quality parameters through the application of a specialised recurrent neural network (RNN), Long Short-Term Memory (LSTM) and the use of historical water quality data over several years. Both multivariate single and multiple step LSTM models were developed, using a Rectified Linear Unit (ReLU) activation function and a Root Mean Square Propagation (RMSprop) optimiser was developed. The single step model attained an error of 0.01 mg/L, whilst the multiple step model achieved a Root Mean Squared Error (RMSE) of 0.227 mg/L.

연구 동기 및 목표

• 기존 수질 모니터링 방식이 비용이 많이 들고 시간이 오래 걸리는 문제를 예측 모델링을 통해 해결하고자 한다.
• 역사적 데이터를 기반으로 한 기계학습 기반 솔루션을 개발하여 수질 악화를 조기에 탐지하고자 한다.
• 용존 산소 농도 예측에서 단일 단계 및 다중 단계 LSTM 모델의 성능을 비교하고자 한다.
• 모델 아키텍처 및 하이퍼파라미터가 수질 파rameter 예측 정확도에 미치는 영향을 평가하고자 한다.
• 시의적이고 데이터 기반의 의사결정을 가능하게 하여 지속 가능한 수자원 관리에 기여하고자 한다.

제안 방법

• 용존 산소, pH 및 수온의 세 가지 입력 특징을 사용하여 단일 LSTM 레이어와 ReLU 활성화 함수를 적용한 다변량 단일 단계 LSTM 모델을 훈련시켰다.
• 두 개의 밀집 연결된 LSTM 레이어를 사용한 다변량 다중 단계 LSTM 모델을 개발하였으며, ReLU 활성화 함수와 RMSprop 최적화를 적용하여 향후 24개 값을 예측하였다.
• 다양한 연도에 걸친 버넷 강의 역사적 수질 데이터를 사용하여 모델를 훈련하였고, 과적합을 방지하기 위해 조기 정지 기법을 적용하였다.
• 모델 훈련은 검증 손실 기반 조기 정지를 적용한 RMSprop 최적화를 사용하였으며, 단일 단계 모델은 400 에포크, 다중 단계 모델은 1000 에포크를 적용하였다.
• 예측 성능 평가에는 근미제곱오차의 제곱근(RMSE)을 사용하였고, 예측된 값과 실제 용존 산소 농도 간의 시각적 비교를 실시하였다.
• 단일 단계 모델은 향후 12시간 뒤의 값을 한 개 예측하였고, 다중 단계 모델은 30분 간격으로 24개의 값을 예측하였다.

실험 결과

연구 질문

• RQ1 다변량 역사적 수질 데이터를 기반으로 한 LSTM 기반 모델이 강의 용존 산소 농도를 정확하게 예측할 수 있는가?
• RQ2 모델 아키텍처(단일 또는 다중 LSTM 레이어)는 예측 정확도와 훈련 동역학에 어떤 영향을 미치는가?
• RQ3 단일 단계 및 다중 단계 LSTM 모델의 최적 훈련 에포크 수는 얼마인가?
• RQ4 다양한 활성화 함수와 최적화 알고리즘이 모델 수렴 및 예측 오차에 어떤 영향을 미치는가?
• RQ5 딥러닝 모델이 수질 모니터링에서 고비용 및 고시간 소모적인 실험실 테스트의 필요성을 얼마나 줄일 수 있는가?

주요 결과

• 단일 단계 LSTM 모델은 예측 오차 0.01 mg/L을 기록하여 향후 용존 산소 농도 한 개를 매우 정밀하게 예측함을 확인하였다.
• 다중 단계 LSTM 모델은 30분 간격으로 향후 24개 값을 예측할 때 근미제곱오차(RMSE)가 0.227 mg/L이었다.
• 단일 단계 모델은 다중 단계 모델보다 적은 훈련 에포크(400)를 요구하였으며, 더 단순한 아키텍처가 더 빠른 수렴을 이끌 수 있음을 시사하였다.
• 다중 단계 모델는 더 높은 오차를 보였지만, 운영 수자원 관리에 필수적인 연속적인 값 예측에서 뛰어난 강건성을 보였다.
• 두 모델 모두 pH 및 수온을 보조 입력으로 사용하였으며, 이는 이들 변수가 용존 산소 농도와 강한 상관관계가 있음을 확인시켰다.
• 결과적으로 LSTM 기반 모델이 수질 파라미터를 효과적으로 예측할 수 있음을 확인하였으며, 이는 수자원의 사전 관리 가능성을 높인다.