[논문 리뷰] Global Flood Prediction: a Multimodal Machine Learning Approach

Cynthia Zeng, Dimitris Bertsimas|arXiv (Cornell University)|2023. 01. 29.

Flood Risk Assessment and Management인용 수 6

한 줄 요약

이 논문은 기후 변화에 따른 홍수 위험 예측을 위해 기존의 표형 역사적 홍수 데이터와 위키백과에서 확보한 텍스트 기반 지리적 기술을 융합하는 다중모달 기계학습 프레임워크를 제안한다. 지리적 텍스트에서 문맥 기반 임베딩을 추출하기 위해 DistilBERT를 활용한 전이학습 기반 모델이 사용되었으며, 75%~77%의 ROCAUC 성능을 기록하여 단일 모odal 모델 및 기준 모델을 능가함으로써 장기적 재해 예측에 있어 텍스트 기반 지리적 맥락의 통합이 유의미한 가치를 지닌다는 것을 입증한다.

ABSTRACT

Flooding is one of the most destructive and costly natural disasters, and climate changes would further increase risks globally. This work presents a novel multimodal machine learning approach for multi-year global flood risk prediction, combining geographical information and historical natural disaster dataset. Our multimodal framework employs state-of-the-art processing techniques to extract embeddings from each data modality, including text-based geographical data and tabular-based time-series data. Experiments demonstrate that a multimodal approach, that is combining text and statistical data, outperforms a single-modality approach. Our most advanced architecture, employing embeddings extracted using transfer learning upon DistilBert model, achieves 75\%-77\% ROCAUC score in predicting the next 1-5 year flooding event in historically flooded locations. This work demonstrates the potentials of using machine learning for long-term planning in natural disaster management.

연구 동기 및 목표

• 단기 물리 모델을 초월하여 장기적이고 글로벌 수준의 다년도 홍수 위험 예측 시스템을 개발하는 것.
• 텍스트 기반 지리적 기술이 장기적 홍수 예측 정확도를 향상시키는지 조사하는 것.
• 통계적 데이터와 텍스트 데이터를 융합한 다중모달 학습 방식이 단일 모달 접근 방식보다 효과적인지 평가하는 것.
• 이 프레임워크가 wildland fires 및 가뭄과 같은 다른 자연재해 유형으로 일반화 가능한지 입증하는 것.
• 장기적 재해 대비 및 인프라 계획을 위한 확장 가능한 데이터 기반 도구를 제공하는 것.

제안 방법

• 프레임워크는 두 가지 데이터 모odal을 처리한다: GDIS 및 EM-DAT 데이터셋에서 확보한 표형 시계열 데이터와 위키백과에서 확보한 텍스트 기반 지리적 기술.
• 지역명의 다양한 표현을 보완하기 위해 동의어 매칭 기법을 활용해 지리적 텍스트를 추출한다.
• 텍스트 임베딩은 DistilBERT를 사용해 생성되며, 세 가지 유형으로 구성된다: (1) 원본 동결 모델, (2) 홍수 빈도에 맞춰 미세조정된 모델, (3) 32차원 투영 헤드를 갖춘 전이학습 모델.
• 통계적 특징은 홍수 건수, 피해 비용, 연도 등 총 24개 변수를 포함하며, 재해 유형은 원-핫 인코딩 처리된다.
• 다중모달 예측은 피드포워드 신경망에서의 조기 융합 방식을 통해 통계적 특징과 텍스트 임베딩을 융합한다.
• 모델 훈련은 이진 분류 기반으로 수행되며, 역사적 홍수 발생 횟수가 2회 초과인 지역을 양성 레이블로 설정하고, 성능 평가는 샘플 외부 ROCAUC, 정확도, F1 점수, 균형 정확도를 기반으로 수행된다.

실험 결과

연구 질문

• RQ1 기존의 통계 모델을 초월하여 텍스트 기반 지리적 기술을 통합함으로써 장기적 글로벌 홍수 위험 예측 성능을 향상시킬 수 있는가?
• RQ2 표형 데이터와 텍스트 데이터를 융합한 다중모달 기계학습 접근 방식이 1~5년 후 홍수 위험 예측에서 단일 모달 모델보다 우월한가?
• RQ3 DistilBERT와 같은 사전 학습된 언어 모델에 대해 미세조정 또는 전이학습을 수행함으로써 지리적 텍스트에 대한 홍수 예측 성능이 향상되는가?
• RQ4 텍스트 기반 맥락 정보를 포함함으로써 결정론적 기준 모델(현재 위험 수준이 유지된다는 가정)에 비해 예측 오차가 얼마나 감소하는가?
• RQ5 이 프레임워크는 가뭄이나 산불과 같은 다른 자연재해 유형으로 일반화될 수 있는가?

주요 결과

• 전이학습 기반 DistilBERT를 활용한 다중모달 모델이 1~5년 후 홍수 위험 예측에서 75%~77%의 ROCAUC 성능을 기록하여 단일 모달 모델을 뛰어넘었다.
• 성능이 가장 뛰어난 다중모달 아키텍처는 기준 모델 대비 ROCAUC에서 42个百分点, 균형 정확도에서 25个百分点 향상시켰다.
• 단일 모달 모델(통계 데이터만 사용)은 기준 모델 대비 ROCAUC에서 35个百分点 향상되었으며, 이는 역사적 데이터 자체가 충분한 예측 능력을 지닌다는 것을 시사한다.
• 사전 학습된 DistilBERT를 그대로 사용하거나 미세조정하는 것만으로는 단일 모달 기준 모델을 초월하지 못했으며, 이는 작업에 특화된 적응이 수반된 전이학습의 필수성을 강조한다.
• 이 프레임워크는 다른 재해 유형으로도 잘 일반화되며, 장기적 자연재해 예측 분야에 넓은 적용 가능성을 보여준다.