[논문 리뷰] Regression modelling of spatiotemporal extreme U.S. wildfires via partially-interpretable neural networks

J. Ian Richards, Raphaël Huser|arXiv (Cornell University)|2022. 08. 16.

Fire effects on ecosystems인용 수 7

한 줄 요약

이 논문은 시공간 wildfulre 데이터에서 극단적 분위수 회귀를 위한 부분적으로 해석 가능한 신경망(PINN) 프레임워크를 제안한다. 이는 딥러닝의 예측 능력과 해석 가능한 선형 및 스퍼블 기반 성분을 융합한다. 극단적 확률 모델링에서 유한한 하한 문제를 해결하기 위해 새로운 bGEV-PP 점과정 모델을 도입하여, 선형 및 스퍼블 기반 방법보다 뛰어난 예측 성능을 달성한다. 이는 미국의 극단적 화재 피해 면적을 모델링할 때 성과를 보였다.

ABSTRACT

Risk management in many environmental settings requires an understanding of the mechanisms that drive extreme events. Useful metrics for quantifying such risk are extreme quantiles of response variables conditioned on predictor variables that describe, e.g., climate, biosphere and environmental states. Typically these quantiles lie outside the range of observable data and so, for estimation, require specification of parametric extreme value models within a regression framework. Classical approaches in this context utilise linear or additive relationships between predictor and response variables and suffer in either their predictive capabilities or computational efficiency; moreover, their simplicity is unlikely to capture the truly complex structures that lead to the creation of extreme wildfires. In this paper, we propose a new methodological framework for performing extreme quantile regression using artificial neutral networks, which are able to capture complex non-linear relationships and scale well to high-dimensional data. The "black box" nature of neural networks means that they lack the desirable trait of interpretability often favoured by practitioners; thus, we unify linear, and additive, regression methodology with deep learning to create partially-interpretable neural networks that can be used for statistical inference but retain high prediction accuracy. To complement this methodology, we further propose a novel point process model for extreme values which overcomes the finite lower-endpoint problem associated with the generalised extreme value class of distributions. Efficacy of our unified framework is illustrated on U.S. wildfire data with a high-dimensional predictor set and we illustrate vast improvements in predictive performance over linear and spline-based regression techniques.

연구 동기 및 목표

• 복잡한 시공간 예측 변수 하에서 미국 본토의 화재 피해 면적의 극단적 분위수를 정확하게 추정하는 통계적 프레임워크를 개발하는 것.
• 전통적인 선형 및 가산 모델이 극단적 화재를 이끄는 비선형적이고 고차원적인 관계를 포착하는 데 한계를 보이는 문제를 해결하는 것.
• 파arametric 극단가치 이론의 강력한 꼬리 모델링 능력과 딥 뉴럴 네트워크의 예측 효율성을 통합하는 것.
• 극단적 가치 점과정 모델에서 신경망 학습을 방해하는 유한한 하한 문제를 극복하는 것.
• 부분적 해석 가능성으로 고도의 예측 정확도를 유지하면서도 화재 위험 요인에 대한 통계적 추론을 가능하게 하는 것.

제안 방법

• 프레임워크는 시공간 예측 변수의 함수로 극단적 화재 피해 면적의 분위수를 모델링하기 위해 선형, 가산 및 딥러닝 성분을 융합한 부분적으로 해석 가능한 신경망(PINNs)을 활용한다.
• 표준 GEV 기반 강도 함수에서 흔히 발생하는 유한한 하한 문제를 피하기 위해, 새로운 bGEV-PP(beyond generalized extreme value point process) 모델을 제안하여 극단적 사건을 모델링한다.
• 화재 발생과 확산을 별도로 모델링하기 위해 복합 모델링 접근법을 사용하며, 이는 공동 위험 평가를 가능하게 한다.
• 격자형 예측 변수 데이터의 공간 패턴을 포착하기 위해 컨볼루션 신경망(CNNs)을 사용하며, 영역 외부의 예측 변수 값을 전역 평균으로 설정하여 가장자리 효과를 완화한다.
• 극단적 가치 이론과 신경망을 통합하기 위해, 블록 최댓값 또는 임계값 초과를 bGEV-PP 모델로 모델링함으로써 극단적 가치 渐近 이론에 이론적 기반을 마련한다.
• 재현 가능성과 공동체 접근성을 위해 전체 방법론에 대한 R 패키지 pinnEV를 개발하였다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크는 극단적 시공간 사건 모델링에서 높은 예측 정확도를 유지하면서도 통계적 추론에 충분히 해석 가능한 방식으로 어떻게 설계될 수 있는가?
• RQ2 새로운 점과정 모델은 신경망 학습 중에 극단적 가치 강도 함수의 유한한 하한 문제를 어떻게 해결할 수 있는가?
• RQ3 컨볼루션 신경망은 선형 또는 스퍼블 기반 모델에 비해 미국의 극단적 화재 공간 패턴 모델링에서 예측 성능을 얼마나 향상시키는가?
• RQ4 극단적 화재 사건을 이끄는 주요 환경 및 기후 예측 변수는 무엇이며, 그 영향은 공간적·시간적으로 어떻게 변화하는가?
• RQ5 극단적 가치 이론, 신경망, 해석 가능한 성분을 통합한 통합 프레임워크는 전통적 회귀 및 딥러닝 접근법보다 극단적 분위수 추정에서 더 뛰어난 성능을 보일 수 있는가?

주요 결과

• 제안된 PINN 프레임워크는 미국 화재 피해 면적의 극단적 분위수 추정에서 전통적인 선형 및 스퍼블 기반 회귀 모델보다 예측 성능을 크게 향상시켰다.
• 컨볼루션 신경망은 예측 변수의 공간 패턴을 포착하는 데 뛰어난 능력을 보이며, 화재 확산 모델링의 예측 정확도를 향상시켰다.
• bGEV-PP 점과정 모델은 강도 함수의 유한한 하한 문제를 성공적으로 회피하여, 극단적 가치 모델링을 위한 더 안정적이고 신뢰할 수 있는 신경망 학습을 가능하게 하였다.
• 프레임워크는 예측 변수 효과에 대한 통계적 추론을 가능하게 하여, 온도, 가뭄, 바람 세기와 같은 극단적 화재 위험의 주요 원인을 드러내었으며, 선형 및 스퍼블 성분의 해석 가능한 기여도를 제공하였다.
• pinnEV R 패키지가 공개되어 재현 가능성을 확보하고, 환경 위험 모델링 분야에서의 보다 넓은 적용을 지원하고 있다.