[논문 리뷰] Uncertainty Quantification of Deep Learning for Spatiotemporal Data: Challenges and Opportunities

Wenchong He, Zhe Jiang|arXiv (Cornell University)|2023. 11. 04.

Data-Driven Disease Surveillance인용 수 4

한 줄 요약

이 논문은 시공간 데이터에 대한 딥러닝에서의 불확실성 정량화(UQ)에 대한 종합적인 개요를 제공하며, 공간-시간 의존성, 비정상성, 물리적 제약 등 고유한 과제들을 강조한다. 데이터 및 모델 불확실성 원천을 물리학에 기반한 신경망과 확률적 딥 생성 모델을 통합하여, 재난 대응 및 의료 영상과 같은 고위험 응용 분야에서 신뢰할 수 있고 불확실성 인식 예측을 위한 프레임워크를 제안한다.

ABSTRACT

With the advancement of GPS, remote sensing, and computational simulations, large amounts of geospatial and spatiotemporal data are being collected at an increasing speed. Such emerging spatiotemporal big data assets, together with the recent progress of deep learning technologies, provide unique opportunities to transform society. However, it is widely recognized that deep learning sometimes makes unexpected and incorrect predictions with unwarranted confidence, causing severe consequences in high-stake decision-making applications (e.g., disaster management, medical diagnosis, autonomous driving). Uncertainty quantification (UQ) aims to estimate a deep learning model's confidence. This paper provides a brief overview of UQ of deep learning for spatiotemporal data, including its unique challenges and existing methods. We particularly focus on the importance of uncertainty sources. We identify several future research directions for spatiotemporal data.

연구 동기 및 목표

• 시공간 데이터에 적용된 딥러닝 모델에서 불확실성 정량화(UQ)의 필수적 필요성을 다루며, 과신된 예측이 심각한 현실 세계의 결과를 초래할 수 있음을 고려한다.
• 시공간 데이터에서의 주요 불확실성 원천을 식별하고 분류하며, 데이터 불확실성(예: 센서 노이즈, 정렬 오류)과 모델 불확실성(예: 분포 이탈, 분포 외 샘플)을 포함한다.
• 복잡한 시공간 의존성, 비정상성, 물리적 제약을 다루는 데 한계가 있는 전통적 UQ 방법의 한계를 검토한다.
• 편미분방정식(PDE) 또는 역문제를 제어하는 시스템에서 불확실성 추정을 향상시키기 위해 물리학에 기반한 신경망(PINNs)과 확률적 딥 생성 모델을 통합하여 제안한다.
• 지리공간 및 동적 시스템에서의 강건하고 확장 가능하며 물리적으로 일관된 불확실성 정량화의 향후 연구 방향을 요약한다.

제안 방법

• 메소드 설계를 위한 가이드로, 데이터 불확실성(예: 센서 노이즈, GPS 오류, 주석 오류)과 모델 불확실성(예: 분포 이탈, 분포 외 샘플)으로 불확실성을 분류한다.
• 의료나 지구물리학적 영상과 같은 역문제에서의 구조적 불확실성을 모델링하기 위해 조건부 VAE, cGAN, 노멀라이징 플로우와 같은 확률적 딥 생성 모델을 활용한다.
• 지배 방정식이 학습 중 잔차 손실 항으로 강제되는 방식으로, 편미분방정식(PDE)을 포함한 물리 법칙을 딥 뉴럴 네트워크에 통합함으로써 물리학에 기반한 신경망(PINNs)을 구현한다.
• 스토캐스틱 초깃조건, 알 수 없는 매개변수, 측정 노이즈 등의 다중 원천에서 기인한 불확실성을, 출력에 대한 분포를 모델링하는 확률적 신경망을 통해 전파한다.
• 지리공간과 특징 공간 양쪽에서 샘플 밀도 조건에 따라 공간적 및 시간적 자동상관관계와 비정상성을 모델링함으로써 불확실성을 고려한다.
• 조건부 노멀라이징 플로우와 잠재공간 모델링을 적용하여, 영상 및 역문제에서 신뢰할 수 있고 물리적으로 일관된 재구성과 함께 불확실성 추정을 생성한다.

실험 결과

연구 질문

• RQ1 공간적 및 시간적 의존성이 존재해 i.i.d. 가정을 위반하는 시공간 데이터에서 딥러닝 모델의 불확실성은 어떻게 효과적으로 정량화할 수 있는가?
• RQ2 시공간 데이터에서 지배적인 불확실성 원천는 무엇이며, 센서 노이즈와 같은 데이터 불확실성과 분포 이탈과 같은 모델 불확실성 간의 차이는 무엇인가?
• RQ3 확률적 또는 혼돈적인 동역학을 갖는 시스템에 대해 물리학에 기반한 신경망(PINNs)은 어떻게 확장되어 불확실성 정량화를 통합할 수 있는가?
• RQ4 의료나 원격 감시 영상 재구성과 같은 역문제에서의 구조적 불확실성을 모델링하는 데 깊이 있는 생성 모델이 수행하는 역할은 무엇인가?
• RQ5 공간-시간 일관성과 물리적 일관성을 유지하면서도 대규모 시공간 데이터에 대해 확장성과 효율성을 확보한 불확실성 추정은 어떻게 실현할 수 있는가?

주요 결과

• 시공간 데이터는 강한 공간적 및 시간적 자동상관관계를 보이며, i.i.d. 가정을 위반하므로, 공간과 시간의 의존성 구조를 명시적으로 모델링하는 불확실성 정량화 방법이 필요하다.
• 시공간 시스템의 데이터 불확실성은 센서 노이즈, GPS 오류, 지ap 등록 정확도 부족 등 다양한 원천에서 기인하며, 이는 모두 예측 및 추론의 불확실성에 기여한다.
• 비정상적인 시공간 시스템에서는 모델 불확실성이 크게 증폭되며, 데이터 분포가 지역이나 시간대에 따라 변할 수 있어 일반화 능력 저하와 분포 외 샘플에 대한 과신된 예측을 초래한다.
• 물리학에 기반한 신경망(PINNs)은 물리 법칙을 모델에 통합함으로써 불확실성을 감소시켜 일관성과 강건성을 향상시키며, 특히 데이터 부족 또는 노이즈가 많은 관측 조건에서 유용하다.
• 조건부 깊이 생성 모델(예: cVAE, 노멀라이징 플로우)은 역문제에서의 구조적 불확실성 추정을 가능하게 하지만, 명시적으로 통합되지 않은 한 도메인 특화 물리적 제약을 간과할 수 있다.
• 미래의 UQ 프레임워크는 데이터, 모델, 물리 법칙의 불확실성을 함께 모델링해야 하며, 특히 혼돈 동역학이나 확률적 지배 방정식을 갖는 시스템에서는 고위험 응용 분야에서 신뢰할 수 있는 예측을 보장하기 위해 필수적이다.