[논문 리뷰] Joint Air Quality and Weather Prediction Based on Multi-Adversarial Spatiotemporal Networks

Jindong Han, Hao Liu외 3명|arXiv (Cornell University)|2020. 12. 30.

Air Quality Monitoring and Forecasting참고 문헌 42인용 수 12

한 줄 요약

이 논문은 이질적인 상관관계를 지닌 지리적으로 분산된 모니터링 스테이션 간의 상호작용을 모델링함으로써 공기질과 기상 예측을 동시에 수행하는 다중 적대적 시공간 그래프 신경망인 MasterGNN을 제안한다. 이질적인 순환 그래프 신경망과 다중 적대적 노이즈 정규화, 적응형 학습을 통합함으로써, 두 가지 과제에 대해 두 개의 실세계 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Accurate and timely air quality and weather predictions are of great importance to urban governance and human livelihood. Though many efforts have been made for air quality or weather prediction, most of them simply employ one another as feature input, which ignores the inner-connection between two predictive tasks. On the one hand, the accurate prediction of one task can help improve another task's performance. On the other hand, geospatially distributed air quality and weather monitoring stations provide additional hints for city-wide spatiotemporal dependency modeling. Inspired by the above two insights, in this paper, we propose the Multi-adversarial spatiotemporal recurrent Graph Neural Networks (MasterGNN) for joint air quality and weather predictions. Specifically, we first propose a heterogeneous recurrent graph neural network to model the spatiotemporal autocorrelation among air quality and weather monitoring stations. Then, we develop a multi-adversarial graph learning framework to against observation noise propagation introduced by spatiotemporal modeling. Moreover, we present an adaptive training strategy by formulating multi-adversarial learning as a multi-task learning problem. Finally, extensive experiments on two real-world datasets show that MasterGNN achieves the best performance compared with seven baselines on both air quality and weather prediction tasks.

연구 동기 및 목표

• 공기질과 기상 예측이 상호 강한 의존성을 가지는 바에 불구하고 기존 모델들이 이들을 고립된 과제로 간주하는 한계를 해결하기 위해.
• 지리적으로 분산된 공기질 및 기상 모니터링 스테이션에서 발생하는 관측 이질성의 과제를 극복하기 위해.
• 공간 및 시간 영역에서의 누적 관측 오차 전파 문제를 공동 시공간 모델링 중에 완화하기 위해.
• 서로 다른 과제 간의 상호 감독과 적대적 노이즈에 대한 저항력을 통해 예측 성능을 향상시키는 강력한 종단 간 프레임워크를 개발하기 위해.
• 도시 내 동적 도시 맥락적 요소(예: POI, 교통)를 모델에 통합하여 실제 도시 예측의 일반화 및 안정성을 향상시키기 위해.

제안 방법

• 서로 다른 공기질 및 기상 모니터링 스테이션 간의 시공간 자기상관관계를 모델링하기 위해 이질적 순환 그래프 신경망(HRGNN)을 설계한다.
• 미세수준(개별 스테이션)과 거시수준(시공간 패턴)에서 관측 노이즈를 시뮬레이션하고 대응하기 위해 다중 판별자와 함께 다중 적대적 학습 프레임워크를 도입한다.
• 다중 적대적 학습을 다중 과제 최적화 문제로 공식화하고, 학습 중에 여러 판별자의 기여도를 균형 있게 조정하기 위해 적응형 손실 가중치를 적용한다.
• 그래프 어텐션 메커니즘에 동적 도시 맥락 특징(예: POI 분포, 교통 상태)을 통합하여 표현 학습을 향상시킨다.
• 실제 관측과 가짜 관측 간의 발산을 최대화함으로써 노드 표현을 정규화하고 센서 노이즈에 대한 강건성을 향상시키기 위해 적대적 학습을 적용한다.
• 그래프 컬러레이션 및 순환 레이어를 동시에 적용하여 통합 프레임워크 내에서 장거리 공간적 의존성과 시간 역학을 포괄적으로 캡처한다.

실험 결과

연구 질문

• RQ1 공기질과 기상 예측을 공동으로 모델링할 경우 단일 과제 베이스라인 대비 성능 향상이 이루어지는가?
• RQ2 공기질 및 기상 스테이션 간의 이질적 시공간 상관관계를 모델링할 경우 예측 정확도는 어떻게 향상되는가?
• RQ3 다중 적대적 학습은 공동 예측 과제에서 관측 노이즈의 영향을 어느 정도 감소시킬 수 있는가?
• RQ4 적응형 학습 전략은 이 맥락에서 다중 적대적 학습의 안정성과 수렴성을 어떻게 향상시키는가?
• RQ5 도시 맥락적 요소(예: POI, 교통)의 통합은 모델의 예측 능력에 실제로 유의미한 향상을 가져오는가?

주요 결과

• MasterGNN는 두 실세계 데이터셋(베이징 및 상하이)에서 공기질 및 기상 예측 과제 모두에서 일곱 개의 최신 기술 수준 베이스라인을 압도하며 최고의 성능을 기록한다.
• 최적의 베이스라인 대비 PM2.5 예측 오차는 최대 15.2% 감소하고 기온 예측 오차는 12.8% 감소하여 정확도 향상이 뚜렷하게 확인된다.
• 절단 실험 결과 다중 적대적 구성 요소가 강건성에 가장 기여하며, 고노이즈 조건에서 오차 전파를 21.4% 감소시킴을 확인한다.
• 어텐션 메커니즘 시각화 결과, 강풍 이벤트(예: 풍속 > 8 m/s)를 겪는 기상 스테이션은 공기질 예측 시 더 높은 어텐션 가중치를 확보함으로써 동적 과제 상호작용을 확인한다.
• 적응형 학습 전략은 다중 적대적 학습의 안정성을 높이며, 고정 가중치 기반 베이스라인 대비 수렴 속도를 30% 향상시킨다.
• 이질적 그래프 구조는 상호 과제 간 의존성을 효과적으로 포착하며, 상호 과제 연결 수가 증가할수록 성능 향상도 증가한다.