[논문 리뷰] DYffusion: A Dynamics-informed Diffusion Model for Spatiotemporal Forecasting

Salva Rühling Cachay, Bo Zhao외 2명|arXiv (Cornell University)|2023. 06. 03.

Hydrological Forecasting Using AI인용 수 21

한 줄 요약

DYffusion은 시간 조건부 보간기와 예측기를 결합하여 확률적 시공간 예측을 위한 dynamics 기반 확산 프레임워크를 도입하고, 고차원 동역학에서 효율적인 다중 단계 예측과 연속 시간 샘플링을 가능하게 한다. SST, Navier-Stokes 흐름, 그리고 스프링-메시 데이터셋에서 메모리 및 스텝 요구를 표준 확산 모델에 비해 줄이면서도 경쟁력 있는 정확도를 달성한다.

ABSTRACT

While diffusion models can successfully generate data and make predictions, they are predominantly designed for static images. We propose an approach for efficiently training diffusion models for probabilistic spatiotemporal forecasting, where generating stable and accurate rollout forecasts remains challenging, Our method, DYffusion, leverages the temporal dynamics in the data, directly coupling it with the diffusion steps in the model. We train a stochastic, time-conditioned interpolator and a forecaster network that mimic the forward and reverse processes of standard diffusion models, respectively. DYffusion naturally facilitates multi-step and long-range forecasting, allowing for highly flexible, continuous-time sampling trajectories and the ability to trade-off performance with accelerated sampling at inference time. In addition, the dynamics-informed diffusion process in DYffusion imposes a strong inductive bias and significantly improves computational efficiency compared to traditional Gaussian noise-based diffusion models. Our approach performs competitively on probabilistic forecasting of complex dynamics in sea surface temperatures, Navier-Stokes flows, and spring mesh systems.

연구 동기 및 목표

• 확률적 시공간 예측을 위한 확산 모델로 복잡한 동역학에 대한 동기를 부여한다.
• 시간 정보를 반영한 보간과 예측을 결합하는 dynamics 기반 확산 프레임워크를 제안한다.
• 메모리 효율성과 샘플링 유연성을 개선하여 장기 예측을 달성한다.
• 모델을 암묵적 동역학 시스템 해에 연결하여 이론적 통찰을 제공한다.
• 해양 표면 온도(SST), Navier-Stokes 흐름, 그리고 스프링-메시 시스템에서 실증적으로 검증한다.

제안 방법

• 표준 확산의 전방 노이즈 제거를 시간 조건부 보간자 I_phi를 통한 시간적 보간 전방 과정으로 대체한다.
• 예측기 네트워크 F_theta를 x_t와 x_{t+h} 사이의 보간에 조건화된 상태에서 x_{t+h}를 예측하도록 학습한다.
• 두 단계 학습: (1) 보간자가 중간 타임스텝을 예측하도록 학습; (2) I_phi를 고정하고 추론 확률성으로 다수의 i_n 스텝에 대해 x_{t+h}를 예측하도록 예측기를 학습한다.
• 다중 보간 타임스텝 i_n를 인덱스로 하는 확산 유사한 스케줄을 사용하여 연속 시간 샘플링을 가능하게 한다.

Figure 1 : Our proposed framework, DYffusion, reimagines the noise-denoise forward-backward processes of conventional diffusion models as an interplay of temporal interpolation and forecasting. On the top row, we illustrate the direct application of a video diffusion model to dynamics forecasting fo

실험 결과

연구 질문

• RQ1 고전적인 가우시안 확산에 비해 dynamics-informed 확산 프로세스가 고차원 시공간 데이터의 확률적 예측을 개선할 수 있는가?
• RQ2 시간 보간과 예측의 결합이 메모리 사용량과 샘플링 스텝 수를 줄이면서 정확도를 유지하거나 향상시킬 수 있는가?
• RQ3 SST, Navier-Stokes, Spring Mesh와 같은 복잡한 동역학 데이터셋에서 DYffusion은 확률적 지표와 효율성 측면에서 어떤 성능을 보이는가?
• RQ4 연속 시간 샘플링 트랙트를 효과적이고 장기 예측에 유용하게 생성할 수 있는가?

주요 결과

• DYffusion은 SST 및 Navier-Stokes에서 CRPS와 MSE 면에서 기준선 대비 경쟁력을 보이며, diffusion 스텝 수가 적어 MCVD보다 샘플링이 더 빠르다.
• DYffusion은 장기 예측에서 뛰어나며 Spring Mesh의 긴 궤적에서 기준선보다 우수하고 특히 분포 밖(out-of-distribution)에서도 강하다.
• 메소드는 horizon h와 함께 일정한 메모리 발자국을 사용하며, 다단 예측 기준선은 많은 시점에 대해 더 큰 메모리를 필요로 한다.
• 샘플링은 중간 확산 스텝을 건너뜀으로써 속도를 높일 수 있으며, 정확도와 속도 간의 trade-off를 조정 가능하다.
• 정성적 결과는 DYffusion이 Navier-Stokes 궤적에서 강력한 기준선보다 미세한 스케일 다이나믹을 더 잘 보존한다는 것을 보여준다.
• 이론적 관점은 DYffusion을 암묵적 동역학 시스템 해solver와 연결하며, 냉 샘플링에서의 Euler 방법과 유사하다.

Figure 4 : Qualitative forecasts for timesteps 2, 6, 24, 46, and 64 (last timestep) of the velocity norm of an example Navier-Stokes test trajectory. Here, we generate five sample trajectories for the best baseline (Dropout) and our method DYffusion, both with $h=16$ , and visualize the one with the