[논문 리뷰] Learning Stochastic Behaviour from Aggregate Data

Shaojun Ma, Shu Liu외 2명|arXiv (Cornell University)|2020. 02. 10.

Generative Adversarial Networks and Image Synthesis참고 문헌 42인용 수 6

한 줄 요약

이 논문은 개별 궤도가 관측되지 않는 집계 데이터에서 비선형 확률적 동역학을 학습하는 새로운 방법을 제안한다. 이는 포화-플랑크 방정식(Fokker-Planck Equation, FPE)의 약한 형태와 워샤르스타인 GAN(Wasserstein GAN, WGAN) 프레임워크를 활용하여, 예측된 분포와 경험적 분포 간의 워샤르스타인 거리(Wasserstein distance)를 최소화함으로써 확률 밀도의 진화를 직접 FPE를 풀지 않고도 정확하게 모델링할 수 있도록 하는 것이다. 신경망을 사용해 확률미분방정식(stochastic differential equation, SDE)의 드리프트 항을 추정한다.

ABSTRACT

Learning nonlinear dynamics from aggregate data is a challenging problem because the full trajectory of each individual is not available, namely, the individual observed at one time may not be observed at the next time point, or the identity of individual is unavailable. This is in sharp contrast to learning dynamics with full trajectory data, on which the majority of existing methods are based. We propose a novel method using the weak form of Fokker Planck Equation (FPE) -- a partial differential equation -- to describe the density evolution of data in a sampled form, which is then combined with Wasserstein generative adversarial network (WGAN) in the training process. In such a sample-based framework we are able to learn the nonlinear dynamics from aggregate data without explicitly solving the partial differential equation (PDE) FPE. We demonstrate our approach in the context of a series of synthetic and real-world data sets.

연구 동기 및 목표

• 개별 궤도가 관측되지 않거나 식별되지 않는 집계 데이터로부터 비선형 동역학을 학습하는 데 도전하는 것.
• 실제 응용 분야(예: 새의 이주, 사회적 동역학 등)에서 자주 이용 불가능한 전체 궤도 데이터에 의존하는 기존 방법의 한계를 극복하는 것.
• 다른 시간대에 샘플링된 분포로부터 SDE의 드리프트 항을 데이터 기반으로 추론하는 방법을 개발하는 것.
• 개별 수준의 추적 데이터가 없더라도 시간에 따른 밀도 진화의 정확한 보간 및 예측을 가능하게 하는 것.
• 직접 Fokker-Planck 방정식을 풀지 않고도 이론적으로 타당한, 표본 기반의 프레임워크를 제공하는 것.

제안 방법

• 확률 밀도의 진화를 기술하는 스토케스틱 동역학 하에서의 Fokker-Planck 방정식(FPE)의 약한 형태를 문제로 설정한다.
• SDE의 드리프트 항을 워샤르스타인 GAN(WGAN) 프레임워크 내의 생성기(generator)로 간주하고, 약한 FPE의 시험 함수(test function)를 디스criminator로 사용한다.
• 집계 데이터에서 얻은 경험적 분포와 학습된 드리프트를 통해 생성된 분포 간의 워샤르스타인 거리를 최소화한다.
• 신경망을 사용해 드리프트 함수를 매개변수화하여 고차원 시스템으로의 확장성을 확보한다.
• 초기 모델에서는 확산 항을 일정한 값으로 유지하지만, 신경망을 통해 학습 가능한 확산 항으로의 확장을 고려할 수 있다.
• 스토케스틱 경사 하강법(stochastic gradient descent)을 사용해 모델을 엔드 투 엔드로 훈련하며, 약한 FPE를 통해 시간 통합 샘플을 거쳐 역전파된 기울기를 계산한다.

실험 결과

연구 질문

• RQ1 개별 궤도가 제공되지 않는 집계 데이터로부터 진정한 확률적 동역학을 정확히 복원할 수 있는가?
• RQ2 직접 Fokker-Planck 방정식을 풀지 않고도 확률 밀도의 진화를 어떻게 모델링할 수 있는가?
• RQ3 GAN 기반 프레임워크가 관측된 분포와 생성된 분포 간의 워샤르스타인 거리를 매칭함으로써 SDE의 드리프트 항을 효과적으로 학습할 수 있는가?
• RQ4 진짜 드리프트 필드가 코어(curl)인 경우(즉, 발산이 0인 경우), 이 방법의 한계는 무엇인가?
• RQ5 이 프레임워크는 SDE의 알 수 없는 확산 계수를 학습하는 데까지 얼마나 확장될 수 있는가?

주요 결과

• 모델은 경험적 분포와 생성된 분포 간의 워샤르스타인 거리를 최소화함으로써 집계 데이터로부터 SDE의 드리프트 항을 성공적으로 학습한다.
• 코어가 아닌 드리프트 필드를 가진 시뮬레이션 데이터에서, 모델은 그림 5(a)와 (b)에서 보듯이 진짜 벡터장이 정확히 복원된다.
• 진짜 드리프트가 코어 필드인 경우(예: (y, -x)) 모델은 벡터장을 복원하지 못한다. 밀도가 변화하지 않기 때문에 학습에 필요한 신호가 없기 때문이다.
• 이 프레임워크는 알 수 없는 확산 함수 학습으로까지 일반화된다. 드리프트를 忽略할 경우, 모델은 그림 6에서 보듯이 참값인 확산 행렬 σ = [(1,0),(0,2)]를 성공적으로 복원한다.
• 개별 궤도에 접근할 수 없더라도 시간 간점 간의 밀도 진화에 대한 정확한 보간 및 예측이 가능하다.
• 부록의 이론적 분석은 제안된 모델에 대한 오차 한계를 확립하여 통계적 일致성(statistical consistency)을 뒷받침한다.