[논문 리뷰] LEADS: Learning Dynamical Systems that Generalize Across Environments

Yuan Yin, Ibrahim Ayed외 3명|arXiv (Cornell University)|2021. 06. 08.

Model Reduction and Neural Networks참고 문헌 6인용 수 5

한 줄 요약

LEADS는 환경 간 일반화를 위해 역학적 시스템을 공유되는 요소와 환경에 특화된 요소로 분해하는 새로운 프레임워크를 제안한다. 공통 역학과 환경에 따라 달라지는 변동성을 동시에 최적화함으로써, 더 적은 데이터로도 뛰어난 일반화 성능을 달성하고, 훈련된 바 없는 환경으로도 효과적인 제로샷 전이를 가능하게 하여, 단일 모델 및 환경별 기준선보다 뛰어난 성능을 보인다.

ABSTRACT

When modeling dynamical systems from real-world data samples, the distribution of data often changes according to the environment in which they are captured, and the dynamics of the system itself vary from one environment to another. Generalizing across environments thus challenges the conventional frameworks. The classical settings suggest either considering data as i.i.d. and learning a single model to cover all situations or learning environment-specific models. Both are sub-optimal: the former disregards the discrepancies between environments leading to biased solutions, while the latter does not exploit their potential commonalities and is prone to scarcity problems. We propose LEADS, a novel framework that leverages the commonalities and discrepancies among known environments to improve model generalization. This is achieved with a tailored training formulation aiming at capturing common dynamics within a shared model while additional terms capture environment-specific dynamics. We ground our approach in theory, exhibiting a decrease in sample complexity with our approach and corroborate these results empirically, instantiating it for linear dynamics. Moreover, we concretize this framework for neural networks and evaluate it experimentally on representative families of nonlinear dynamics. We show that this new setting can exploit knowledge extracted from environment-dependent data and improves generalization for both known and novel environments. Code is available at https://github.com/yuan-yin/LEADS.

연구 동기 및 목표

• 역학적 시스템 학습에서 환경 간 데이터 분포의 이동 문제를 해결하기 위해 i.i.d. 가정의 한계를 극복한다.
• 분포 이동로 인해 편향이 발생하는 단일 글로벌 모델과 데이터 부족으로 인해 일반화 성능이 떨어지는 환경별 모델의 단점을 해결한다.
• 공통 요소를 활용하면서도 차이를 모델링함으로써 일반화 성능을 향상시킨다.
• 최소한의 데이터로 새로운, 훈련되지 않은 환경으로 효과적인 일반화를 가능하게 한다.
• 비선형 역학적 시스템에 대해 이론적으로 탄탄하고 샘플 효율적인 학습 프레임워크를 제공한다.

제안 방법

• 학습된 역학을 모든 환경에서 공통되는 동역학을 포착하는 공유 성분과 잔차 동역학을 위한 환경에 특화된 성분으로 분해한다.
• 모든 데이터를 사용해 공유 모델을 최적화하고, 각 환경의 데이터를 사용해 환경에 특화된 모델을 최적화하는 학습 목표를 설정한다.
• 공유 성분은 모든 환경에서 훈련되고, 환경에 따라 맞춤형으로 조정되는 환경에 특화된 헤드를 갖춘 신경망 아키텍처를 사용한다.
• 두 단계 훈련 전략을 적용한다: 먼저 공유 성분을 사전 훈련하고, 이후 제한된 데이터로 환경에 특화된 헤드를 미세 조정한다.
• 이론적 분 析을 통해 온건한 조건 하에서 기존 기준선 대비 샘플 복잡도가 감소함을 입증한다.
• 완전한 궤적과 부분 궤적 데이터를 사용해 ODEs(Lotka-Volterra), PDEs(Grey-Scott), Navier-Stokes 방정식에 대해 프레임워크를 검증한다.

실험 결과

연구 질문

• RQ1 공유 및 환경에 특화된 동역학을 동시에 모델링하는 것이 One-For-All 및 One-Per-Env. 기준선 대비 일반화 오차를 향상시키는가?
• RQ2 공유 성분이 훈련 중에 보지 못한 새로운 환경으로의 효과적인 일반화를 가능하게 하는가?
• RQ3 선형 동역학 케이스에서 LEADS의 샘플 복잡도는 전통적 접근법과 비교해 어떻게 되는가?
• RQ4 제한된 환경별 데이터에서 분해 전략이 성능 향상에 얼마나 기여하는가?
• RQ5 이 프레임워크는 전체 궤적과 Navier-Stokes와 같은 복잡한 PDE에도 일반화 가능한가?

주요 결과

• LEADS는 One-Per-Env. 및 One-For-All 기준선보다 훨씬 낮은 테스트 MSE를 달성하며, 특히 환경당 데이터가 적을 경우 두드러진다.
• Navier-Stokes 데이터셋에서 환경당 8,000개의 데이터 포인트만 사용했을 때, LEADS는 10,000개의 훈련 스텝 후 테스트 MSE를 7.14e-3으로 줄였고, One-Per-Env.(1.18e-2) 및 사전 훈련 전용 기준선(1.75e-1)을 모두 앞섰다.
• Gray-Scott PDE의 경우, LEADS는 10,000스텝 후 테스트 MSE 1.27e-3을 기록했으며, One-Per-Env.(3.05e-3) 및 사전 훈련 전용 기준선(5.44e-3)을 모두 초월했다.
• 제로샷 전이 테스트에서, LEADS는 미세 조정된 환경 헤드를 사용해 Lotka-Volterra에서 10,000스텝 후 테스트 MSE 1.11e-3을 달성했고, 처음부터 학습한 One-Per-Env.의 3.05e-3보다 우수했다.
• 전체 궤적 예측 결과에서 LEADS는 실제값과 매우 유사한 예측을 보였으며, One-Per-Env. 및 FT-NODE 기준선 대비 훨씬 낮은 오차 지도를 기록했다.
• 이론적 분석을 통해 LEADS가 전통적 설정 대비 샘플 복잡도를 감소시킴을 확인했으며, 특히 선형 동역학 케이스에서 이론과 실무가 일치함을 입증했다.