[논문 리뷰] Maximum likelihood estimation of potential energy in interacting particle systems from single-trajectory data

Xiaohui Chen|arXiv (Cornell University)|2020. 07. 21.

Model Reduction and Neural Networks참고 문헌 22인용 수 5

한 줄 요약

이 논문은 단일 궤적, 연속 시간 데이터를 사용하여 상호작용 입자 시스템에서 상호작용 잠재력 매개변수 Θ에 대한 최대우도추정법을 제안한다. 높은 차원성에도 불구하고, 대칭성을 활용하여 정규화를 피하고 차원의 고통의 문제를 회피함으로써, 평균장 근사 및 장시간 역학에서 최적의 수렴 속도를 달성하는 순수한 최대우도추정법을 제시한다.

ABSTRACT

This paper concerns the parameter estimation problem for the quadratic potential energy in interacting particle systems from continuous-time and single-trajectory data. Even though such dynamical systems are high-dimensional, we show that the vanilla maximum likelihood estimator (without regularization) is able to estimate the interaction potential parameter with optimal rate of convergence simultaneously in mean-field limit and in long-time dynamics. This to some extend avoids the curse-of-dimensionality for estimating large dynamical systems under symmetry of the particle interaction.

연구 동기 및 목표

• 제한된 단일 궤적 데이터로부터 대규모 고차원 상호작용 입자 시스템의 상호작용 매개변수를 추정하는 통계적 과제를 다루는 것.
• 쌍방향 상호작용이 1/N 비례로 스케일링되는 평균장 영역에서 매개변수 추정에 대한 이론적 보장을 수립하는 것.
• 대칭적이고 이차 잠재력 시스템에서 상호작용 행렬 Θ를 추정할 때 정규화가 필요한지 조사하는 것.
• 대칭성과 시간적 의존성 하에서 순수한 최대우도추정법이 최적의 수렴 속도를 달성할 수 있음을 보여주는 것.

제안 방법

• 선형 드리프트 Θ(X̄_t^N - X_t^N,i)를 갖는 N입자 SDE 시스템을 수립하며, 이는 이차 잠재에너지 V(x) = ½xᵀΘx에 해당한다.
• 반응 변수로 입자 속도, 예측변수로 모든 입자 간 상대 위치를 사용하여, ℝ^Nd에서의 고차원 선형 회귀 문제로 추정 문제를 재구성한다.
• SDE 동역학 기반의 우도 함수를 유도하고, 정규화 없이 Θ를 추정하기 위해 우도비 추론을 적용한다.
• N입자 시스템과 분리된 오르누하임(OU) 과정 사이의 커플링을 사용하여, 차이 과정 Δ_t^N,i = X̄_t^N - X_t^N,i + Y_t^i를 통한 추정 오차를 제어한다.
• 집중부등식을 적용하여 경험적 모멘트가 기대값에서 벗어나지 않도록 제한하며, 차이 과정의 OU 과정 구조를 활용한다.
• 평균 회귀 OU 과정의 성질과 시간 및 차원에 대한 유니온 바OUNDS를 활용하여 추정 오차의 모멘트 및 尾부 경계를 수립한다.

실험 결과

연구 질문

• RQ1 정규화 없이도 고차원 상호작용 입자 시스템에서 순수한 최대우도추정법이 최적의 수렴 속도를 달성할 수 있는가?
• RQ2 입자 상호작용의 대칭성이 고차원성에도 불구하고 정규화를 피할 수 있도록 허용하는가?
• RQ3 이차 잠재력 시스템에서 평균장 근사 및 장시간 역학에서 MLE의 통계적 성능은 어떠한가?
• RQ4 시간적 의존성과 고차원성 하에서 추정 오차는 N, T, d에 따라 어떻게 척도화되는가?

주요 결과

• 순수한 최대우도추정법은 평균장 근사 및 장시간 역학에서 상호작용 행렬 Θ를 추정할 때 최적의 수렴 속도를 달성한다.
• 추정 오차는 확률적으로 O((log d)/N) 이하로 유계이며, Θ의 최소 고유값의 역수 비례하는 고확률 농도 경계를 가진다.
• 입자 시스템의 대칭적 구조 덕분에 정규화를 피할 수 있으며, 이는 확장된 공간에서 블록 대각선 회귀 구조를 유도한다.
• N입자 시스템과 분리된 OU 과정 사이의 차이 과정 Δ_t^N,i 자체가 OU 과정임을 보여주어 정밀한 모멘트 및 尾부 경계를 가능하게 한다.
• 고확률적으로 입자 위치의 경험적 공분산 행렬은 시간 영역 T에 관계없이 O((log d)/N)의 속도로 기대값으로 수렴한다.
• 이론적 보장은 상호작용 행렬 Θ가 대칭적이고 양의 정부호이며, 확산 계수 σ가 알려져 있고 일정하다는 가정 하에 성립한다.