[论文解读] Maximum likelihood estimation of potential energy in interacting particle systems from single-trajectory data

Xiaohui Chen|arXiv (Cornell University)|Jul 21, 2020

Model Reduction and Neural Networks参考文献 22被引用 5

一句话总结

该论文提出了一种基于单条轨迹、连续时间数据的最大似然估计方法，用于估计相互作用粒子系统中相互作用势参数 Θ。尽管维度较高，朴素最大似然估计（vanilla MLE）在平均场极限和长时间动力学下均实现了最优收敛速率，利用对称性避免了正则化，并规避了维度灾难问题。

ABSTRACT

This paper concerns the parameter estimation problem for the quadratic potential energy in interacting particle systems from continuous-time and single-trajectory data. Even though such dynamical systems are high-dimensional, we show that the vanilla maximum likelihood estimator (without regularization) is able to estimate the interaction potential parameter with optimal rate of convergence simultaneously in mean-field limit and in long-time dynamics. This to some extend avoids the curse-of-dimensionality for estimating large dynamical systems under symmetry of the particle interaction.

研究动机与目标

• 解决从有限单条轨迹数据中估计大规模高维相互作用粒子系统中相互作用参数的统计挑战。
• 在配对相互作用按 1/N 缩放的平均场框架下，建立参数估计的理论保证。
• 研究在对称的二次势系统中，估计相互作用矩阵 Θ 时是否需要正则化。
• 证明在对称性和时间依赖性条件下，朴素最大似然估计可实现最优收敛速率。

提出的方法

• 建立具有线性漂移 Θ(X̄_t^N - X_t^N,i) 的 N 体 SDE 系统，对应于二次势能 V(x) = ½xᵀΘx。
• 将估计问题重新表述为 ℝ^Nd 中的高维线性回归问题，其中响应变量为粒子速度，协变量为所有粒子的相对位置。
• 基于 SDE 动力学推导似然函数，并应用似然比推断来估计 Θ，无需正则化。
• 通过 N 体系统与解耦的 Ornstein-Uhlenbeck (OU) 过程之间的耦合论证，利用差分过程 Δ_t^N,i = X̄_t^N - X_t^N,i + Y_t^i 控制估计误差。
• 应用浓度不等式，通过差分过程的 OU 过程结构，控制经验矩与其期望之间的偏差。
• 利用平均回归 OU 过程的性质以及时间与维度上的联合界，建立估计误差的矩和尾部界。

实验结果

研究问题

• RQ1 在无正则化条件下，朴素最大似然估计是否能在高维相互作用粒子系统中实现最优收敛速率？
• RQ2 尽管维度较高，粒子相互作用的对称性是否足以避免在参数估计中使用正则化？
• RQ3 对于二次势系统，在平均场极限和长时间动力学下，MLE 的统计性能如何？
• RQ4 在时间相关性和高维性并存的情况下，估计误差如何随 N、T 和 d 变化？

主要发现

• 朴素最大似然估计器在平均场极限和长时间动力学下，对相互作用矩阵 Θ 的估计均实现了最优收敛速率。
• 估计误差以概率为 O((log d)/N) 有界，且高概率浓度界与 Θ 的最小特征值的倒数成正比。
• 由于粒子系统的对称结构，该方法避免了正则化，该结构在扩展空间中诱导出分块对角回归结构。
• N 体系统与解耦 OU 过程之间的差分过程 Δ_t^N,i 本身也是一个 OU 过程，从而可实现精确的矩和尾部界。
• 以高概率，粒子位置的经验协方差矩阵以 O((log d)/N) 的速率收敛到其期望，且该速率与时间跨度 T 无关。
• 理论保证在以下假设下成立：相互作用矩阵 Θ 为对称正定矩阵，且扩散系数 σ 已知且为常数。