[论文解读] Learning interaction kernels in stochastic systems of interacting particles from multiple trajectories

Fei Lu, Mauro Maggioni+1 more|arXiv (Cornell University)|Jul 30, 2020

Opinion Dynamics and Social Influence参考文献 49被引用 5

一句话总结

本文提出了一种非参数化、正则化的最大似然估计器，用于从多个观测轨迹中推断随机系统中粒子相互作用核。在强制性条件成立下，该方法建立了相合性及接近最优的收敛速率（与一维非参数回归匹配），离散化误差被控制在1/2阶，通过并行算法和在意见动态与Lennard-Jones模型上的数值测试验证了其有效性。

ABSTRACT

We consider stochastic systems of interacting particles or agents, with dynamics determined by an interaction kernel which only depends on pairwise distances. We study the problem of inferring this interaction kernel from observations of the positions of the particles, in either continuous or discrete time, along multiple independent trajectories. We introduce a nonparametric inference approach to this inverse problem, based on a regularized maximum likelihood estimator constrained to suitable hypothesis spaces adaptive to data. We show that a coercivity condition enables us to control the condition number of this problem and prove the consistency of our estimator, and that in fact it converges at a near-optimal learning rate, equal to the min-max rate of $1$-dimensional non-parametric regression. In particular, this rate is independent of the dimension of the state space, which is typically very high. We also analyze the discretization errors in the case of discrete-time observations, showing that it is of order $1/2$ in terms of the time gaps between observations. This term, when large, dominates the sampling error and the approximation error, preventing convergence of the estimator. Finally, we exhibit an efficient parallel algorithm to construct the estimator from data, and we demonstrate the effectiveness of our algorithm with numerical tests on prototype systems including stochastic opinion dynamics and a Lennard-Jones model.

研究动机与目标

• 解决从随机相互作用粒子系统中多个独立轨迹中学习相互作用核的逆问题。
• 开发一种非参数推断方法，即使在高维状态空间下也能保持相合性并实现接近最优的学习速率。
• 通过强制性条件控制逆问题的条件数，并确保估计器的稳定性。
• 分析并界定离散时间观测设置下的离散化误差，表明当其较大时，会主导抽样误差和近似误差。
• 设计并实现一种高效的并行算法，用于从数据中构建估计器。

提出的方法

• 将推断问题表述为在适应数据与动力学的假设空间上的正则化最大似然估计（MLE）。
• 引入动力学自适应测度与函数空间，以确保估计器在系统随机动力学下具有良好的适定性与稳定性。
• 采用强制性条件以控制条件数，并保证估计器的一致性。
• 通过将总误差分解为抽样、近似与离散化三部分，推导MLE的误差界。
• 利用浓度不等式与随机积分的矩界，控制经验泛函与其期望之间的偏差。
• 设计一种并行算法，以高效地从多个轨迹中计算估计器，从而实现对高维系统的可扩展性。

实验结果

研究问题

• RQ1 能否通过非参数估计器，从随机粒子系统的多个独立轨迹中一致地学习到相互作用核？
• RQ2 该逆问题可达到的最优学习速率是什么？是否可独立于状态空间维度？
• RQ3 时间离散化误差如何影响估计器的收敛性？能否对其进行界定？
• RQ4 在何种条件下，系统的强制性可确保推断问题的稳定性和适定性？
• RQ5 能否设计一种高效且并行的算法，使该推断方法可扩展至大规模系统与多条轨迹？

主要发现

• 所提出的估计器实现了与一维非参数回归的极小极大速率相匹配的学习速率，该速率接近最优且与状态空间维度无关。
• 强制性条件确保了条件数有界，并支持估计器的理论相合性与收敛性保证。
• 在离散时间观测中，离散化误差在时间间隔上被控制在1/2阶，当其较大时，会主导抽样与近似误差，从而阻碍收敛。
• 在给定的正则性与强制性条件下，估计器具有一致性，其收敛速率通过严格的学习理论得以确立。
• 在随机意见动态与Lennard-Jones模型上的数值实验验证了该方法在不同类型相互作用核下的有效性与鲁棒性。
• 并行算法实现了高效计算，使该方法可扩展至高维系统与多条轨迹。