[论文解读] Learning interaction kernels in heterogeneous systems of agents from multiple trajectories

Fei Lu, Mauro Maggioni+1 more|arXiv (Cornell University)|Jan 1, 2021

Opinion Dynamics and Social Influence被引用 30

一句话总结

本文提出一种非参数方法，从多个观测轨迹中学习异质代理系统中的交互核函数，采用最小二乘估计，其在 $L^2$ 空间中达到最优的极小极大收敛速率。该方法具有可扩展性与可并行性，在意见动态、捕食者-群体与粒子系统中表现出稳健性能，即使在噪声数据或短时数据条件下亦然。

ABSTRACT

Systems of interacting particles or agents have wide applications in many disciplines such as Physics, Chemistry, Biology and Economics. These systems are governed by interaction laws, which are often unknown: estimating them from observation data is a fundamental task that can provide meaningful insights and accurate predictions of the behaviour of the agents. In this paper, we consider the inverse problem of learning interaction laws given data from multiple trajectories, in a nonparametric fashion, when the interaction kernels depend on pairwise distances. We establish a condition for learnability of interaction kernels, and construct estimators that are guaranteed to converge in a suitable $L^2$ space, at the optimal min-max rate for 1-dimensional nonparametric regression. We propose an efficient learning algorithm based on least squares, which can be implemented in parallel for multiple trajectories and is therefore well-suited for the high dimensional, big data regime. Numerical simulations on a variety examples, including opinion dynamics, predator-swarm dynamics and heterogeneous particle dynamics, suggest that the learnability condition is satisfied in models used in practice, and the rate of convergence of our estimator is consistent with the theory. These simulations also suggest that our estimators are robust to noise in the observations, and produce accurate predictions of dynamics in relative large time intervals, even when they are learned from data collected in short time intervals.

研究动机与目标

• 解决从观测轨迹中学习多代理系统中未知交互规律的逆问题。
• 为依赖于成对距离的交互核函数构建非参数估计框架。
• 通过在 $L^2$ 空间中建立可学习性条件，确保理论上的收敛保证。
• 设计一种适用于高维、大数据环境的可扩展、可并行算法。
• 在噪声观测与有限时间数据条件下，展示估计器的鲁棒性与预测准确性。

提出的方法

• 将逆问题表述为 $L^2$ 空间中的非参数回归任务，其中交互核函数基于成对距离进行估计。
• 引入一个可学习性条件，以确保交互核函数存在一致估计器。
• 构建在 1D 非参数回归中达到最优极小极大收敛速率的最小二乘估计器。
• 通过在多个轨迹上并行实现算法，以支持在大数据环境下的可扩展性。
• 利用数值模拟验证理论收敛速率以及对噪声和短观测窗口的鲁棒性。

实验结果

研究问题

• RQ1 在何种条件下，可以从多个轨迹中学习异质代理系统中的交互核函数？
• RQ2 非参数估计器是否能在 $L^2$ 空间中实现此类系统下最优的极小极大收敛速率？
• RQ3 所提出的最小二乘估计器在意见形成与群体行为等多样化代理动力学中实际表现如何？
• RQ4 在真实世界数据中，该估计器对噪声与短观测间隔的鲁棒性程度如何？
• RQ5 该方法能否高效并行化，以扩展至高维、大规模轨迹数据？

主要发现

• 所提出的可学习性条件在实际模型中成立，如意见动态、捕食者-群体系统与异质粒子动力学。
• 最小二乘估计器在 $L^2$ 空间中实现了 1D 非参数回归的最优极小极大收敛速率。
• 数值模拟证实，估计器的收敛速率与理论预测一致。
• 该方法对观测噪声保持鲁棒，在长时间区间内仍能维持准确预测。
• 即使在短时间区间内进行训练，估计器仍能生成可靠的长期动态预测。