[論文レビュー] Learning interaction kernels in heterogeneous systems of agents from multiple trajectories

Fei Lu, Mauro Maggioni+1 more|arXiv (Cornell University)|Jan 1, 2021

Opinion Dynamics and Social Influence被引用数 30

ひとこと要約

本稿では、複数の観測軌道から、非パrametricな手法を用いて異種エージェント系における相互作用カーネルを学習する手法を提案する。最小二乗推定を用い、$L^2$空間で最適なミニマックスレートに収束する。この手法はスケーラブルで並列処理が可能であり、ノイズや短時間データが存在する場合でも、意見形成、捕食者・群れ、粒子系において堅牢な性能を示す。

ABSTRACT

Systems of interacting particles or agents have wide applications in many disciplines such as Physics, Chemistry, Biology and Economics. These systems are governed by interaction laws, which are often unknown: estimating them from observation data is a fundamental task that can provide meaningful insights and accurate predictions of the behaviour of the agents. In this paper, we consider the inverse problem of learning interaction laws given data from multiple trajectories, in a nonparametric fashion, when the interaction kernels depend on pairwise distances. We establish a condition for learnability of interaction kernels, and construct estimators that are guaranteed to converge in a suitable $L^2$ space, at the optimal min-max rate for 1-dimensional nonparametric regression. We propose an efficient learning algorithm based on least squares, which can be implemented in parallel for multiple trajectories and is therefore well-suited for the high dimensional, big data regime. Numerical simulations on a variety examples, including opinion dynamics, predator-swarm dynamics and heterogeneous particle dynamics, suggest that the learnability condition is satisfied in models used in practice, and the rate of convergence of our estimator is consistent with the theory. These simulations also suggest that our estimators are robust to noise in the observations, and produce accurate predictions of dynamics in relative large time intervals, even when they are learned from data collected in short time intervals.

研究の動機と目的

• 観測された軌道から、マルチエージェント系における未知の相互作用法則を学ぶ逆問題に対処すること。
• 対間距離に依存する相互作用カーネルを非パラメトリックに推定するフレームワークを構築すること。
• $L^2$空間における学習可能性条件を確立することで、理論的収束保証を確保すること。
• 高次元・大規模データ環境に適したスケーラブルで並列処理可能なアルゴリズムを設計すること。
• ノイズのある観測や限られた時間データ下でも、推定子の堅牢性と予測精度を実証すること。

提案手法

• 相互作用カーネルを対間距離から推定する非パラメトリック回帰問題として$L^2$空間に定式化する。
• 相互作用カーネルの一致した推定子の存在を保証する学習可能性条件を導入する。
• 1次元非パラメトリック回帰における最適ミニマックスレートに収束する最小二乗推定子を構築する。
• 複数の軌道に跨って並列処理可能な形でアルゴリズムを実装し、大規模データ環境におけるスケーラビリティを実現する。
• 数値シミュレーションを用いて理論的収束レートとノイズ・短時間観測窓に対する堅牢性を検証する。

実験結果

リサーチクエスチョン

• RQ1 異種エージェント系における相互作用カーネルは、複数の軌道からどのような条件下で学習可能か？
• RQ2 非パラメトリック推定子は、このような系において$L^2$空間で最適ミニマックス収束レートに達するか？
• RQ3 提案された最小二乗推定子は、意見形成や群れ行動といった多様なエージェントダイナミクスにおいて実際の応用でどのように性能を発揮するか？
• RQ4 実世界のデータにおけるノイズや短時間観測間隔に対して、推定子はどの程度堅牢か？
• RQ5 この手法は、高次元・大規模な軌道データにスケーリングするために、効率的に並列化可能か？

主な発見

• 提案された学習可能性条件は、意見形成、捕食者・群れ系、異種粒子ダイナミクスといった実用的モデルで満たされている。
• 最小二乗推定子は、$L^2$空間における1次元非パラメトリック回帰で最適ミニマックスレートに収束する。
• 数値シミュレーションにより、推定子の収束レートが理論的予測と一致することが確認された。
• 観測ノイズに対しても手法は堅牢であり、長時間にわたる予測を正確に維持する。
• 短時間の観測期間での学習でさえも、信頼性の高い長期的ダイナミクス予測を生成する。