[論文レビュー] Maximum likelihood estimation of potential energy in interacting particle systems from single-trajectory data

Xiaohui Chen|arXiv (Cornell University)|Jul 21, 2020

Model Reduction and Neural Networks参考文献 22被引用数 5

ひとこと要約

本稿では、連続時間の単一軌道データを用いて、相互作用粒子系における相互作用ポテンシャルパラメータ Θ の最尤推定法を提案する。高次元であっても、正則化を回避し、次元の呪いを回避するために対称性を活用することで、平均場極限および長時間ダイナミクスの両方で、バニラ最尤推定（MLE）は最適収束速度を達成する。

ABSTRACT

This paper concerns the parameter estimation problem for the quadratic potential energy in interacting particle systems from continuous-time and single-trajectory data. Even though such dynamical systems are high-dimensional, we show that the vanilla maximum likelihood estimator (without regularization) is able to estimate the interaction potential parameter with optimal rate of convergence simultaneously in mean-field limit and in long-time dynamics. This to some extend avoids the curse-of-dimensionality for estimating large dynamical systems under symmetry of the particle interaction.

研究の動機と目的

• 限られた単一軌道データからの、大規模で高次元の相互作用粒子系における相互作用パラメータ推定という統計的課題に対処すること。
• ペアワイズ相互作用が 1/N のスケーリングを示す平均場状態におけるパラメータ推定の理論的保証を確立すること。
• 対称的で二次的ポテンシャルを持つ系において、相互作用行列 Θ の推定に正則化が必要かどうかを調査すること。
• 対称性と時間的依存性の下で、バニラ最尤推定が最適収束速度を達成することを示すこと。

提案手法

• 線形ドリフト Θ(X̄_t^N - X_t^N,i) を持つ N 粒子 Ito型SDE系を定式化し、二次的ポテンシャルエネルギー V(x) = ½xᵀΘx に対応させる。
• 反応変数を粒子の速度、共変数をすべての粒子間の相対位置とする高次元線形回帰問題 ℝ^Nd に推定問題を再定式化する。
• SDEのダイナミクスに基づく尤度関数を導出し、正則化なしに Θ を推定するための尤度比推定法を適用する。
• N 粒子系と分解可能なオーナイズ・ウーレンプ過程（OU過程）の間のカップリングを用いて、推定誤差を差分過程 Δ_t^N,i = X̄_t^N - X_t^N,i + Y_t^i を通じて制御する。
• 集中不等式を用いて、差分過程のオーナイズ過程構造を活かして、経験モーメントとその期待値との乖離をバインドする。
• 平均回帰的OU過程の性質と、時間および次元にわたる和集合不等式を用いて、推定誤差のモーメントおよび尾部バインドを確立する。

実験結果

リサーチクエスチョン

• RQ1 正則化なしに、バニラ最尤推定が高次元相互作用粒子系において最適収束速度を達成できるか？
• RQ2 粒子間の相互作用における対称性が、高次元であっても正則化の回避を可能にするか？
• RQ3 二次的ポテンシャル系において、平均場極限および長時間ダイナミクス下でのMLEの統計的性能はいかほどか？
• RQ4 時間的依存性と高次元性が存在する中で、推定誤差は N、T、d に対してどのようにスケーリングするか？

主な発見

• バニラ最尤推定器は、平均場極限および長時間ダイナミクスの両方において、相互作用行列 Θ の推定において最適収束速度を達成する。
• 推定誤差は確率的に O((log d)/N) で有界であり、Θ の最小固有値の逆数に比例する高確率的集中バインドが得られる。
• 粒子系の対称的構造のおかげで、拡張空間におけるブロック対角回帰構造が生じ、正則化を回避できる。
• N 粒子系と分解可能なOU過程との間の差分過程 Δ_t^N,i は自身がOU過程であるため、正確なモーメントおよび尾部バインドが可能になる。
• 高確率的に、粒子位置の経験共分散行列は、時間枠 T に依存しない割合 O((log d)/N) で期待値に収束する。
• 理論的保証は、相互作用行列 Θ が対称的かつ正定値であり、拡散係数 σ が既知で一定であるという仮定の下で成り立つ。