[論文レビュー] Parameter estimation of ODE's via nonparametric estimators

Nicolas Brunel|TU/e Research Portal (Eindhoven University of Technology)|Oct 23, 2007

Advanced Control Systems Optimization被引用数 30

ひとこと要約

本稿では、まずスプラインを用いた非パラメトリック回帰により解曲線を推定し、その後重み付き基準を最小化することでODEパラメータを推定する2段階のパラメトリック推定手法を提案する。主な貢献は、一般な条件下で得られるM推定量のroot-n一貫性および漸近正規性を証明することであり、重み付き基準や形状に配慮した推定量を用いることで性能が向上することを示している。

ABSTRACT

Ordinary differential equations (ODE's) are widespread models in physics, chemistry and biology. In particular, this mathematical formalism is used for describing the evolution of complex systems and it might consist of high-dimensional sets of coupled nonlinear differential equations. In this setting, we propose a general method for estimating the parameters indexing ODE's from times series. Our method is able to alleviate the computational difficulties encountered by the classical parametric methods. These difficulties are due to the implicit definition of the model. We propose the use of a nonparametric estimator of regression functions as a first-step in the construction of an M-estimator, and we show the consistency of the derived estimator under general conditions. In the case of spline estimators, we prove asymptotic normality, and that the rate of convergence is the usual $\sqrt{n}$-rate for parametric estimators. Some perspectives of refinements of this new family of parametric estimators are given.

研究の動機と目的

• 古典的なパラメトリックODE推定法（MLEやLSE）が直面する計算上の課題（高次元非線形最適化や局所最適解の問題）を解消すること。
• ODE解の代理として非パラメトリック回帰を活用することで、直接的なパラメトリック推定の代替として計算がより簡単な手法を開発すること。
• 一般な条件下で得られる2段階M推定量の理論的一貫性および漸近正規性を確立すること。
• 重み関数および解の形状が推定量の性能に与える影響、特に有限標本における影響を調査すること。
• 正の性、有界性などの形状制約を推定プロセスに組み込むことで収束性および効率性が向上する可能性を検討すること。

提案手法

• 観測された時系列データから非パラメトリック回帰（特にスプライン推定量）を用いてODE解の代理を構築する。
• 非パラメトリック代理とODE解との乖離を測る重み付き基準R²ₙ,𝓌(θ)に基づくM推定量を定式化する。
• 2段階推定手順を適用する：まず非パラメトリックスムージングにより軌道ẋₙを推定し、その後基準R²ₙ,𝓌(θ)を最小化することでθを推定する。
• 収束速度の制御および境界付近や解の平坦領域における性能向上を目的に、基準に重み関数を組み込む。
• 漸近展開および関数的デルタ法の議論を用いて推定量の極限分布を導出する。
• 2段階推定量の漸近的挙動が回帰関数の線形汎関数の挙動に依存することを示し、パrameter推定と非パラメトリック回帰誤差を結びつける。

実験結果

リサーチクエスチョン

• RQ1 2段階の非パラメトリックアプローチは、ODEパラメータ推定においてroot-n一貫性および漸近正規性を達成できるか？
• RQ2 基準における重み関数の選択が推定量の収束速度および有限標本における性能に与える影響はいかほどか？
• RQ3 ODE解の形状が推定量の質に及ぼす影響はどの程度か？
• RQ4 非パラメトリック代理に形状制約（例：正の性、有界性）を組み込むことで、推定の効率性が向上し、バイアスが低減できるか？
• RQ5 ノイズが多いまたは不規則に配置されたデータの下で、直接的なパラメトリック推定量（例：MLE, LSE）と比較して2段階法はよりロバストであるか？

主な発見

• スプラインを用いた非パラメトリック回帰に基づく2段階M推定量は、一般な正則性条件下でroot-n一貫性および漸近正規性を有する。
• 重み付き基準R²ₙ,𝓌(θ)は、重みなしバージョンと比較して境界付近や平坦領域におけるバイアスを顕著に低減し、推定量の性能を著しく向上させる。
• 非パラメトリック代理の平均二乗誤差が低くても、その結果として得られるパラメータ推定量のRMSEが高くなることがあるため、微分推定の品質が極めて重要であることが示された。
• 解の形状は直接的に漸近基準R²ₙ,𝓌に影響を与え、結果として推定量が真のパrameterを近似できる能力に影響を及ぼす。特に、平坦領域を有するケース2は、ケース1よりも推定が困難である。
• n ≥ 20のとき、すべてのパラメータについて5%の有意水準でコルモゴロフ・スミルノフ検定（リリーフォース補正付き）が正規性を棄却せず、有限標本における正規近似が良好であることを示している。
• 本手法はノイズの多いデータに対してもロバストであり、カーネル推定量や級数推定量などの他の非パラメトリック推定量へも同様の理論的性質を有する形で拡張可能である。