[论文解读] ctsmr - Continuous Time Stochastic Modeling in R

Rune Juhl, Jan Kloppenborg Møller+1 more|arXiv (Cornell University)|Jun 1, 2016

Neural Networks and Applications参考文献 1被引用 26

一句话总结

ctsrm R 包提供了一个通用框架，用于使用随机微分方程（SDEs）和通过卡尔曼滤波实现的最大似然估计，识别并估计连续-离散时间灰箱模型。该框架支持对不规则采样数据的动态系统进行灵活且具有物理解释性的建模，并在模拟示例中展示了准确的参数恢复能力，包括药代动力学和热力系统。

ABSTRACT

ctsmr is an R package providing a general framework for identifying and estimating partially observed continuous-discrete time gray-box models. The estimation is based on maximum likelihood principles and Kalman filtering efficiently implemented in Fortran. This paper briefly demonstrates how to construct a Continuous Time Stochastic Model using multivariate time series data, and how to estimate the embedded parameters. The setup provides a unique framework for statistical modeling of physical phenomena, and the approach is often called grey box modeling. Finally three examples are provided to demonstrate the capabilities of ctsmr.

研究动机与目标

• 开发一个灵活、通用的 R 包，用于具有部分状态观测的物理系统的连续时间随机建模。
• 通过结合 SDEs 与离散时间观测的灰箱框架，将物理知识整合到统计模型中。
• 利用最大似然估计和卡尔曼滤波技术，实现高效参数估计和模型验证。
• 支持不规则采样时间序列数据以及非线性、非平稳或时变系统。
• 提供用于模型识别、置信区间估计以及基于 AIC、BIC 和轮廓似然的模型选择的工具。

提出的方法

• 使用 Itô 随机微分方程（SDEs）构建连续-离散时间状态空间模型，描述系统动态。
• 采用离散时间测量方程将观测输出与未观测状态关联，引入加性高斯测量噪声。
• 使用扩展卡尔曼滤波器（EKF）高效计算用于参数估计的对数似然函数。
• 应用最大似然估计（MLE）推断未知参数，包括漂移项、扩散项和测量噪声项。
• 实现参数估计，包含初始值和边界约束，并支持轮廓似然以计算置信区间。
• 使用 Fortran 优化的卡尔曼滤波以提高计算效率，并在多变量场景中实现可扩展性。

实验结果

研究问题

• RQ1 如何从不规则采样多变量时间序列数据中高效估计连续时间随机模型？
• RQ2 在允许未知参数和过程噪声的前提下，物理系统知识在多大程度上可以被整合到统计模型中？
• RQ3 在具有部分状态观测的非线性 SDE 基础模型中，通过最大似然估计和 EKF 获得的参数估计精度如何？
• RQ4 与轮廓似然区间相比，Wald 置信区间在 SDE 参数的覆盖性和准确性方面表现如何？
• RQ5 ctsrm 框架是否能通过参数追踪和不确定性量化有效识别并修正模型缺陷？

主要发现

• ctsrm 包成功估计了药代动力学模型中的参数，真实值为 $k_a = 0.025$，$k_e = 0.08$，$σ_1 = 2$，估计值分别为 $0.0249$，$0.0795$，$1.711$，且 95% 置信区间覆盖了真实值。
• 参数的轮廓似然曲线与 Wald 近似非常接近，表明标准误可靠，置信区间覆盖性能良好。
• 当所有状态均引入扩散项时，Wald 近似与轮廓似然出现显著偏差，凸显了在模型复杂性增加时二阶近似的局限性。
• 模型准确恢复了初始状态值：$x_{10} = 34.492$（真实值：40），$x_{20} = 36.799$（真实值：35），$x_{30} = 10.624$（真实值：11），且置信区间包含真实值。
• 该框架通过 Fortran 优化的卡尔曼滤波支持高效并行化估计，可在多变量和非线性系统中实现快速计算。
• 该包通过 AIC、BIC 和轮廓似然等基于似然的准则支持模型验证与识别，促进稳健的统计推断。