[论文解读] Sequential Inference for Latent Force Models

Jouni Hartikainen, Simo Särkkä|arXiv (Cornell University)|Feb 14, 2012

Target Tracking and Data Fusion in Sensor Networks参考文献 7被引用 15

一句话总结

本文通过将高斯过程先验重新表述为线性状态空间模型，提出了一种用于潜在力模型（LFMs）的序列推理框架，从而实现基于卡尔曼滤波与平滑的高效推理。该方法进一步将切换型LFM建模为切换线性动态系统，显著提升了在城市汽车运动GPS轨迹数据中对切换点的推断性能。

ABSTRACT

Latent force models (LFMs) are hybrid models combining mechanistic principles with non-parametric components. In this article, we shall show how LFMs can be equivalently formulated and solved using the state variable approach. We shall also show how the Gaussian process prior used in LFMs can be equivalently formulated as a linear statespace model driven by a white noise process and how inference on the resulting model can be efficiently implemented using Kalman filter and smoother. Then we shall show how the recently proposed switching LFM can be reformulated using the state variable approach, and how we can construct a probabilistic model for the switches by formulating a similar switching LFM as a switching linear dynamic system (SLDS). We illustrate the performance of the proposed methodology in simulated scenarios and apply it to inferring the switching points in GPS data collected from car movement data in urban environment.

研究动机与目标

• 通过利用状态空间表示，开发一种高效的潜在力模型（LFMs）序列推理方法。
• 将LFMs中的高斯过程先验重新表述为由白噪声驱动的线性状态空间模型。
• 利用卡尔曼滤波与平滑技术，实现可扩展且精确的推理。
• 通过将切换动态建模为切换线性动态系统（SLDS），将该框架扩展至切换型LFMs。
• 在模拟数据和真实世界的城市车辆运动GPS轨迹上验证该方法。

提出的方法

• 将LFMs中的高斯过程先验重新表述为由白噪声驱动的线性状态空间模型，以支持序列化处理。
• 应用卡尔曼滤波器与Rauch-Tung-Striebel平滑器，对状态空间模型进行高效推理。
• 利用隐马尔可夫模型对切换状态进行建模，将切换行为在LFMs中表示为切换线性动态系统（SLDS）。
• 使用变分推理或期望最大化算法学习SLDS模型的参数。
• 将状态空间模型与切换模型整合到统一的概率框架中，实现序列化学习。
• 将该框架应用于具有潜在机理成分和非参数噪声的时间序列数据。

实验结果

研究问题

• RQ1 潜在力模型（LFMs）中的高斯过程先验能否等价地表示为线性状态空间模型，以实现高效的序列推理？
• RQ2 如何将卡尔曼滤波与平滑技术应用于LFMs的状态空间模型进行推理？
• RQ3 能否利用具有隐状态的切换线性动态系统（SLDS）对LFMs中的切换行为进行建模？
• RQ4 所提出的序列推理方法在具有切换动态的真实GPS轨迹数据上的表现如何？
• RQ5 该模型在噪声GPS观测下，对城市车辆运动中切换点的推断精度如何？

主要发现

• LFMs的状态空间表示使得能够使用标准的卡尔曼滤波与平滑技术实现高效的序列推理。
• 卡尔曼滤波器与平滑器在LFM框架中能提供对潜在状态与超参数的精确后验估计。
• 以SLDS形式构建的切换型LFM模型，成功捕捉了GPS数据中观测到的动态突变。
• 该方法能准确推断城市车辆轨迹中的切换点，表现出对噪声和复杂运动模式的鲁棒性。
• 在模拟数据与真实GPS数据上的实证结果表明，所提出方法在检测动态模式切换方面优于基线方法。
• 该框架支持可扩展的推理，适用于涉及混合机理与非参数建模的实时应用。