[论文解读] Unsupervised Learning for Nonlinear PieceWise Smooth Hybrid Systems

Gilwoo Lee, Zita Marinho+4 more|arXiv (Cornell University)|Oct 2, 2017

Control Systems and Identification参考文献 13被引用 8

一句话总结

该论文提出了一种无监督、非参数化的框架，用于使用高斯过程回归和粒子滤波学习非线性分段光滑混合系统（PWS-HS）。通过利用分段光滑性与保护区域，并对稀疏转换实施合成过采样，该方法在EKF、切换高斯过程（Switching GPs）和标准高斯过程（GP）模型之上实现了更优的多步预测与跟踪性能，尤其在模式转换期间表现突出。

ABSTRACT

This paper introduces a novel system identification and tracking method for PieceWise Smooth (PWS) nonlinear stochastic hybrid systems. We are able to correctly identify and track challenging problems with diverse dynamics and low dimensional transitions. We exploit the composite structure system to learn a simpler model on each component/mode. We use Gaussian Process Regression techniques to learn smooth, nonlinear manifolds across mode transitions, guard-regions, and make multi-step ahead predictions on each mode dynamics. We combine a PWS non-linear model with a particle filter to effectively track multi-modal transitions. We further use synthetic oversampling techniques to address the challenge of detecting mode transition which is sparse compared to mode dynamics. This work provides an effective form of model learning in a complex hybrid system, which can be useful for future integration in a reinforcement learning setting. We compare multi-step prediction and tracking performance against traditional dynamical system tracking methods, such as EKF and Switching Gaussian Processes, and show that this framework performs significantly better, being able to correctly track complex dynamics with sparse transitions.

研究动机与目标

• 解决在缺乏先验模型知识的情况下，学习具有稀疏、低维模式转换的复杂非线性混合系统所面临的挑战。
• 克服由于模式转换稀疏性相较于非转换动态而难以识别模式转换的问题。
• 对具有分段光滑动态和确定性保护区域（转换发生位置）的PWS-HS进行建模。
• 开发一种非参数化、无监督的学习系统，联合估计模式、动态和重置函数，而无需闭式方程。
• 通过复杂、多模态的转换实现准确的多步预测与鲁棒的跟踪。

提出的方法

• 使用复合结构分别通过高斯过程回归对每个模式建模，实现跨模式的平滑、非线性函数逼近。
• 应用谱聚类基于系统的潜在分段光滑结构将数据点分配至各模式。
• 采用具有模式特异性动态和转换模型的粒子滤波器，以跟踪状态轨迹并估计模式的后验分布。
• 在保护区域引入合成过采样，以增强稀疏转换数据并改善转换条件的检测。
• 通过交替优化过程迭代改进模式分配与子系统估计，收敛至真实混合系统的近似解。
• 通过确定性重置函数 $ r_{m,m'} $ 建模转换，将一个模式的保护区域状态映射至下一模式，保持混合系统的语义完整性。

实验结果

研究问题

• RQ1 无监督、非参数化方法能否有效学习未知模式边界与稀疏转换的非线性PWS-HS的动力学？
• RQ2 如何利用分段光滑性与保护区域来改善混合系统中模式识别与函数逼近？
• RQ3 对转换区域进行合成过采样在多大程度上提升了转换检测与建模效果？
• RQ4 所提出方法在多步预测与跟踪精度方面，相较于EKF、标准GP与切换GP表现如何，特别是在转换附近？
• RQ5 该框架能否捕捉传统方法失效区域附近的多模态动力学？

主要发现

• 所提出的Hybrid方法在多步预测与跟踪方面显著优于EKF、标准GP与Switching GP，尤其在模式转换期间表现突出。
• 在弹跳球实验中，Hybrid模型正确捕捉了重置动力学（速度反转），并在转换期间保持高对数似然，而EKF与Switching GP则未能做到。
• 在推箱任务中，Hybrid模型在转换区域附近实现了更优的预测精度，而EKF因对模式连续性的错误假设而失效。
• 该方法成功建模了转换附近轨迹分布的多模态特性，捕捉了简单模型所忽略的混合动力学的随机本质。
• 保护区域中的合成过采样改善了转换检测，并促进了模式分配与动态估计的更好收敛与鲁棒性。
• 具有模式特异性动态的粒子滤波器实现了对状态与模式后验的精确跟踪，即使在转换稀少且复杂的情况下亦然。