Skip to main content
QUICK REVIEW

[论文解读] Data-Driven Stochastic Reachability Using Hilbert Space Embeddings.

Adam J. Thorpe, Kendric R. Ortiz|arXiv (Cornell University)|Oct 15, 2020
Adversarial Robustness in Machine Learning参考文献 52被引用 4
一句话总结

本文提出一种基于数据的随机可达性方法,利用概率分布的希尔伯特空间嵌入,实现对具有任意扰动系统的安全性有限样本概率保证。通过将随机核嵌入再生核希尔伯特空间(RKHS),该方法利用矩阵运算和内积计算安全性概率,其理论边界基于统计学习理论推导得出,并在神经网络控制的摆系统上得到验证。

ABSTRACT

We compute finite sample bounds for approximations of the solution to stochastic reachability problems computed using kernel distribution embeddings, a non-parametric machine learning technique. Our approach enables assurances of safety from observed data, through construction of probabilistic violation bounds on the computed stochastic reachability probability. By embedding the stochastic kernel of a Markov control process in a reproducing kernel Hilbert space, we can compute the safety probabilities for systems with arbitrary disturbances as simple matrix operations and inner products. We present finite sample bounds for the approximation using elements from statistical learning theory. We numerically evaluate the approach, and demonstrate its efficacy on neural net-controlled pendulum system.

研究动机与目标

  • 仅使用观测数据,无需参数假设,实现对随机控制系统的安全性验证。
  • 解决当系统扰动为任意且未知时,可靠计算可达性概率的挑战。
  • 基于经验数据推导出可达性概率近似误差的有限样本概率边界。
  • 开发一种基于核方法的计算高效框架,将复杂的随机动力学转化为矩阵运算。

提出的方法

  • 使用核分布嵌入将马尔可夫控制过程的随机核嵌入再生核希尔伯特空间(RKHS)。
  • 将系统的转移概率表示为RKHS中的元素,从而实现从数据出发的非参数估计。
  • 通过RKHS中的内积计算可达性概率,将问题简化为基于经验数据的矩阵运算。
  • 利用统计学习理论中的工具,特别是基于覆盖数的泛化边界,推导出近似误差的有限样本边界。
  • 将该方法应用于神经网络控制的摆系统,以评估其性能与鲁棒性。
  • 通过构建计算出的可达性概率的 probabilistic violation bounds,确保理论上的安全性保证。

实验结果

研究问题

  • RQ1基于核的希尔伯特空间嵌入能否在有限样本保证下,提供对随机可达性概率的可靠、基于数据的近似?
  • RQ2当使用经验数据和非参数核方法时,可达性概率的近似误差如何被边界限定?
  • RQ3该方法在多大程度上能够处理随机控制系统中的任意非参数扰动?
  • RQ4在如神经网络控制的摆这类高维非线性系统中,该方法的可扩展性与性能表现如何?
  • RQ5该方法能否在不假设系统噪声或转移动态具有特定参数形式的前提下,提供概率安全性保证?

主要发现

  • 该方法实现了对计算出的可达性概率误差的有限样本概率边界,从而能够从经验数据中实现严格的可靠性保证。
  • 通过RKHS中的矩阵运算和内积,高效计算可达性概率,避免了复杂的数值积分。
  • 该方法适用于具有任意扰动的系统,因其对噪声分布无需参数假设。
  • 在神经网络控制的摆系统上的数值评估表明,该方法在非线性、高维场景中具有有效性与实际可行性。
  • 理论保证基于统计学习理论中的覆盖数边界推导得出,即使在数据有限的情况下也能确保可靠性。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。