[论文解读] Smoothed Model Checking for Uncertain Continuous Time Markov Chains

Luca Bortolussi, Dimitrios Milios+1 more|arXiv (Cornell University)|Feb 6, 2014

Gaussian Processes and Bayesian Inference参考文献 35被引用 6

一句话总结

本文提出了一种名为平滑模型检测（Smoothed Model Checking）的贝叶斯统计方法，该方法利用不确定连续时间马尔可夫链（CTMC）中满足概率的平滑性，对参数空间中的完整满足函数进行估计。通过将满足函数建模为高斯过程（Gaussian Process），该方法仅需少量模拟即可实现对逻辑公式的概率的高精度、全局近似，相较于标准统计模型检测方法，实现了数量级的加速，同时保持了高精度。

ABSTRACT

We consider the problem of computing the satisfaction probability of a formula for stochastic models with parametric uncertainty. We show that this satisfaction probability is a smooth function of the model parameters. This enables us to devise a novel Bayesian statistical algorithm which performs statistical model checking simultaneously for all values of the model parameters from observations of truth values of the formula over individual runs of the model at isolated parameter values. This is achieved by exploiting the smoothness of the satisfaction function: by modelling explicitly correlations through a prior distribution over a space of smooth functions (a Gaussian Process), we can condition on observations at individual parameter values to construct an analytical approximation of the function itself. Extensive experiments on non-trivial case studies show that the approach is accurate and several orders of magnitude faster than naive parameter exploration with standard statistical model checking methods.

研究动机与目标

• 解决在参数不确定的CTMC中进行模型检测的挑战，其中传统方法假设模型完全指定。
• 开发一种可扩展且准确的统计模型检测框架，以考虑模型参数中的不确定性。
• 利用满足函数的平滑性作为结构特性，实现在不同参数值之间的信息传递。
• 提供满足函数的全局解析近似，而非孤立参数值处的点估计。
• 通过提供一种快速、可微分的满足概率表示，支持高效的系统设计、参数学习和罕见事件分析。

提出的方法

• 证明了满足函数——即在CTMC中时序逻辑公式成立的概率——在温和条件下是平滑的（可微的），从而支持在参数之间进行插值。
• 使用高斯过程（GP）作为平滑函数的非参数先验，以建模满足函数，编码对平滑性和邻近参数值之间相关性的先验信念。
• 利用在离散参数值处独立运行的CTMC模拟结果来条件化GP，得到后验分布，从而提供预测结果和不确定性量化。
• 通过贝叶斯推断计算任意未观测参数值处满足函数的后验均值和方差，实现对整个函数的解析近似。
• 通过利用空间相关性，避免对参数空间的全面探索，显著减少了所需模拟的次数。
• 该框架支持高效的采样与优化，例如通过提供可微分的、全局的满足函数模型，指导重要性采样或支持系统设计。

实验结果

研究问题

• RQ1 在具有参数不确定性的CTMC中，时序逻辑公式的满足概率能否被建模为这些参数的平滑函数？
• RQ2 如何利用满足函数的平滑性来减少统计模型检测中所需的模拟次数？
• RQ3 高斯过程能否从有限次模拟运行中，提供对完整满足函数的准确且高效的贝叶斯近似？
• RQ4 与标准统计模型检测相比，该方法在准确性和计算效率方面有多大程度的提升？
• RQ5 该框架如何用于支持不确定随机系统中的系统设计或罕见事件分析？

主要发现

• 在温和条件下，具有参数不确定性的CTMC中，公式的满足函数是平滑的（可微的），支持在参数值之间进行插值。
• 所提出的平滑模型检测方法仅需在孤立参数值处进行少量模拟运行，即可实现对满足函数的高精度全局近似。
• 在非平凡的案例研究中，该方法比标准统计模型检测快几个数量级，同时保持了高精度。
• 使用高斯过程可实现不确定性量化，并能从稀疏观测中对整个参数空间的满足概率进行解析预测。
• 由于其可微分和全局特性，该框架适用于指导系统设计、重要性采样和参数学习。
• 当结合稀疏GP近似技术时，该方法可扩展至高维参数空间，尽管完整GP推断的计算复杂度仍为观测次数的立方级。