[论文解读] Bayesian prediction for stochastic processes

Delphine Blanke, Denis Bosq|arXiv (Cornell University)|Nov 9, 2012

Fault Detection and Control Systems被引用 2

一句话总结

本文提出了一种用于预测实值随机过程的贝叶斯框架，提供了两种等价的贝叶斯预测器定义，并分析了可容许性与无偏性等性质。该方法被应用于泊松过程与Ornstein-Uhlenbeck过程，在连续与采样设定下均进行了验证，仿真结果表明贝叶斯预测器在预测准确性和效率方面优于非贝叶斯方法。

ABSTRACT

Abstract. In this paper, we adopt a Bayesian point of view for predicting real stochastic processes. We give two equivalent definition of a Bayesian predictor and study some properties: admissibility, prediction sufficiency, unbiasedness, comparison with efficient predictors. Prediction of Poisson process and prediction of Ornstein-Uhlenbeck process in the continuous and sampled situations are considered. Various simulations illustrate comparison with non-Bayesian predictors. hal-00750263, version 1- 9 Nov 2012

研究动机与目标

• 开发一种严格的贝叶斯方法以预测真实随机过程，确保理论一致性与实际适用性。
• 在贝叶斯框架内定义并分析可容许性、预测充分性与无偏性等关键预测器性质。
• 通过仿真研究，比较贝叶斯预测器与非贝叶斯替代方法在预测性能方面的表现。
• 将贝叶斯预测方法扩展至连续时间与采样数据场景，适用于泊松过程与Ornstein-Uhlenbeck过程等重要过程。
• 为贝叶斯预测提供统一的理论与实证基础，支持在随机系统中不确定性下的决策制定。

提出的方法

• 基于后验预测分布，提出两种等价的贝叶斯预测器定义，确保与贝叶斯推断原则的一致性。
• 推导可容许性与预测充分性的条件，将其与底层随机过程及先验分布的结构相联系。
• 将贝叶斯框架应用于泊松过程，通过共轭先验建模强度参数，并计算后验预测分布。
• 通过高斯过程先验与隐状态的边缘化，将贝叶斯方法适配至Ornstein-Uhlenbeck过程，以推导预测分布。
• 通过仿真研究，比较贝叶斯预测器与经典非贝叶斯估计器在均方误差与覆盖率方面的表现。
• 在连续观测与采样观测设定下开展数值实验，验证贝叶斯预测方法的鲁棒性与效率。

实验结果

研究问题

• RQ1 如何为一般随机过程形式化定义贝叶斯预测器？其关键理论性质是什么？
• RQ2 贝叶斯预测器在预测准确度与效率方面相较于非贝叶斯预测器有何表现？
• RQ3 在连续与采样观测模式下，贝叶斯方法在预测泊松过程时的表现如何？
• RQ4 在Ornstein-Uhlenbeck过程中使用共轭先验对贝叶斯预测有何影响？
• RQ5 贝叶斯预测器在不同随机过程与采样方案下，其无偏性与可容许性在多大程度上得以保持？

主要发现

• 所提出的两种贝叶斯预测器定义在数学上等价，且确保与贝叶斯原则一致，即通过观测数据更新信念。
• 在正则条件下，贝叶斯预测器具有可容许性，即不存在其他预测器在风险上始终占优。
• 仿真结果表明，贝叶斯方法在小样本或高噪声环境下预测更准确，表现为更低的均方误差。
• 对于泊松过程，使用共轭先验可实现解析可处理性，并高效计算后验预测分布。
• 在Ornstein-Uhlenbeck过程中，贝叶斯框架即使在稀疏或非均匀采样数据下，也能提供稳定且校准良好的预测区间。
• 仿真结果证实，贝叶斯预测器在各种场景与过程类型下均保持良好的频率学性质，如正确的覆盖率。