[论文解读] Bayesian Characterizations of Properties of Stochastic Processes with Applications

Sucharita Roy, Sourabh Bhattacharya|arXiv (Cornell University)|Jan 1, 2020

Point processes and geometric inequalities参考文献 61被引用 2

一句话总结

本文提出了一种新颖的贝叶斯框架，用于表征随机过程（包括时间序列、空间数据及时空数据）中的平稳性与非平稳性，采用递归贝叶斯后验分布与狄利克雷过程混合模型进行频率检测。该方法在小样本和复杂模型下仍能高精度检测真实频率与平稳性特征，且在模拟与真实数据实验中均表现出强大的经验验证效果。

ABSTRACT

In this article, we primarily propose a novel Bayesian characterization of stationary and nonstationary stochastic processes. In practice, this theory aims to distinguish between global stationarity and nonstationarity for both parametric and nonparametric stochastic processes. Interestingly, our theory builds on our previous work on Bayesian characterization of infinite series, which was applied to verification of the (in)famous Riemann Hypothesis. Thus, there seems to be interesting and important connections between pure mathematics and Bayesian statistics, with respect to our proposed ideas. We validate our proposed method with simulation and real data experiments associated with different setups. In particular, applications of our method include stationarity and nonstationarity determination in various time series models, spatial and spatio-temporal setups, and convergence diagnostics of Markov Chain Monte Carlo. Our results demonstrate very encouraging performance, even in very subtle situations. Using similar principles, we also provide a novel Bayesian characterization of mutual independence among any number of random variables, using which we characterize the properties of point processes, including characterizations of Poisson point processes, complete spatial randomness, stationarity and nonstationarity. Applications to simulation experiments with ample Poisson and non-Poisson point process models again indicate quite encouraging performance of our proposed ideas. We further propose a novel recursive Bayesian method for determination of frequencies of oscillatory stochastic processes, based on our general principle. Simulation studies and real data experiments with varieties of time series models consisting of single and multiple frequencies bring out the worth of our method.

研究动机与目标

• 开发参数与非参数随机过程中平稳性与非平稳性的贝叶斯表征方法。
• 将贝叶斯推断扩展至检测相互独立性，并表征点过程（包括泊松过程与完全随机空间分布）。
• 提出一种递归贝叶斯程序，用于识别时间序列中的振荡频率，即使存在多个紧密相邻的频率分量亦可实现。
• 在时间序列、空间数据、时空数据及MCMC收敛诊断中，利用真实与模拟数据对方法进行验证。
• 在经典检验方法失效的细微情形下（如小样本量与非正弦信号）展示方法的稳健性能。

提出的方法

• 基于分阶段似然函数构建递归贝叶斯后验分布，以在时间区间内评估平稳性。
• 利用狄利克雷过程混合模型对未知频率分布进行建模，实现对振荡分量的非参数检测。
• 采用基于上确界范数的偏差度量方法，通过经验累积分布函数之间的差异来量化非平稳性程度。
• 通过变换方法将该方法应用于时间序列，以增强频率检测能力，尤其适用于非正弦信号。
• 通过TMCMC（传输映射MCMC）将该框架整合至MCMC收敛诊断中，实现最优尺度调整。
• 通过建模协方差结构并检测严格平稳性与协方差平稳性，将该方法拓展至空间与时空数据。

实验结果

研究问题

• RQ1 贝叶斯框架是否能够在参数与非参数设定下可靠地区分平稳与非平稳随机过程？
• RQ2 所提出的方法在非正弦时间序列中对多个紧密相邻频率的检测精度如何？
• RQ3 在小样本或复杂数据场景下，该方法相较于经典平稳性检验的性能优势有多大？
• RQ4 贝叶斯方法是否能通过独立性与平稳性有效表征点过程（包括泊松过程与完全随机空间分布）？
• RQ5 递归贝叶斯方法在高维或多重模式后验分布中对MCMC算法收敛性的诊断效果如何？

主要发现

• 在含六个谐波的非正弦信号中，该方法成功检测出真实频率2、4、6、8、10和12，仅对14的频率有轻微高估（而非12）。
• 在Recruitment时间序列中，贝叶斯程序识别出频率收敛于略高于0.02与约0.08的值，与已知振荡模式一致。
• 在AR(1)与AR(2)模型中，即使样本量较小且模型形式未知，该方法仍能正确分类平稳性，优于经典检验方法。
• 在SOI序列中，递归贝叶斯方法实现了精确的频率检测，后验均值收敛至略高于0.08的值。
• 在空间与时空数据中，该方法表现出稳健性，能正确识别出平稳与非平稳分量混合情况下的严格非平稳性与协方差非平稳性。
• 在MCMC收敛诊断中，该方法通过TMCMC有效评估了混合性与收敛性，尤其在高维与多重模式后验分布中表现优异。