[论文解读] Rate-optimal Bayesian intensity smoothing for inhomogeneous Poisson processes

Eduard Belitser, Paulo Serra+1 more|arXiv (Cornell University)|Apr 22, 2013

Statistical Methods and Inference参考文献 20被引用 5

一句话总结

该论文提出了一种针对具有自由节点的样条先验的非参数贝叶斯方法，用于估计非齐次泊松过程的强度函数，实现了在H"older光滑性类上的最小最大后验收缩速率，实现了对未知光滑度的自动适应，同时通过层次化先验和MCMC抽样保持了计算可行性。

ABSTRACT

We apply nonparametric Bayesian methods to study the problem of estimating the intensity function of an inhomogeneous Poisson process. We exhibit a prior on intensities which both leads to a computationally feasible method and enjoys desirable theoretical optimality properties. The prior we use is based on B-spline expansions with free knots, adapted from well-established methods used in regression, for instance. We illustrate its practical use in the Poisson process setting by analyzing count data coming from a call centre. Theoretically we derive a new general theorem on contraction rates for posteriors in the setting of intensity function estimation. Practical choices that have to be made in the construction of our concrete prior, such as choosing the priors on the number and the locations of the spline knots, are based on these theoretical findings. The results assert that when properly constructed, our approach yields a rate-optimal procedure that automatically adapts to the regularity of the unknown intensity function.

研究动机与目标

• 开发一种计算上可行的贝叶斯非参数方法，用于估计具有周期性结构的非齐次泊松过程的强度函数。
• 在真实强度函数的光滑性假设最小的前提下，建立理论保证——特别是后验收缩速率和自适应性。
• 设计一种基于B样条展开的层次化先验，其中节点数量$J$和节点位置$\bm{k}$为随机变量，实现数据驱动的平滑处理和不确定性量化。
• 推导一个适用于广泛先验类（包括所提出的样条先验）的一般收缩速率定理。
• 通过真实呼叫中心计数数据的分析，展示该方法的实际效用，包括可信区间和对未知光滑度的自动适应。

提出的方法

• 基于B样条展开的层次化先验，其中节点数量$J$服从平移泊松分布，节点位置在区间上均匀分布。
• 对B样条系数$\bm{\theta}$使用独立先验，其支撑集有界于$[M_1, M_2]^J$，以确保强度函数空间的正则性与控制。
• 应用一般收缩速率定理（Belitser & Serra, 2013的定理1）推导在$\varepsilon_n$、$J_n$和$\bar{J}_n$条件下的后验集中速率。
• 证明后验在最小最大速率$n^{-\alpha/(1+2\alpha)}(\log n)^{(q+1)/2}$下收缩，其中$\lambda_0 \in C^\alpha[0,T]$且$\alpha > 0$。
• 通过平方根变换$\|\sqrt{\lambda} - \sqrt{\lambda'}\|_2^2 \lesssim V_m(\lambda, \lambda') \lesssim \|\lambda'\|_\infty \|\sqrt{\lambda} - \sqrt{\lambda'}\|_2^2$控制Kullback-Leibler散度。
• 使用马尔可夫链蒙特卡洛（MCMC）算法生成后验样本，实现可信区间和不确定性量化。

实验结果

研究问题

• RQ1 非参数贝叶斯方法能否在非齐次泊松过程的强度估计中实现最优收缩速率？
• RQ2 如何构建基于自由节点的样条先验，以同时保证计算可行性与理论最优性？
• RQ3 该方法在多大程度上能自动适应真实强度函数的未知光滑度？
• RQ4 对先验（节点数量、位置和系数）的哪些理论条件可确保后验一致性与最优收缩速率？
• RQ5 所提出的方法能否通过可信区间提供可靠的不确定性量化，如在真实世界呼叫中心数据上的验证所示？

主要发现

• 所提出的贝叶斯方法在H"older类$C^\alpha[0,T]$中的强度函数上实现了最小最大后验收缩速率$n^{-\alpha/(1+2\alpha)}(\log n)^{(q+1)/2}$。
• 该方法为最优速率且能自动适应真实强度的未知光滑度$\alpha$，其精度至多受所用样条阶数的限制。
• 先验构造确保了$\mathbb{P}(J > j) \lesssim e^{-c_1 j \log j}$且$\mathbb{P}(M(\bm{k}) \leq 2/j \mid J=j) \gtrsim e^{-j \log j}$，支持集中性与光滑度控制。
• 真实强度$\varepsilon_n$邻域的后验概率满足$\Pi(\|\lambda - \lambda_0\|_\infty \leq 2\bar{\varepsilon}_n) \gtrsim e^{-c \bar{J}_n \log(1/\bar{\varepsilon}_n)}$，结合熵与尾部界，足以保证收缩。
• 熵条件$\log N(\varepsilon_n, \Lambda_n, \|\cdot\|_2) \lesssim n\varepsilon_n^2$对$\varepsilon_n \sim n^{-\alpha/(1+2\alpha)}(\log n)^s$且$s > p$成立，确保了模型空间的正则性。
• 该方法通过MCMC抽样提供可信区间，实现不确定性量化，并在具有周期性强度模式的真实呼叫中心数据上得到验证。