[論文レビュー] Rate-optimal Bayesian intensity smoothing for inhomogeneous Poisson processes

Eduard Belitser, Paulo Serra+1 more|arXiv (Cornell University)|Apr 22, 2013

Statistical Methods and Inference参考文献 20被引用数 5

ひとこと要約

本稿は、自由な節点をもつスプライン事前分布を用いた、非定常ポアソン過程の強度関数を推定するレート最適なベイズ非パラメトリック手法を提案する。この手法は、H"older滑らかさクラス上での最小最大レートにおける事後分布の収縮を保証し、未知の滑らかさに自動的に適応しつつ、階層的事前分布とMCMCサンプリングにより計算の実行可能性を維持する。

ABSTRACT

We apply nonparametric Bayesian methods to study the problem of estimating the intensity function of an inhomogeneous Poisson process. We exhibit a prior on intensities which both leads to a computationally feasible method and enjoys desirable theoretical optimality properties. The prior we use is based on B-spline expansions with free knots, adapted from well-established methods used in regression, for instance. We illustrate its practical use in the Poisson process setting by analyzing count data coming from a call centre. Theoretically we derive a new general theorem on contraction rates for posteriors in the setting of intensity function estimation. Practical choices that have to be made in the construction of our concrete prior, such as choosing the priors on the number and the locations of the spline knots, are based on these theoretical findings. The results assert that when properly constructed, our approach yields a rate-optimal procedure that automatically adapts to the regularity of the unknown intensity function.

研究の動機と目的

• 非定常ポアソン過程の強度関数を推定する、計算的に実行可能なベイズ非パラメトリック手法の開発。
• 真の強度関数に最小限の滑らかさ仮定をおく場合の理論的保証（特に事後分布収縮レートと適応性）の確立。
• ランダムな節点数とランダムな節点位置をもつBスプライン展開を用いた階層的事前分布の設計により、データ駆動の平滑化と不確実性の定量化を可能にする。
• 提案されたスプライン事前分布を含む広範な事前分布クラスに適用可能な一般化された収縮レート定理の導出。
• 実際のコールセンターのカウントデータを用いた分析を通じて、本手法の実用的有用性を示し、信頼区間と未知の滑らかさへの自動適応性を提示する。

提案手法

• 節点数 $J$ と節点位置 $\bm{k}$ をランダムにとるBスプライン展開に基づく階層的事前分布を採用。$J$ はシフトされたポアソン分布に従い、節点位置は区間上に一様分布する。
• Bスプライン係数 $\bm{\theta}$ に対して独立な事前分布を設定し、$[M_1, M_2]^J$ の有界なサポートをとることで、強度関数空間における正則性と制御を確保する。
• Belitser & Serra (2013) の定理1（一般化された収縮レート定理）を用い、$\varepsilon_n$, $J_n$, および $\bar{J}_n$ に関する条件の下で事後集中レートを導出する。
• 真の強度関数 $\lambda_0 \in C^\alpha[0,T]$ の場合、事後分布が最小最大レート $n^{-\alpha/(1+2\alpha)}(\log n)^{(q+1)/2}$ で収縮することを確立する。
• $L^2$-ノルムと $L^\infty$-ノルムの等価性を、$\|\sqrt{\lambda} - \sqrt{\lambda'}\|_2^2 \lesssim V_m(\lambda, \lambda') \lesssim \|\lambda'\|_\infty \|\sqrt{\lambda} - \sqrt{\lambda'}\|_2^2$ という平方根変換により制御し、カルバック・ライブラー発散を制御する。
• マルコフ連鎖モンテカルロ（MCMC）アルゴリズムを用いて事後分布サンプルを生成し、信頼区間の作成と不確実性の定量化を可能にする。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックベイズ手法は、非定常ポアソン過程の強度推定において、最小最大レートに収束する事後分布を得られるか？
• RQ2 自由節点をもつスプラインベースの事前分布は、計算の実行可能性と理論的最適性の両方を満たすようにどのように構築できるか？
• RQ3 本手法は、真の強度関数の未知の滑らかさにどの程度自動的に適応できるか？
• RQ4 節点数、節点位置、係数に関する事前分布の理論的条件は、事後一貫性と最適な収縮レートを保証するか？
• RQ5 提案手法は、実世界のコールセンターのデータに応用することで、信頼区間を通じて信頼性のある不確実性の定量化を提供できるか？

主な発見

• 提案されたベイズ的手法は、H"older空間 $C^\alpha[0,T]$ に属する強度関数に対して、最小最大レート $n^{-\alpha/(1+2\alpha)}(\log n)^{(q+1)/2}$ で事後分布が収縮することを達成する。
• 本手法はレート最適であり、使用されるスプラインの次数に依存するが、真の強度関数の未知の滑らかさ $\alpha$ に自動的に適応する。
• 事前分布の構築により、$\mathbb{P}(J > j) \lesssim e^{-c_1 j \log j}$ および $\mathbb{P}(M(\bm{k}) \leq 2/j \mid J=j) \gtrsim e^{-j \log j}$ が成り立ち、濃度と滑らかさの制御が可能になる。
• 真の強度関数の $\varepsilon_n$-近傍の事後確率は、$\Pi(\|\lambda - \lambda_0\|_\infty \leq 2\bar{\varepsilon}_n) \gtrsim e^{-c \bar{J}_n \log(1/\bar{\varepsilon}_n)}$ を満たし、エントロピーと尾部バウンドと組み合わせることで収縮に十分である。
• エントロピー条件 $\log N(\varepsilon_n, \Lambda_n, \|\cdot\|_2) \lesssim n\varepsilon_n^2$ は、$\varepsilon_n \sim n^{-\alpha/(1+2\alpha)}(\log n)^s$ かつ $s > p$ のとき成り立ち、モデル空間の正則性を保証する。
• MCMCサンプリングにより信頼区間を提供し、不確実性の定量化を可能にする。実際のコールセンターのデータ（周期的強度パターンを示す）を用いた分析により、有効性が検証された。