[论文解读] Stein's method of exchangeable pairs for absolutely continuous, univariate distributions with applications to the Polya urn model

Christian Döbler|arXiv (Cornell University)|Jul 2, 2012

Random Matrices and Applications参考文献 16被引用 20

一句话总结

本文提出了一种基于交换对的单变量绝对连续分布的Stein方法框架，聚焦于密度方法，并将其应用于Beta分布。通过密度的对数导数的新型表征方式，建立了Pólya瓮模型中红球相对数量的收敛速率 $ O(1/n) $，并利用Stein方程的有界解。

ABSTRACT

We propose a way of finding a Stein type characterization of a given absolutely continuous distribution $μ$ on $\R$ which is motivated by a regression property satisfied by an exchangeable pair $(W,W')$ where $\calL(W)$ is supposed or known to be close to $μ$. We also develop the exchangeable pairs approach within this setting. This general procedure is then specialized to the class of Beta distributions and as an application, a convergence rate for the relative number of drawn red balls among the first $n$ drawings from a Polya urn is computed.

研究动机与目标

• 将交换对的Stein方法推广至一般绝对连续单变量分布，采用密度方法。
• 基于密度的对数导数，推导此类分布的Stein表征。
• 建立一个框架，以分布的密度及其导数来界定Stein方程解的界。
• 将该方法应用于Pólya瓮模型，特别分析红球比例的收敛速率。
• 通过交换对构造和解的正则性，建立Wasserstein距离与Kolmogorov距离的定量界。

提出的方法

• 为具有密度 $ p $ 的分布 $ \mu $ 提出一个Stein恒等式，利用对数导数 $ \psi(x) = \frac{d}{dx} \log p(x) $，使得对所有属于合适类的 $ f $，有 $ \mathbb{E}[f'(X) + \psi(X)f(X)] = 0 $。
• 引入Stein方程 $ f'(x) + \psi(x)f(x) = h(x) - \mu(h) $，其解为 $ f_h(x) = \frac{1}{p(x)} \int_{-\infty}^x (h(y) - \mu(h)) p(y) dy $，在支撑集上几乎处处成立。
• 利用满足线性回归性质 $ \mathbb{E}[W' - W \mid W] = -\lambda W + R $ 的交换对 $ (W, W') $，其中 $ R $ 相对于 $ \lambda $ 较小，来界定分布距离。
• 将该框架应用于区间 $ (-1,1) $ 上的Beta分布，通过函数 $ H(x), G(x), I(x), \eta(x), \gamma(x) $ 推导出Stein解导数的显式界。
• 通过分析比值函数 $ S(x) = \frac{H(x)G(x)}{I(x)\eta(x)} $ 在端点 $ \pm 1 $ 附近的性质，利用洛必达法则，证明解的导数有界。
• 证明解 $ f_h $ 有界当且仅当 $ \mathbb{E}[u(Z)] = 0 $，其中 $ u $ 为检验函数，从而确保误差界适用。

实验结果

研究问题

• RQ1 如何通过密度方法将交换对的Stein方法适配至一般绝对连续单变量分布？
• RQ2 Beta分布的Stein方程及其解的结构是什么？其导数如何有界？
• RQ3 在此框架下，Pólya瓮模型中红球比例的收敛速率是多少？
• RQ4 在何种条件下Stein方程的解有界？这与分布的矩有何关联？
• RQ5 Wasserstein与Kolmogorov度量中的误差界如何依赖于交换对构造及残差 $ R $ 的大小？

主要发现

• 本文通过密度的对数导数，推导出绝对连续单变量分布的新Stein表征，使Stein方法能够系统性地拓展至正态分布之外。
• 对于区间 $ (-1,1) $ 上的Beta分布，Stein解的导数被有界为 $ \frac{2\|h'\|_\infty}{\alpha + \beta + 2} \cdot S(x) $，其中 $ S(x) $ 是一个在 $ (-1,1) $ 上一致有界的积分与密度之比。
• 在端点处的极限分析表明 $ \sup_{x \in (-1,1)} S(x) < \infty $，且在 $ -1 $ 处的显式有限极限为 $ \frac{\alpha + \beta + 2}{2\beta + 4} $，在 $ 1 $ 处为 $ \frac{\alpha + \beta + 2}{2\alpha + 4} $，从而确保解的正则性。
• Stein方程的解有界当且仅当 $ \mathbb{E}[u(Z)] = 0 $，其中 $ u $ 为检验函数，这确保了误差界的有效性。
• Pólya瓮模型中红球相对数量的收敛速率被证明为 $ O(1/n) $，其误差界由解导数的有界性及残差 $ R $ 推导得出。
• 通过控制残差 $ R $ 的大小并利用解导数的有界性，该方法在Wasserstein与Kolmogorov度量中均得到了显式界。