[论文解读] Probability asymptotics: notes on notation

Svante Janson|arXiv (Cornell University)|Aug 19, 2011

Stochastic processes and financial applications参考文献 4被引用 33

一句话总结

本文对随机变量的随机概率大O和小o记号进行了严格且系统的比较，澄清了常见用法中的模糊之处。它定义并区分了关键的渐近记号，如 $O(a_n)$ a.s.、$O(a_n)$ w.h.p. 和 $O_{L^∞}(a_n)$，并建立了它们之间的逻辑关系，强调 $X_n = o(a_n)$ a.s. 蕴含 $X_n = o_p(a_n)$，但对大O记号不存在此类蕴含关系，突显了在概率渐近分析中误用的风险。

ABSTRACT

Some asymptotic notions for random variables are discussed. In particular, different versions of O and o for sequences of random variables are studied. The results are elementary and more or less well-known, but collected here for future use and easy reference.

研究动机与目标

• 解决在将 $O(a_n)$ 和 $o(a_n)$ 等概率渐近记号应用于随机变量时广泛存在的模糊性问题。
• 正式定义并比较概率论中 $O$ 和 $o$ 记号的多种变体，包括几乎必然、依概率和几乎必然有界版本。
• 阐明这些记号之间的逻辑关系与蕴含关系，特别是 $O(a_n)$ a.s. 与 $O(a_n)$ w.h.p. 之间的非等价性。
• 警告避免在无限定词的情况下误用 $O(a_n)$ 和 $o(a_n)$，尤其是将一致有界与高概率有界混淆。
• 倡导使用精确术语与记号，如 $O_{L^∞}(a_n)$，以避免在概率组合数学与渐近分析中的错误。

提出的方法

• 使用上极限和基于 $\varepsilon$ 的量化器，定义标准非随机 $O$ 和 $o$ 记号。
• 引入并形式化概率变体：通过依概率收敛定义 $X_n = O_p(a_n)$，通过依概率收敛于零定义 $X_n = o_p(a_n)$。
• 定义几乎必然版本：通过路径几乎必然有界定义 $X_n = O(a_n)$ a.s.，通过几乎必然收敛于零定义 $X_n = o(a_n)$ a.s.。
• 引入 $O_{L^∞}(a_n)$ 和 $o_{L^∞}(a_n)$ 记号以表示一致有界（确定或几乎必然），并将其与高概率版本区分开来。
• 使用反例（例如基于 Borel–Cantelli 引理的序列）表明 $O(a_n)$ a.s. 与 $O(a_n)$ w.h.p. 在逻辑上是独立的。
• 应用标准概率工具，如 Borel–Cantelli 引理和收敛性等价关系，以验证记号之间关系的正确性。

实验结果

研究问题

• RQ1 当 $X_n$ 是一列随机变量时，$X_n = O(a_n)$ 的正确形式定义是什么？
• RQ2 $O(a_n)$ a.s.、$O(a_n)$ w.h.p. 和 $O_{L^∞}(a_n)$ 之间的区别是什么？它们的逻辑蕴含关系如何？
• RQ3 为何从 $X_n = O(a_n)$ a.s. 无法推出 $X_n = O(a_n)$ w.h.p.，反之亦然？
• RQ4 $X_n = o(a_n)$ a.s. 是否可与 $X_n = o_p(a_n)$ 互换使用？其形式依据是什么？
• RQ5 在无限定词的情况下使用 $X_n = O(a_n)$ 的风险是什么？如何避免歧义？

主要发现

• 记号 $X_n = o(a_n)$ a.s. 蕴含 $X_n = o_p(a_n)$，且两者均等价于 $X_n = o(a_n)$ w.h.p.，为小o记号建立了统一的层次结构。
• $X_n = O(a_n)$ a.s. 与 $X_n = O(a_n)$ w.h.p. 之间不存在蕴含关系，反例表明：一种情况是 $X_n$ 几乎必然无界但以高概率有界；另一种情况是 $X_n$ 几乎必然有界但不以高概率有界。
• $X_n = O(a_n)$ 无限定词时具有歧义；它可能表示 $O_{L^∞}(a_n)$（一致有界）或 $O_p(a_n)$（高概率有界），必须明确其意图。
• $O_{L^∞}(a_n)$ 记号（定义为几乎必然满足 $|X_n| \leq C a_n$，其中 $C$ 为随机常数）比 $O_p(a_n)$ 更强，应在需要一致有界性时使用。
• 本文警告指出，$X_n = O(a_n)$ a.s. 不蕴含 $X_n = O_p(a_n)$，反之亦然；此类混淆是概率组合数学中常见错误的根源。
• 本文建议，当需要一致有界性时，应使用 $O_{L^∞}(a_n)$ 或 $o_{L^∞}(a_n)$，而非依赖无限定词的 $O(a_n)$ 或 $o(a_n)$。