[论文解读] Comparison of Sums of independent Identically Distributed Random Variables

Stephen Montgomery-Smith|ArXiv.org|Oct 7, 1993

Bayesian Modeling and Causal Inference被引用 28

一句话总结

本文确立了通用常数 $ c_1 = 3 $ 和 $ c_2 = 10 $，使得对于独立同分布的巴拿赫空间取值的随机变量，尾部概率 $ \Pr(\|S_j\| > t) $ 满足 $ c_1 \Pr(\|S_k\| > t/c_2) $ 的上界，其中 $ 1 \leq j \leq k $，从而将已知的两个独立同分布变量的不等式推广至任意多个独立同分布变量的情形。证明方法结合了 $ t $-集中点与巴拿赫空间中的几何论证，推导出最大值不等式，并进一步推广至加权和的情形。

ABSTRACT

Let S_k be the k-th partial sum of Banach space valued independent identically distributed random variables. In this paper, we compare the tail distribution of ||S_k|| with that of ||S_j||, and deduce some tail distribution maximal inequalities. Theorem: There is universal constant c such that for j < k Pr(||S_j|| > t) <= c Pr(||S_k|| > t/c).

研究动机与目标

• 将已知的关于两个独立同分布随机变量的不等式推广至巴拿赫空间中任意多个独立同分布随机变量的和。
• 确立通用常数 $ c_1 $ 和 $ c_2 $，使得对所有 $ 1 \leq j \leq k $ 及独立同分布的巴拿赫空间取值随机变量，有 $ \Pr(\|S_j\| > t) \leq c_1 \Pr(\|S_k\| > t/c_2) $。
• 利用主结果推导部分和上确界的最大值不等式。
• 研究此类不等式是否可推广至系数 $ \alpha_i \in [-1,1] $ 的加权和，并证明其成立，但需使用修正后的常数。

提出的方法

• 引入 $ t $-集中点的概念：若点 $ x $ 满足 $ \Pr(\|X - x\| \leq t) > 2/3 $，则称其为 $ X $ 的 $ t $-集中点。
• 证明：若 $ x, y, z $ 分别是 $ X, Y, X+Y $ 的 $ t $-集中点，则 $ \|x + y - z\| \leq 3t $，利用并集界与三角不等式。
• 通过归纳法与 $ t $-集中点结构，推导出部分和集中点 $ s_j $ 满足 $ \|k s_j - j s_k\| \leq 3(k+j)t $。
• 基于 $ S_{k-j} $ 的尾部行为分析三种情形，利用独立性与集中性，将 $ \Pr(\|S_j\| > t) $ 用 $ \Pr(\|S_k\| > t/c_2) $ 有界表示。
• 将主不等式应用于推导 $ \sup_{1 \leq j \leq k} \|S_j\| $ 的最大值不等式，利用 [K–W] 关于和的上确界的结论。
• 通过系数分解方法，将主不等式与最大值不等式结合，将结果推广至加权和 $ \sum \alpha_i X_i $，其中 $ |\alpha_i| \leq 1 $。

实验结果

研究问题

• RQ1 能否将独立同分布实值随机变量的不等式 $ \Pr(\|X_1\| > t) \leq 5 \Pr(\|X_1 + X_2\| > t/2) $ 推广至巴拿赫空间中 $ k \geq 3 $ 个独立同分布随机变量的和？
• RQ2 哪些通用常数 $ c_1 $ 和 $ c_2 $ 能确保对所有 $ 1 \leq j \leq k $ 及独立同分布的巴拿赫空间取值随机变量，有 $ \Pr(\|S_j\| > t) \leq c_1 \Pr(\|S_k\| > t/c_2) $？
• RQ3 此类尾部比较不等式是否可推广至系数满足 $ |\alpha_i| \leq 1 $ 的加权和？
• RQ4 当系数 $ \alpha_i $ 不全相等时，是否仍存在形式为 $ \Pr(\|S_j\| > t) \leq c \Pr(\|S_k\| > t/c) $ 的类似不等式？
• RQ5 此类不等式的局限性是什么？能否实现渐近改进？

主要发现

• 本文证明了对所有 $ 1 \leq j \leq k $，有 $ \Pr(\|S_j\| > t) \leq 3 \Pr(\|S_k\| > t/10) $，其中通用常数 $ c_1 = 3 $，$ c_2 = 10 $，适用于独立同分布的巴拿赫空间取值随机变量。
• 该不等式无法实现渐近改进，如当 $ X_1 = 1 $ 的概率极小而其余情况为 0 时，可证明 $ c_2 > 1 $ 必须成立。
• 拉塔瓦（Latałla）后续将常数改进为 $ c_1 = 4, c_2 = 5 $ 或 $ c_1 = 2, c_2 = 7 $，并对 $ j=1, k=2 $ 的情形证明了 $ \Pr(\|X_1\| > t) \leq 2 \Pr(\|X_1 + X_2\| > 2t/3) $，该结果为最优。
• 推导出最大值不等式：$ \Pr(\sup_{1 \leq j \leq k} \|S_j\| > t) \leq c \Pr(\|S_k\| > t/c) $，其中 $ c = 4 $ 或 $ c = 6 $，或 $ c = 2 $ 或 $ c = 8 $，具体取决于版本。
• 对于满足 $ |\alpha_i| \leq 1 $ 的加权和，不等式 $ \Pr(\|\sum \alpha_i X_i\| > t) \leq c \Pr(\|\sum X_i\| > t/c) $ 成立，其中 $ c $ 为通用常数，通过系数分解与主结果的结合得以证明。
• 本文表明，该不等式无法推广至一般系数 $ \alpha_i $，反例显示当 $ \alpha_i = 1/M^{1/3} $ 时，非均匀权重下不等式不成立。