[论文解读] Noise Stability of Weighted Majority

Yuval Peres|arXiv (Cornell University)|Dec 19, 2004

Complexity and Algorithms in Graphs被引用 9

一句话总结

本文证明了 $n$ 个独立同分布的 $\pm1$-值随机变量的加权多数函数具有噪声稳定性，最优指数为 $1/2$，即在 $\epsilon$-噪声下函数输出发生变化的概率 $p_\epsilon$ 满足 $2\epsilon^{1/2}$ 的上界。该结果改进了先前的界限，并表明该界近乎紧致，与简单多数函数的渐近行为一致。

ABSTRACT

Benjamini, Kalai and Schramm (2001) showed that weighted majority functions of $n$ independent unbiased bits are uniformly stable under noise: when each bit is flipped with probability $ε$, the probability $p_ε$ that the weighted majority changes is at most $Cε^{1/4}$. They asked what is the best possible exponent that could replace 1/4. We prove that the answer is 1/2. The upper bound obtained for $p_ε$ is within a factor of $\sqrt{π/2}+o(1)$ from the known lower bound when $ε o 0$ and $nε o \infty$.

研究动机与目标

• 解决 Benjamini、Kalai 和 Schramm 提出的问题：加权多数函数噪声稳定性的最佳可能指数是多少。
• 在独立位翻转噪声下，为加权多数函数的噪声敏感性建立一个严格的上界。
• 证明指数 $1/2$ 是最优的，与简单多数函数的渐近行为一致。
• 将分析从简单多数函数推广到一般的加权阈值和对称分布。

提出的方法

• 通过将索引随机划分为 $m = \lfloor \epsilon^{-1} \rfloor$ 个块来建模噪声，方法为随机符号翻转。
• 引入一个关键的逐点恒等式，将符号变化概率与二项分布随机变量偏离其均值的期望绝对偏差联系起来。
• 应用柯西-施瓦茨不等式，对二项分布 $\text{Binomial}(m,1/2)$ 变量 $B_m$ 的 $\mathbb{E}|B_m - m/2|$ 进行上界估计。
• 利用斯佩纳定理和反链界控制加权和恰好为零的概率。
• 应用中心极限定理，推导出 $\limsup$ 上界中的渐近常数 $\sqrt{2/\pi}$。
• 通过引入一个额外的对称变量，将结果从阈值 $t=0$ 推广到一般 $t \neq 0$ 的情形。

实验结果

研究问题

• RQ1 是否存在最佳可能的指数 $\alpha$，使得加权多数函数的噪声敏感性为 $O(\epsilon^\alpha)$？
• RQ2 指数 $1/2$ 是否为加权多数函数噪声稳定性的最优选择？
• RQ3 当 $\epsilon \to 0$ 且 $n\epsilon \to \infty$ 时，加权多数函数的噪声敏感性与简单多数函数的渐近行为如何比较？
• RQ4 在渐近 regime 下，噪声敏感性的上界能否变得紧致？

主要发现

• 对于任意加权多数函数，其噪声敏感性 $p_\epsilon(n,w,t)$ 在 $\epsilon \leq 1/2$ 时满足 $2\epsilon^{1/2}$ 的上界，证明了指数 $1/2$ 是可实现的。
• 所有权重和阈值下的噪声敏感性 $\limsup$ 满足 $\limsup_{\epsilon \to 0} p_\epsilon^* / \sqrt{\epsilon} \leq \sqrt{2/\pi}$，与简单多数函数的渐近行为一致。
• 上界 $2\epsilon^{1/2}$ 与简单多数函数的已知下界相差一个因子 $\sqrt{\pi/2} + o(1)$，确认了其近乎最优性。
• 当 $m = \lfloor \epsilon^{-1} \rfloor$ 时，不等式 $p_\epsilon(n,w,t) \leq \frac{2}{m} \mathbb{E}|B_m - m/2| + [1 - (1 - \epsilon)^n] \binom{n}{\lfloor n/2 \rfloor} 2^{-n}$ 成立，提供了更精确的估计。
• 通过条件化绝对值，该结果可推广至一般的对称、均值为零的随机变量，且噪声稳定性上界保持不变。
• 基于随机划分和二项偏差控制的证明方法，可直接应用于对称实值变量，且在零点的概率为零的情形。