[论文解读] Linear combinations of Rademacher random variables

Harrie Hendriks, M.C.A. van Zuijlen|arXiv (Cornell University)|Mar 21, 2017

Data Management and Algorithms参考文献 10被引用 5

一句话总结

该论文解决了维度 $ n \leq 9 $ 时一个长期存在的猜想，证明对于任意单位向量 $ a \in \mathbb{R}^n $，在 $ 2^n $ 种 $ \pm a_i $ 的符号组合中，至少有一半的线性组合的绝对值满足 $ \leq \|a\| $。证明方法利用二次和线性规划对偶性分析 Rademacher 和的分布，建立了比经典不等式（如切比雪夫不等式）更紧的概率界。

ABSTRACT

For a fixed unit vector $a=(a_1,a_2,\ldots,a_n)\in S^{n-1}$, we consider the $2^n$ sign vectors $\varepsilon=(\varepsilon^1,\varepsilon^2,\ldots,\varepsilon^n)\in \{+1,-1\}^n$ and the corresponding scalar products $\varepsilon\cdot a=\sum_{i=1}^n \varepsilon^ia_i$. In this paper we will solve for $n=1,2,\ldots,9$ an old conjecture stating that of the $2^n$ sums of the form $\sum\pm a_i$ it is impossible that there are more with $|\sum_{i=1}^n \pm a_i|>1$ than there are with $|\sum_{i=1}^n \pm a_i|\leq1$. Although the problem has been solved completely in case the $a_i$'s are equal, the more general problem with possible non-equal $a_i$'s remains open for values of $n\geq 10$. The present method can also be used for $n\geq 10$, but unfortunately the technical difficulties seem to grow exponentially with $n$ and no "induction type of argument" has been found. The conjecture has an appealing reformulation in probability theory and in geometry. In probability theory the results lead to upper bounds which are much better than for instance Chebyshevnequalities.

研究动机与目标

• 解决一个开放猜想：对于任意单位向量 $ a \in \mathbb{R}^n $，在 $ 2^n $ 种 $ \pm a_i $ 的符号组合中，至少有一半满足 $ |\sum \pm a_i| \leq \|a\| $，且 $ n \leq 9 $。
• 为 Rademacher 和 $ S_n = \sum a_i \epsilon_i $ 的尾部概率提供更紧的概率上界，改进经典不等式（如切比雪夫不等式）。
• 建立该猜想的几何与概率重述，将其与超立方体 $ \{+1,-1\}^n $ 上线性形式的分布联系起来。
• 开发并应用一种新颖的基于对偶性的方法，结合二次与线性规划，以分析符号向量的极值配置。

提出的方法

• 将问题表述为在超立方体 $ \{+1,-1\}^n $ 上的二次规划优化问题，目标是最小化 $ \|R\|^2 $，并施加由符号向量配置导出的约束条件。
• 利用对偶性理论将原始优化问题转化为对偶形式，从而推导出涉及 $ R' \in \mathcal{Q} $ 和 $ e_i R' \geq R R' $ 的必要与充分最优性条件。
• 通过对偶规划应用 Karush-Kuhn-Tucker (KKT) 条件以验证最优性，确保 $ R $ 对应该约束下最小范数向量。
• 使用二次规划软件及 R 包 lpSolve 计算可行解，并对 $ n \leq 9 $ 的所有 $ 2^n $ 个符号向量配置进行验证。
• 通过代表性符号向量及其凸组合的表格构建证明方案，覆盖所有可能的极值情形。
• 通过固定符号向量的凸组合并将问题优化至所得可行集，将原始组合问题转化为一系列线性规划子问题。

实验结果

研究问题

• RQ1 对于 $ n \leq 9 $，是否总是存在至少一半的 $ 2^n $ 个线性组合 $ \sum \pm a_i $ 满足 $ |\sum \pm a_i| \leq \|a\| $？
• RQ2 该猜想 $ \mathbb{P}\{|S_n| \leq 1\} \geq \frac{1}{2} $ 是否可对一般 $ a_i $（而不仅等权重）成立？
• RQ3 对于满足 $ \|a\| = 1 $ 的 Rademacher 和，$ \mathbb{P}\{|S_n| \geq x\} $ 的最紧可能上界是什么？其与高斯尾部概率边界的比较如何？
• RQ4 二次规划中的对偶性是否可系统性地应用于求解超立方体上的极值组合问题？

主要发现

• 对于所有 $ n \leq 9 $，满足 $ |\varepsilon \cdot a| \leq \|a\| $ 的符号向量 $ \varepsilon \in \{+1,-1\}^n $ 的数量至少为 $ 2^{n-1} $，从而在该范围内证明了该猜想。
• 该方法表明，优化问题的最小范数解 $ R $ 满足 $ \|R\|^2 \leq 1 $，这意味着 $ \|a\| $-球的覆盖率达到要求的一半。
• 证明方案是完全构造性的，并通过计算工具验证，所有 $ n \leq 9 $ 的情形均通过代表性符号向量及其凸组合被穷举覆盖。
• 基于对偶性的方法为边界 Rademacher 尾部概率提供了新方法，所得边界比切比雪夫不等式更紧，且与 Pinelis 和 Bentkus 的结果相当。
• 结果证实，$ S_n $ 的最坏情况分布不会偏向于大数值，支持了猜想：当 $ \|a\| = 1 $ 时，有 $ \mathbb{P}\{|S_n| \leq 1\} \geq \frac{1}{2} $。
• 由于计算复杂度呈指数增长，该方法无法推广至 $ n > 9 $，且尚未发现可用于推广的归纳结构。