[论文解读] Pairwise optimal coupling of multiple random variables

Omer Angel, Yinon Spinka|arXiv (Cornell University)|Mar 2, 2019

Limits and Structures in Graph Theory参考文献 10被引用 6

一句话总结

该论文通过构建一种耦合，将经典的最优耦合定理推广到多个随机变量，使得成对不一致概率被控制在 $\frac{2d_{\mathrm{TV}}(X,Y)}{1 + d_{\mathrm{TV}}(X,Y)}$ 以内，该界在若干情况下达到最优。该构造使用两种不同方法——基于均匀随机排列和拒绝采样——两者均得到相同的最优最坏情况不一致率。

ABSTRACT

We generalize the optimal coupling theorem to multiple random variables: Given a collection of random variables, it is possible to couple all of them so that any two differ with probability comparable to the total-variation distance between them. In a number of cases we show that the disagreement probability we achieve is the best possible. The proofs of sharpness rely on new results in extremal combinatorics, which may be of independent interest.

研究动机与目标

• 将经典的两变量最优耦合定理推广至多个随机变量的集合。
• 建立一种耦合，使得成对不一致概率以总变差距离表示。
• 证明在特定情况下（尤其是不同大小集合上的均匀分布）所推导的界是最优的。
• 将问题与极值组合学联系起来，表明最优性依赖于集合交集模式的紧致界。
• 探讨将结果推广至具有任意代价函数的多源最优传输的可能性。

提出的方法

• 通过在共同索引集上使用均匀随机排列来构造耦合，以最小化变量间不一致的概率。
• 采用基于拒绝采样的方法（受Kleinberg–Tardos启发）来耦合具有有界不一致性的离散随机变量。
• 应用极值组合学分析结构化随机变量族中的成对不一致数量，特别是子集上的均匀分布。
• 利用对称性和容斥原理推导家族中所有成对不一致的下界。
• 通过分析索引集大小增长时的渐近行为，证明不一致界 $F(x) = \frac{2x}{1+x}$ 的最优性。
• 使用 $\alpha < 1$ 的缩放论证，将 $\alpha = 1$ 情况下的最优性结果推广至一般不一致界。

实验结果

研究问题

• RQ1 能否在保持紧致性的前提下，将两变量最优耦合界推广至多个随机变量？
• RQ2 在多个变量的任意耦合中，$\frac{2d_{\mathrm{TV}}(X,Y)}{1 + d_{\mathrm{TV}}(X,Y)}$ 是否为成对不一致的最优界？
• RQ3 在均匀分布于不同子集的随机变量族中，何种组合构型能最小化总不一致？
• RQ4 两个不一致界点态最小值是否仍为有效不一致界？
• RQ5 能否将结果推广至具有通用代价函数的多源最优传输？

主要发现

• 本文证明，对于任意相对于共同 $\sigma$-有限测度绝对连续的随机变量族，存在一种耦合，使得对所有成对变量满足 $\mathbb{P}(X \neq Y) \leq \frac{2d_{\mathrm{TV}}(X,Y)}{1 + d_{\mathrm{TV}}(X,Y)}$。
• 该界在大小为 $n$ 的子集上均匀分布于大小为 $n+k$ 的基集时被证明为最优，尤其当 $k \gg n$ 时。
• 当 $d_{\mathrm{TV}} = 1 - \frac{1}{n}$ 时，最优不一致概率为 $F(1 - \frac{1}{n}) = \frac{2n-2}{2n-1}$，且在 $k \to \infty$ 的极限下该界是紧的。
• 最优性证明依赖于极值组合学：交集大小为 $n-1$ 的集合对数量占主导地位，且具有相同最小元素的此类对的最大数量为 $\frac{n_5}{5}$，从而导出紧致界。
• 通过集合系的渐近分析，证明不一致界 $F(x) = \frac{2x}{1+x}$ 在接近 1 的点处最优，尤其对 $x = 1 - \frac{1}{n}$ 成立。
• 本文表明，对于大小相等集合上的均匀分布，$\frac{2d_{\mathrm{TV}}}{1 + d_{\mathrm{TV}}}$ 界是紧的，与 Broder 和 Charikar 的已知结果一致。