[论文解读] Concentration of Lipschitz Functions of Negatively Dependent Variables

Duppala, Sharmila, J. Vondrák+3 more|arXiv (Cornell University)|Apr 21, 2018

advanced mathematical theories参考文献 7被引用 5

一句话总结

本文建立了在负回归条件下，Lipschitz 函数的浓度不等式，修正了先前工作中存在缺陷的证明。通过一种新颖的归纳鞅论证方法，结合条件矩界，证明了此类函数满足类似于独立变量下 McDiarmid 不等式的次高斯尾部界，方差因子为 $ nackslashackslashlambda^2/2 $（对于单调函数，该因子改进为 $ nackslashackslashlambda^2/8 $）。

ABSTRACT

We study the question of whether submodular functions of random variables satisfying various notions of negative dependence satisfy Chernoff-like concentration inequalities. We prove such a concentration inequality for the lower tail when the random variables satisfy negative association or negative regression, partially resolving an open problem raised in ([Frederick Qiu and Sahil Singla, 2022]). Previous work showed such concentration results for random variables that come from specific dependent-rounding algorithms ([Chandra Chekuri et al., 2010; Nicholas J. A. Harvey and Neil Olver, 2014]). We discuss some applications of our results to combinatorial optimization and beyond. We also show applications to the concentration of read-k families [Dmitry Gavinsky et al., 2015] under certain forms of negative dependence; we further show a simplified proof of the entropy-method approach of [Dmitry Gavinsky et al., 2015].

研究动机与目标

• 解决一个开放问题：即在负依赖变量下，Lipschitz 函数是否满足类似于独立变量的浓度界。
• 纠正 Dubhashi 和 Ranjan（2005）的错误证明，该证明声称在负回归下存在此类界。
• 在负回归条件下，为 Lipschitz 函数建立一个严格的浓度不等式，负回归是负依赖的一种较弱形式。
• 证明在负回归下，Lipschitz 函数的浓度行为与独立变量在尾部衰减方面表现一致。
• 将浓度不等式的适用范围从线性函数和更强的负依赖概念（如负相关性或强 Rayleigh 测度）扩展至更广的场景。

提出的方法

• 在一组随机变量上构建归纳鞅，通过部分赋值的条件控制函数值的变化。
• 引入耦合论证，利用条件分布来界定差值 $ |Y^{(1)}_{k+1} - Y^{(0)}_{k+1}| $，表明其最大为 2（对于单调函数为 1）。
• 对鞅增量应用指数矩方法，利用零均值随机变量在范围为 2 时满足 $ \mathbb{E}[e^{\lambda \Delta}] \leq e^{\lambda^2/2} $ 的界。
• 利用三角不等式和条件期望的性质，将函数值的变化与剩余变量之和的变化联系起来。
• 利用负回归条件，确保对某一变量取值的条件处理会随机地降低剩余变量上函数的期望值。
• 对指数矩应用马尔可夫不等式，推导出最终的尾部界 $ \Pr[f > \mu + t] \leq e^{n\lambda^2/2 - \lambda t} $，并在 $ \lambda = t/n $ 处取得最优值。

实验结果

研究问题

• RQ1 尽管 Dubhashi 和 Ranjan（2005）的证明存在缺陷，其声称在负回归下 Lipschitz 函数满足浓度不等式是否成立？
• RQ2 能否为负回归下的 Lipschitz 函数建立一个严谨的证明，使其次高斯尾部界类似于独立变量下的 McDiarmid 不等式？
• RQ3 负回归条件如何约束在变量按顺序揭示时，函数值差异的行为？
• RQ4 在负回归下，单调情形的浓度界中，最紧的方差因子是什么？
• RQ5 该证明技术能否推广到其他形式的负依赖（如负相关性），还是说负回归是此类结果的最大类？

主要发现

• 本文提供了在负回归条件下，Lipschitz 函数浓度不等式的正确且完整的证明，修正了 Dubhashi 和 Ranjan 早期证明中的缺陷。
• 证明了对于任意 c-Lipschitz 函数 $ f: \{0,1\}^n \to \mathbb{R} $，尾部概率满足 $ \Pr[f > \mu + t] \leq \exp(n\lambda^2/2 - \lambda t) $，其中 $ \lambda = t/n $，表明其具有次高斯尾部衰减特性。
• 对于单调 Lipschitz 函数，该界改进为 $ \Pr[f > \mu + t] \leq \exp(n\lambda^2/8 - \lambda t) $，反映出更紧的方差因子。
• 该证明依赖于一种归纳鞅论证，其中在负回归假设下，单个变量变化导致的函数值差异被限制在 2 以内（对于单调函数为 1）。
• 该方法成功克服了反例带来的挑战：即单个变量可能显著改变剩余变量的分布，而这是早期随机覆盖假设所无法涵盖的情形。
• 结果表明，即使未满足更强的负相关性或强 Rayleigh 条件，负回归也足以保证 Lipschitz 函数的浓度性。