[論文レビュー] Concentration of Lipschitz Functions of Negatively Dependent Variables

Duppala, Sharmila, J. Vondrák+3 more|arXiv (Cornell University)|Apr 21, 2018

advanced mathematical theories参考文献 7被引用数 5

ひとこと要約

この論文は、負の回帰下でのリプシッツ関数に対する集中不等式を確立し、先行研究における誤った証明を是正する。条件付きモーメントの境界を用いた、新しい帰納的マルティングルのアプローチにより、独立変数に対するMcDiarmidの不等式と同様のサブガウス型尾部境界が成り立つことを証明する。分散係数は $ n\lambda^2/2 $（単調関数の場合には $ n\lambda^2/8 $ に改善）である。

ABSTRACT

We study the question of whether submodular functions of random variables satisfying various notions of negative dependence satisfy Chernoff-like concentration inequalities. We prove such a concentration inequality for the lower tail when the random variables satisfy negative association or negative regression, partially resolving an open problem raised in ([Frederick Qiu and Sahil Singla, 2022]). Previous work showed such concentration results for random variables that come from specific dependent-rounding algorithms ([Chandra Chekuri et al., 2010; Nicholas J. A. Harvey and Neil Olver, 2014]). We discuss some applications of our results to combinatorial optimization and beyond. We also show applications to the concentration of read-k families [Dmitry Gavinsky et al., 2015] under certain forms of negative dependence; we further show a simplified proof of the entropy-method approach of [Dmitry Gavinsky et al., 2015].

研究の動機と目的

• 独立変数に対する集中不等式と類似する集中不等式が、負の依存性を示す変数のリプシッツ関数に対して成り立つかどうかという未解決問題を解消すること。
• DubhashiとRanjan（2005年）が提示した、負の回帰下でそのような不等式が成り立つと主張した誤った証明を是正すること。
• より弱い形の負の依存性である「負の回帰条件」下でのリプシッツ関数に対する厳密な集中不等式を確立すること。
• 負の回帰下でのリプシッツ関数の集中性が、独立変数と同様に尾部の減衰の程度において一致することを示すこと。
• 線形関数や負の同一性、強いレイリー測度といったより強い負の依存性の概念を超えて、集中不等式の適用範囲を拡張すること。

提案手法

• 部分的割り当てを条件として、変数の系列における帰納的マルティングル構成を展開し、関数値の差を制御する。
• 条件付き分布を用いたカップリングのアプローチを導入し、差 $ |Y^{(1)}_{k+1} - Y^{(0)}_{k+1}| $ が最大で2（単調関数では1）であることを示す。
• マルティングルの増分に対する指数モーメント法を適用し、範囲が2のゼロ平均確率変数に対して $ \mathbb{E}[e^{\lambda \Delta}] \leq e^{\lambda^2/2} $ が成り立つことを用いる。
• 三角不等式と条件付き期待値の性質を用いて、関数値の変化を残りの変数の和の変化に関連付ける。
• 負の回帰条件を活用し、変数の値を条件づけることで、残りの変数における関数の期待値が確率的に減少することを保証する。
• Markovの不等式を指数モーメントに適用し、最終的な尾部境界 $ \Pr[f > \mu + t] \leq e^{n\lambda^2/2 - \lambda t} $ を導出する。最適化は $ \lambda = t/n $ で行う。

実験結果

リサーチクエスチョン

• RQ1 DubhashiとRanjan（2005年）が主張したように、誤った証明があるものの、負の回帰下でのリプシッツ関数に対する集中不等式は成立するのか？
• RQ2 独立変数に対するMcDiarmidの不等式と類似するサブガウス型尾部境界が、負の回帰下のリプシッツ関数に対して、正当な証明を構築できるか？
• RQ3 変数が逐次的に明らかにされる際、負の回帰条件が関数値の差の挙動にどのように制約を加えるか？
• RQ4 単調関数の場合に、負の回帰下で、集中不等式の最もタイトな分散係数は何か？
• RQ5 この証明手法は、負の同一性などの他の負の依存性の形式へ拡張可能か、それとも負の回帰がこの結果に対して最大のクラスであるか？

主な発見

• 本論文は、DubhashiとRanjanの誤った証明を是正し、負の回帰条件下でのリプシッツ関数に対する正しい完全な証明を提供する。
• 任意のc-リプシッツ関数 $ f: \{0,1\}^n \to \mathbb{R} $ に対して、尾部確率が $ \Pr[f > \mu + t] \leq \exp(n\lambda^2/2 - \lambda t) $ を満たし、$ \lambda = t/n $ であることを示し、サブガウス型尾部減衰を示す。
• 単調リプシッツ関数の場合、境界は $ \Pr[f > \mu + t] \leq \exp(n\lambda^2/8 - \lambda t) $ に改善され、よりタイトな分散係数が得られる。
• 証明は、負の回帰仮定の下で、1つの変数の値の変化に伴う関数値の差が2（単調関数では1）で抑えられることに依存する帰納的マルティングルのアプローチに立っている。
• この手法は、1つの変数が残りの変数の分布を著しく変化させる反例が存在するという課題を効果的に克服し、以前の確率的カバー仮定ではカバーされないケースも含む。
• 結果として、負の回帰が、負の同一性や強いレイリー測度が満たされない場合でも、リプシッツ関数の集中性を保証するのに十分であることが示された。