[논문 리뷰] Concentration of Lipschitz Functions of Negatively Dependent Variables

Duppala, Sharmila, J. Vondrák외 3명|arXiv (Cornell University)|2018. 04. 21.

advanced mathematical theories참고 문헌 7인용 수 5

한 줄 요약

이 논문은 이전 연구에서 잘못된 증명을 수정하면서, 음의 회귀 조건 하에서 랜덤 변수의 리프시츠 함수에 대한 농도 부등식을 수립한다. 조건부 모멘트 바ounds를 사용하는 새로운 인덕티브 마팅게일 접근법을 통해, 독립 변수에 대한 맥디아미드 부등식과 유사한 서브가우시안 尾부 바운드를 증명한다. 이는 분산 인자 $ n\lambda^2/2 $ (모노톤 함수의 경우 $ n\lambda^2/8 $ 으로 향상됨)를 가진다.

ABSTRACT

We study the question of whether submodular functions of random variables satisfying various notions of negative dependence satisfy Chernoff-like concentration inequalities. We prove such a concentration inequality for the lower tail when the random variables satisfy negative association or negative regression, partially resolving an open problem raised in ([Frederick Qiu and Sahil Singla, 2022]). Previous work showed such concentration results for random variables that come from specific dependent-rounding algorithms ([Chandra Chekuri et al., 2010; Nicholas J. A. Harvey and Neil Olver, 2014]). We discuss some applications of our results to combinatorial optimization and beyond. We also show applications to the concentration of read-k families [Dmitry Gavinsky et al., 2015] under certain forms of negative dependence; we further show a simplified proof of the entropy-method approach of [Dmitry Gavinsky et al., 2015].

연구 동기 및 목표

• 독립 변수에 대한 농도 부등식과 유사한 형태로, 음의 의존성 하에서 리프시츠 함수가 농도 부등식을 만족하는지 여부라는 열린 문제를 해결하기 위해.
• Dubhashi와 Ranjan(2005)이 음의 회귀 조건 하에서 그러한 부등식을 주장했지만 잘못된 증명을 수정하기 위해.
• 더 약한 형태의 음의 의존성인 음의 회귀 조건 하에서 리프시츠 함수에 대한 엄밀한 농도 부등식을 수립하기 위해.
• 음의 회귀 조건 하에서 리프시츠 함수의 농도 행동이 독립 변수와 동일한 尾부 감쇠 특성을 보이는지 보여주기 위해.
• 선형 함수나 더 강력한 음의 의존성 개념(예: 음의 상관관계 또는 강한 레일리 측도)을 넘어서 농도 부등식의 적용 범위를 확장하기 위해.

제안 방법

• 부분 할당 조건 하에서 기댓값의 변화를 제어하기 위해, 랜덤 변수의 수열에 대해 인덕티브 마팅게일 구조를 개발한다.
• 조건부 분포를 사용하는 커플링 접근법을 도입하여, 차이 $ |Y^{(1)}_{k+1} - Y^{(0)}_{k+1}| $ 를 바ounds하며, 이 값이 최대 2 이하임을 보인다 (모노톤 함수의 경우 1 이하).
• 마팅게일 증분에 대해 지수 모멘트 방법을 적용하며, 범위가 2인 중심이 0인 랜덤 변수에 대해 $ \mathbb{E}[e^{\lambda \Delta}] \leq e^{\lambda^2/2} $ 라는 바운드를 사용한다.
• 삼각 부등식과 조건부 기대값의 성질을 활용하여, 함수 값의 변화와 나머지 변수들의 합의 변화를 연결한다.
• 음의 회귀 조건을 활용하여, 변수의 값을 조건부로 고정할 경우 나머지 변수들에 대한 함수 기댓값이 스토하스틱하게 감소함을 보장한다.
• 마르코프 부등식을 지수 모멘트에 적용하여 최종적인 尾부 바운드 $ \Pr[f > \mu + t] \leq e^{n\lambda^2/2 - \lambda t} $ 를 유도하며, 이는 $ \lambda = t/n $ 에서 최적화된다.

실험 결과

연구 질문

• RQ1 Dubhashi와 Ranjan(2005)이 주장한 바와 같이, 잘못된 증명에도 불구하고 음의 회귀 조건 하에서 리프시츠 함수에 대한 농도 부등식이 성립하는가?
• RQ2 독립 변수에 대한 맥디아미드 부등식과 유사한 서브가우시안 尾부 바운드를 음의 회귀 조건 하에서 리프시츠 함수에 대해 엄밀한 증명으로 구성할 수 있는가?
• RQ3 변수들이 순차적으로 드러날 때, 음의 회귀 조건이 함수 값 차이의 행동을 어떻게 제약하는가?
• RQ4 모노톤 케이스에서 음의 회귀 조건 하에서 농도 바운드의 가장 날카로운 분산 인자는 무엇인가?
• RQ5 이 증명 기법은 음의 상관관계와 같은 다른 형태의 음의 의존성으로 확장될 수 있는가, 아니면 음의 회귀 조건이 이 결과에 대해 최대 클래스인가?

주요 결과

• 논문은 Dubhashi와 Ranjan의 잘못된 증명을 수정하면서, 음의 회귀 조건 하에서 리프시츠 함수에 대한 정확하고 완전한 농도 부등식의 증명을 제공한다.
• 임의의 c-리프시츠 함수 $ f: \{0,1\}^n \to \mathbb{R} $ 에 대해, 尾부 확률이 $ \Pr[f > \mu + t] \leq \exp(n\lambda^2/2 - \lambda t) $ 를 만족하며, $ \lambda = t/n $ 이므로 서브가우시안 尾부 감쇠를 의미한다.
• 모노톤 리프시츠 함수의 경우, 바운드는 $ \Pr[f > \mu + t] \leq \exp(n\lambda^2/8 - \lambda t) $ 로 향상되며, 이는 더 날카로운 분산 인자를 반영한다.
• 증명은 음의 회귀 가정 하에서 단일 변수 값 변화에 따른 함수 값 차이가 2 이하(모노톤 함수의 경우 1 이하)로 바운드되는 인덕티브 마팅게일 접근법에 의존한다.
• 이 방법은 이전의 스토하스틱 커버링 가정이 다루지 못하는, 한 개의 변수가 나머지 변수들의 분포를 크게 변화시킬 수 있는 반례에 의해 발생하는 과제를 성공적으로 극복한다.
• 결과적으로, 음의 회귀 조건이 리프시츠 함수의 농도를 보장하는 데 충분함을 보여주며, 이는 더 강력한 개념인 음의 상관관계나 강한 레일리 측도가 만족되지 않을 경우에도 성립한다.