[논문 리뷰] Bernstein-like Concentration and Moment Inequalities for Polynomials of Independent Random Variables: Multilinear Case

Warren Schudy, Maxim Sviridenko|arXiv (Cornell University)|2011. 09. 23.

Polynomial and algebraic computation참고 문헌 21인용 수 6

한 줄 요약

이 논문은 독립적인 랜덤 변수의 다중선형 다항식에 대해 베르누이와 유사한 집중 부등식을 수립하며, 작은 $\lambda$에 대해 $\exp\left(-\lambda^2 / (R^q \cdot \text{Var}(f))\right)$ 형태의 尾 확률 bound를 도출한다. 여기서 $R$는 절대 상수이다. 이 결과는 지수부 상수의 오차 내에서 가우시안 분포의 행동을 재현하며, 가우시안, 부울, 지수, 포아송 분포를 포함한 다양한 분포에 적용 가능하다. 이는 이전 연구에서 사용한 더 자연스럽지 않은 매개변수 대신 분산을 사용함으로써 기존의 결과를 향상시킨다.

ABSTRACT

We show that the probability that a multilinear polynomial $f$ of independent random variables exceeds its mean by $λ$ is at most $e^{-λ^2 / (R^q Var(f))}$ for sufficiently small $λ$, where $R$ is an absolute constant. This matches (up to constants in the exponent) what one would expect from the central limit theorem. Our methods handle a variety of types of random variables including Gaussian, Boolean, exponential, and Poisson. Previous work by Kim-Vu and Schudy-Sviridenko gave bounds of the same form that involved less natural parameters in place of the variance.

연구 동기 및 목표

• 독립적인 랜덤 변수의 다중선형 다항식에 대해, 랜덤 변수 합에 대한 베르누이 부등식과 유사한 집중 부등식을 개발하는 것.
• 중앙극한정리가 예측하는 바와 같이, 특히 작은 편차에 대해 꼬리 행동을 재현하는 꼬리 bound를 제공하는 것.
• 가우시안, 부울, 지수, 포아송 분포를 포함한 넓은 분포 클래스를 통합된 프레임워크 내에서 다루는 것.
• 분산 대신 더 해석이 어려운 매개변수를 사용한 이전의 bound를 개선하여 더 깔끔한 분산 기반의 공식화를 제공하는 것.

제안 방법

• 저자들은 로그-볼록 분포의 성질과 조건부 기대값을 활용하여 다중선형 다항식의 모멘트 생성 함수를 분석한다.
• 로그-볼록성을 활용하여 꼬리 행동을 제어하는 중앙모멘트에 대한 재귀적 경계 기법을 적용한다.
• 체비셰프의 합산 부등식과 로그-볼록 랜덤 변수의 생존함수에 대한 경계를 사용하여 핵심 부등식을 유도한다.
• 다항식을 조건부 구성요소로 분해하고, 재귀적 부등식을 통해 모멘트를 경계하는 방법을 사용한다.
• 로그-볼록 정수값을 가진 랜덤 변수에 대해 $\mathbb{E}[|X - a|^k]$를 생존 확률과 확률질량함수를 사용하여 경계짓는다.
• 조건부 기대값과 로그-볼록 분포의 구조를 활용하여 중심모멘트 경계 조건을 수립한다.

실험 결과

연구 질문

• RQ1 독립적인 랜덤 변수의 다중선형 다항식에 대해, 분산을 자연스러운 척도 매개변수로 사용하는 베르누이 유사 부등식을 유도할 수 있는가?
• RQ2 이러한 다항식의 꼬리 행동은 특히 작은 편차에서 가우시안 분포와 어떻게 비교되는가?
• RQ3 이러한 bound는 가우시안, 부울, 지수, 포아송 분포와 같은 다양한 유형의 분포에 대해 통일적으로 적용 가능한가?
• RQ4 로그-볼록성이 이러한 다항식의 엄밀한 모멘트 경계를 가능하게 하는 데 어떤 역할을 하는가?
• RQ5 이전 결과에서 분산 대신 비분산 매개변수를 사용한 것과 비교하여, 새로운 bound는 정량적으로 어떻게 더 낫게 되는가?

주요 결과

• 논문은 충분히 작은 $\lambda$에 대해 $\Pr[|f - \mathbb{E}[f]| \geq \lambda] \leq 2\exp\left(-\lambda^2 / (R^q \cdot \text{Var}(f))\right)$ 형태의 꼬리 bound를 수립한다. 여기서 $R$는 절대 상수이다.
• 이 bound는 중심극한정리가 예측한 바와 같이 지수부 상수의 오차 내에서 가우시안 꼬리 감쇠율을 재현한다.
• 이 결과는 가우시안, 부울, 지수, 포아송 랜덤 변수를 포함한 광범위한 분포 클래스에 대해 균일하게 성립한다.
• 이전 연구에서 사용한 더 자연스럽지 않은 매개변수 대신 분산을 사용함으로써, 이 연구는 더 깔끔한 분산 기반의 공식화를 제공한다.
• 저자들은 $\Pr[X = \mathbb{E}[X]] < 1$인 로그-볼록 정수값을 가진 랜덤 변수가 $L = 1 + \max(\mathbb{E}[|X - \mathbb{E}[X]| \mid X \geq \mathbb{E}[X]], \mathbb{E}[|X - \mathbb{E}[X]| \mid X < \mathbb{E}[X]])$ 를 매개변수로 하는 중심모멘트 경계 조건을 만족함을 증명한다.
• 분석은 조건부 기대값과 로그-볼록 수열의 성질을 활용한 재귀적 모멘트 경계를 통해 고차 모멘트를 엄밀히 제어하는 데 사용된다.