[논문 리뷰] Extremal distributions for tail probabilities of sums of iid random variables on [0,1]

Ludolf Erwin Meester|ArXiv.org|2008. 08. 12.

Probability and Risk Models참고 문헌 4인용 수 3

한 줄 요약

이 논문은 [0,1]에서 정의된 i.i.d. 랜덤 변수 합 $S_n$의 꼬리 확률 $\mathbb{P}(S_n \leq t)$를 최대화하는 극값 분포에 관한 두 가지 오랜 동안 미해결이었던 추측을 해결한다. 평균 $m$이 고정된 조건에서이다. 라그랑주 승수 기법을 사용하여 극값 조건을 유도하고, $n=2$의 경우를 완전히 해결하여, 극값 분포가 최대 세 개의 지지점만을 가진 이산 분포임을 보이며, 이는 원래의 추측을 반박하고 일반적인 $n$에 대해 극값 분포가 유한한 두점 및 세점 분포의 가족에 속할 것임을 시사하는 수정된 추측으로 이어진다.

ABSTRACT

Two old conjectures from problem sections, one of which from SIAM Review, concern the question of finding distributions that maximize P(Sn <= t), where Sn is the sum of i.i.d. random variables X1, ..., Xn on the interval [0,1], satisfying E[X1]=m. In this paper a Lagrange multiplier technique is applied to this problem, yielding necessary conditions for distributions to be extremal, for arbitrary n. For n=2, a complete solution is derived from them: extremal distributions are discrete and have one of the following supports, depending on m and t: {0,t}, {t-1,1}, {t/2,1}, or {0,t,1}. These results suffice to refute both conjectures. However, acquired insight naturally leads to a revised conjecture: that extremal distributions always have at most three support points and belong to a (for each n, specified) finite collection of two and three point distributions.

연구 동기 및 목표

• SIAM Review와 Statistica Neerlandica에 제기된, 평균 $m$이 고정된 [0,1]-값을 가진 i.i.d. 랜덤 변수 합에 대해 $\mathbb{P}(S_n \leq t)$를 최대화하는 분포에 관한 두 가지 미해결 추측을 해결하는 것.
• 고정된 $t < mn$에 대해, $p(m,t) = \sup_{\mu \in \mathcal{D}_m} \mathbb{P}_\mu(S_n \leq t)$의 초과값을 달성하는 극값 분포를 특성화하는 것.
• 일반적인 $n$변량의 경우 극값 조건을 유도하기 위해 라그랑주 승수 기법을 일반화하는 방법을 개발하는 것.
• 원래의 추측을 반박하기 위해, $n=2$의 경우 극값 분포가 두 개 이상의 지지점을 가질 수 있음을 보여주는 명시적 반례를 구성하는 것.
• 모든 $n$에 대해 극값 분포가 최대 세 개의 지지점을 가지며, 이는 유한하고 명시적으로 정의된 두점 및 세점 분포의 가족에 속할 것임을 시사하는 수정된 추측을 제안하는 것.

제안 방법

• Mattner(2007)의 라그랑주 승수 기법을 적용하여, 평균 제약 조건 $\mathbb{E}[X_1] = m$ 하에서 $\mathbb{P}(S_n \leq t)$를 최대화하는 데 있어 분포 $\mu$가 극값이 되기 위한 필요 조건을 도출한다.
• 약한*-컴actness와 약한*-연속성을 사용하여, [0,1]에서의 확률측도 중 평균 $m$을 가지는 집합 $\mathcal{D}_m$ 내에서 극값 분포의 존재를 보장한다.
• $n=2$의 경우, 라그랑주 조건에 기반하여 극값 분포의 지지점이 $\{s, t-s\}$ 또는 $\{s, t-s, 1\}$ 형태여야 한다는 것을 증명함으로써, 검색 공간을 축소시킨다.
• 평균 제약 조건을 만족시키고 이항 꼬리 확률 $b(n,\pi,j)$를 최대화하는 두점 분포 $\{a,b\}$의 확률에 대해 명시적인 공식을 유도한다. 여기서 $\pi$는 성공 확률이다.
• 세점 분포 $\{0,a,1\}$의 경우, 라그랑주 선형 조건을 적용한다: $(1-a)\mathbb{P}(t-a < S_{n-1} \leq t) = a\mathbb{P}(t-1 < S_{n-1} \leq t-a)$, 이는 확률에 대한 다항방정식으로 이어진다.
• 유한한 후보 극값 분포 가족을 구성한다: 최대 $n$개의 두점 분포와 최대 $\binom{n}{2}$개의 세점 분포를 통해, 꼬리 확률을 비교하여 최적의 분포를 선별한다.

실험 결과

연구 질문

• RQ1 SIAM Review 문제 86-6에서 제기된 바와 같이, 평균 $m$을 가지는 [0,1]-값을 가진 i.i.d. 랜덤 변수 합에 대해 $\mathbb{P}(S_n \leq t)$를 최대화하는 분포는 항상 0 또는 1 중 하나를 포함하는 두 지점에서만 지지되는가?
• RQ2 Statistica Neerlandica 문제 294에서 주장한 바와 같이, $\mathbb{P}(X=1) = m$인 이항분포가 항상 $\mathbb{P}(S_n \leq t)$에 대해 최적인가?
• RQ3 $n=2$의 경우, 평균 제약 조건 $\mathbb{E}[X_1] = m$ 하에서 $\mathbb{P}(S_2 \leq t)$를 최대화하는 극값 분포의 정확한 형태는 무엇인가?
• RQ4 일반적인 $n$에 대해 극값 분포가 최대 세 개의 지지점을 가지며, 만약 그렇다면 각 $n$에 대해 이를 명시적으로 나열할 수 있는가?
• RQ5 모든 $n$, $m$, $t$에 대해 극값 분포를 포함하는, 유한하고 계산 가능한 두점 및 세점 분포의 후보 가족이 존재하는가?

주요 결과

• 모든 $n=2$의 경우, 극값 분포는 항상 이산적이며, $m$과 $t$에 따라 네 가지 가능한 지지점 중 하나를 가진다: $\{0,t\}$, $\{t-1,1\}$, $\{t/2,1\}$, 또는 $\{0,t,1\}$로, 이는 원래의 두 추측을 모두 반박한다.
• 원래의 SIAM Review 추측은 반박된다: $m$과 $t$의 값에 따라 극값 분포가 세 개의 지지점을 가지며, 예를 들어 $\{0,t,1\}$일 수 있고, 이는 두점 분포로 단순화될 수 없다.
• Statistica Neerlandica 추측 역시 반박된다: 임의의 $p_0 < 1$에 대해, $n$, $t$, $m$이 존재하여 이항 확률 $b(n,m,t)$가 초과값 $p_n(m,t)$보다 엄밀히 작을 수 있다. 이는 $p_n(m,t) \leq p_0$이어도 성립한다.
• 수정된 추측을 제안한다: 모든 $n$에 대해 극값 분포는 최대 $n$개의 두점 분포와 최대 $\binom{n}{2}$개의 세점 분포 $\{0,a,1\}$로 이루어진 유한한 가족에 속한다. 여기서 $a = (t-l)/k$이며, 정수 $k,l$는 $0 \leq l < t < l+k \leq n-1$를 만족한다.
• 이 유한한 가족에 속하는 각 후보 분포에 대해, 평균 제약 조건과 라그랑주 선형 조건을 조합한 방정식계를 풀어 최적의 확률을 결정한다. 이는 성공 확률 $p = \mathbb{P}(X=1)$에 대한 $n-1$차 다항방정식으로 이어진다.
• 논문은 $n=2$의 경우 극값 분포를 완전히 특성화하며, 초과값 $p(m,t)$가 네 가지 지정된 이산 분포 중 하나에 의해 달성되며, 이에 해당하는 이항 꼬리 확률을 비교함으로써 최적의 선택을 찾을 수 있음을 보여준다.