[논문 리뷰] Laplace transform asymptotics and large deviation principles for longest success runs in Bernoulli trials

Takis Konstantopoulos, Zhenxia Liu외 1명|arXiv (Cornell University)|2015. 07. 10.

Stochastic processes and statistical mechanics참고 문헌 11인용 수 3

한 줄 요약

이 논문은 i.i.d. 베르누이 시행에서 최장 연속 성공 횟수 $L(n)$에 대한 정밀한 라플라스 변환 점점이론을 수립하며, 명목값 $ olimits\log_{1/p}n$ 근처와 멀리 떨어진 편차 영역에서 각각 두 개의 대편차 원리(LDP)를 도출한다. 주요 기여는 성공 확률 $p$에 대한 새로운 신뢰구간으로, $p$가 1에 가까울 때이고 $n$이 중간 수준일 경우 기존 방법보다 뛰어난 성능을 보인다.

ABSTRACT

The longest stretch $L(n)$ of consecutive heads in $n$ i.i.d. coin tosses is seen from the prism of large deviations. We first establish precise asymptotics for the moment generating function of $L(n)$ and then show that there are precisely two large deviation principles, one concerning the behavior of the distribution of $L(n)$ near its nominal value $\log_{1/p} n$ and one away from it. We discuss applications to inference and to logarithmic asymptotics of functionals of $L(n)$.

연구 동기 및 목표

• i.i.d. 베르누이 시행에서 최장 연속 성공 횟수 $L(n)$의 모멘트 생성 함수에 대한 정밀한 점점이론을 수립하기 위해.
• $L(n)$에 대해 두 개의 대편차 원리(LDP)를 도출하기 위해: 하나는 그 일반적인 값 $\log_{1/p}n$ 근처에서이고, 다른 하나는 멀리 떨어진 편차 영역에서이다.
• LDP를 통계적 추론에 적용하여, 특히 성공 확률 $p$에 대한 신뢰구간을 구성하기 위해.
• 관측된 최장 연속 성공 횟수를 기반으로 한 새로운 $p$에 대한 신뢰구간을 개발하여, $p$가 1에 가까울 때이고 $n$이 작거나 중간 수준일 경우 성능을 향상시키기 위해.

제안 방법

• 분포 추정과 재귀적 구조를 사용하여, $\lambda < \ln(1/p)$, $\lambda = \ln(1/p)$, $\lambda > \ln(1/p)$의 세 영역에서 $\ln \mathbb{E}[e^{\lambda L(n)}]$의 점점이론을 유도한다.
• Gärtner-Ellis 정리를 사용하여 모멘트 생성 함수의 점점이론에서 완전한 대편차 원리(LDP)를 도출한다.
• 편차를 특성화하기 위해, $x \geq 1$일 때는 $\Lambda^*(x) = (x-1)\ln(1/p)$, 그 외에는 $+\infty$로 정의된 양호한 비용 함수 $\Lambda^*(x)$를 정의한다.
• 꼬리 확률에 대한 로그적 점점이론을 수립한다: $x > 0$에 대해 $\frac{1}{\log_{1/p}n} \ln \mathbb{P}(L(n)/\log_{1/p}n \geq 1+x) \to -x\ln(1/p)$이며, $0 < x < 1$에 대해 $\frac{1}{\log_{1/p}n} \ln \left( -\ln \mathbb{P}(L(n)/\log_{1/p}n \leq 1-x) \right) \to x\ln(1/p)$이다.
• 관측된 최장 연속 성공 횟수 $L_{\text{obs}}(n)$와 편향 보정된 점 추정치 $\widehat{L}(n)$를 사용하여 $100(1-\alpha)\%$의 신뢰구간을 구성한다.
• 시뮬레이션을 통해 제안된 신뢰구간을 검증하며, 특히 $p \approx 1$인 영역에서 윌슨 점수 구간과 클로퍼-피어슨 구간과 비교한다.

실험 결과

연구 질문

• RQ1 i.i.d. 베르누이 시행에서 최장 연속 성공 횟수에 대한 모멘트 생성 함수 $\mathbb{E}[e^{\lambda L(n)}]$의 정밀한 점점이론은 무엇인가?
• RQ2 최장 연속 성공 횟수 $L(n)$에 대해 대편차 원리(LDP)를 엄밀히 수립할 수 있으며, 만약 가능하면 두 개의 서로 다른 영역이 존재하는가?
• RQ3 대편차 점점이론은 성공 확률 $p$에 대한 개선된 신뢰구간을 구성하는 데 어떻게 활용될 수 있는가?
• RQ4 제안된 최장 연속 성공 횟수 기반의 신뢰구간은 $p$가 1에 가까울 경우, 기존의 윌슨 및 클로퍼-피어슨 방법보다 성능이 뛰어나다고 할 수 있는가?

주요 결과

• 모멘트 생성 함수 $\mathbb{E}[e^{\lambda L(n)}]$는 $\lambda < \ln(1/p)$일 때 $\ln \mathbb{E}[e^{\lambda L(n)}] \sim \lambda \log_{1/p}n$, $\lambda = \ln(1/p)$일 때 $\sim 2\lambda \log_{1/p}n$, $\lambda > \ln(1/p)$일 때 $\sim (\lambda - \ln(1/p))n$을 만족한다.
• 비용 함수 $\Lambda^*(x) = (x-1)\ln(1/p)$ ($x \geq 1$일 때) 및 그 외에는 $+\infty$로 정의된 대편차 원리(LDP)가 성립하며, 이는 일반적인 값 $\log_{1/p}n$ 근처의 편차를 특성화한다.
• $x > 0$에 대해 꼬리 확률은 $\frac{1}{\log_{1/p}n} \ln \mathbb{P}(L(n)/\log_{1/p}n \geq 1+x) \to -x\ln(1/p)$를 만족하며, 로그 척도에서 지수적 감소를 나타낸다.
• $0 < x < 1$에 대해 하부 꼬리 확률은 $\frac{1}{\log_{1/p}n} \ln \left( -\ln \mathbb{P}(L(n)/\log_{1/p}n \leq 1-x) \right) \to x\ln(1/p)$를 만족하며, 다른 로그 감소 속도를 보인다.
• 성공 확률 $p$에 대한 새로운 신뢰구간이 제안된다: $I_p = \left( \exp\left\{ -\frac{\ln n - \ln(\alpha/2)}{\widehat{L}(n)} \right\}, \exp\left\{ -\frac{\ln n - \ln(-\ln(\alpha/2))}{\widehat{L}(n)} \right\} \right)$이며, $\widehat{L}(n)$은 $L(n)$의 편향 보정 추정치이다.
• 시뮬레이션 결과, $p$가 1에 가까우며 $n$이 작거나 중간 수준일 경우 제안된 구간이 윌슨 및 클로퍼-피어슨 구간보다 성능이 뛰어나며, 특히 커버리지 정확도에서 뛰어난 성능을 보였다.