[논문 리뷰] A note on Rényi's "record" problem and Engel's series

Lulu Fang, Min Wu|arXiv (Cornell University)|2016. 07. 11.

Probability and Risk Models참고 문헌 10인용 수 3

한 줄 요약

이 논문은 윌리엄스에 의해 도입된 두 개의 마르코프 과정—기록 시간과 수정된 엔겔 급수와 관련된 C-과정과 표준 엔겔 급수와 관련된 A-과정—에 대한 대편차를 조사한다. 두 과정은 고전적 극한정리(강한 수체계 법칙 및 중심극한정리 등)를 공유하지만, 저자들은 대편차 원리에 의해 그 꼬리 행동이 다름을 보여준다: C-과정의 속도 함수는 $ x > -1 $ 에서 $ I_C(x) = x - \log(x+1) $ 이며, A-과정의 경우 $ x > -1 + 1/a $ 에서만 $ I_A(x) = x - \log(x+1) $ 이고, $ a=2 $ 일 때는 별개의 선형 세그먼트를 가지며, 이는 희귀 사건 확률의 근본적인 차이를 드러낸다.

ABSTRACT

In 1973, Williams introduced two interesting discrete Markov processes, namely $C$-processes and $A$-processes, which are related to record times in statistics and Engel's series in number theory respectively. Moreover, he showed that these two processes share the same classical limit theorems, such as the law of large numbers, central limit theorem and law of the iterated logarithm. In this paper, we consider the large deviations for these two Markov processes, which indicate that there is a difference between $C$-processes and $A$-processes in the context of large deviations.

연구 동기 및 목표

• C-과정과 A-과정의 대편차 행동을 분석함. 이 과정들은 강한 수체계 법칙과 중심극한정리와 같은 고전적 극한정리를 공유하고 있음.
• 이 두 과정이 공통된 渐近 행동을 보이지만, 대편차 원리 하에서 희귀 사건 행동이 다를지 여부를 규명함.
• A-과정의 초기 조건이 대편차 속도 함수에 미치는 역할을 명확히 하고, C-과정과의 대비를 통해 분석함.
• 가우스-엘리스 정리와 모멘트 생성 함수 분석을 통해 두 과정의 정확한 양호한 속도 함수 형태를 확립함.

제안 방법

• C-과정의 $ \log C_n $ 에 대한 모멘트 생성 함수 $ \Lambda_C(\theta) $ 를 유도하고, 가우스-엘리스 정리를 적용하여 $ \{ (\log C_n - n)/n \} $ 에 대한 대편차 원리(LDP)를 수립함.
• i.i.d. 지수 분포인 $ W_n $ 를 사용하여 C-과정을 $ C_n = [C_{n-1} \exp(W_n)] + 1 $ 로 표현하고, 그 로그 성장률을 분석함.
• A-과정을 $ A_n = [a_{n-1} \exp(W_n)] + 1 $ 으로 분석함. 여기서 $ a_n $ 은 비감소 수열이며, 모멘트 생성 함수 $ \Lambda_A(\theta) $ 를 유도함.
• Legendre 변환을 통해 $ \Lambda_A(\theta) $ 의 역함수를 계산하여 속도 함수 $ I_A(x) $ 를 도출함. 이는 초기값 $ A_0 = a $ 에 의존하며, $ a \to \infty $ 일 때 $ I_A(x) \to I_C(x) $ 임을 보임.
• 속도 함수 $ I_C(x) $ 와 $ I_A(x) $ 를 비교하여, 모든 $ x \in \mathbb{R} $ 에 대해 $ I_C(x) \geq I_A(x) $ 이고, $ [-1, -1/2) $ 에서는 엄밀한 부등식이 성립함을 보임.
• 특히 $ \mathbb{P}(A_n = 2) = 2^{-n} $ 이라는 사실을 이용하여 대편차 속도의 하한을 유도함. 이는 $ I_A(-1) \leq \log 2 $ 를 의미하며, 이는 C-과정에서는 불가능함.

실험 결과

연구 질문

• RQ1 C-과정과 A-과정이 고전적 극한정리를 공유하고 있음에도 불구하고, 동일한 대편차 행동을 보이는가?
• RQ2 C-과정의 대편차 속도 함수의 정확한 형태는 무엇이며, A-과정과의 비교는 어떻게 이루어지는가?
• RQ3 왜 초기값 $ A_0 = a $ 는 A-과정의 속도 함수에 영향을 주지만, C-과정의 속도 함수에는 영향을 주지 않는가?
• RQ4 A-과정의 속도 함수에 $ \log 2 $ 가 어떻게 과정의 구조에서 유래되는가?
• RQ5 $ (\log C_n)/n $ 과 $ (\log A_n)/n $ 이 평균에서 벗어나는 꼬리 확률의 차이는 무엇으로 설명되는가?

주요 결과

• $ \{ (\log C_n - n)/n \} $ 이 양호한 속도 함수 $ I_C(x) = x - \log(x+1) $ 를 가지며, $ x > -1 $ 에서 정의되고, 그 외의 영역에선 $ +\infty $ 이다.
• $ \{ (\log A_n - n)/n \} $ 는 속도 함수 $ I_A(x) = x - \log(x+1) $ 를 가지며, $ x > -1 + 1/a $ 에서 정의되고, $ -1 \leq x \leq -1 + 1/a $ 에서는 선형 세그먼트 $ (1-a)(x+1) + \log a $ 를 가지며, $ a = A_0 \geq 2 $ 이다.
• $ a = 2 $ 일 때, $ I_A(x) $ 는 $ [-1, -0.5] $ 에서 별개의 선형 성분을 가지며, $ I_C(x) $ 는 엄밀히 볼록하고 이러한 세그먼트를 갖지 않는다.
• 모든 $ x \in \mathbb{R} $ 에 대해 $ I_C(x) \geq I_A(x) $ 이며, $ [-1, -1/2) $ 에서는 엄밀한 부등식이 성립함. 이는 $ C_n $ 이 평균에서 벗어나는 일이 $ A_n $ 보다 훨씬 드물다는 것을 의미한다.
• $ \mathbb{P}(A_n = 2) = 2^{-n} $ 이므로, $ \limsup_{n \to \infty} \frac{1}{n} \log \mathbb{P}\left( \frac{\log A_n - n}{n} \leq x \right) \geq -\log 2 $ 이며, 이는 $ I_A(x) $ 의 비정상적인 선형 부분을 형성한다.
• $ a \to \infty $ 일 때, 속도 함수 $ I_{A,a}(x) \to I_C(x) $ 로 수렴함을 보여, A-과정이 큰 初기값 근처에서 C-과정의 행동으로 수렴함을 나타낸다.