[논문 리뷰] Probability asymptotics: notes on notation

Svante Janson|arXiv (Cornell University)|2011. 08. 19.

Stochastic processes and financial applications참고 문헌 4인용 수 33

한 줄 요약

이 논문은 랜덤 변수에 적용되는 확률적 big-O 및 little-o 표기법에 대한 철저하고 체계적인 비교를 제공하며, 일반적인 사용에서의 모호함을 명확히 한다. $O(a_n)$ a.s., $O(a_n)$ w.h.p., $O_{L^∞}(a_n)$ 등의 핵심 渐近 표기법을 정의하고 구분하며, 이들의 논리적 관계를 수립한다. 특히 $X_n = o(a_n)$ a.s.는 $X_n = o_p(a_n)$를 함의하지만, $O$-표기법에서는 그와 같은 함의관계가 성립하지 않음을 강조하며, 확률적 渐近 이론에서의 오용 위험을 경고한다.

ABSTRACT

Some asymptotic notions for random variables are discussed. In particular, different versions of O and o for sequences of random variables are studied. The results are elementary and more or less well-known, but collected here for future use and easy reference.

연구 동기 및 목표

• 랜덤 변수에 적용될 때 $O(a_n)$ 및 $o(a_n)$와 같은 확률적 渐近 표기법에 널리 퍼져 있는 모호함을 해결하기 위해.
• 거칠게는 거의 확실히, 확률적으로, 거의 확실히 유계인 형태를 포함한 $O$ 및 $o$ 표기법의 여러 변형을 공식적으로 정의하고 비교하기 위해.
• 이러한 표기법들 간의 논리적 관계와 함의관계를 명확히 하여, 특히 $O(a_n)$ a.s.과 $O(a_n)$ w.h.p. 간의 비등가성을 밝혀내기 위해.
• 특히 균일한 경계와 고확률 경계를 혼동하는 경향이 있는 바, $O(a_n)$ 및 $o(a_n)$를 수식에 수식어 없이 사용하는 것의 위험성을 경고하기 위해.
• 확률적 조합론과 渐近 분석에서의 오류를 피하기 위해, $O_{L^∞}(a_n)$와 같은 정밀한 용어와 표기법을 권장하기 위해.

제안 방법

• 극한 상한과 에프실론 기반의 양자화자를 사용하여 비확률적 $O$ 및 $o$ 표기법을 정의한다.
• 확률적 변형을 도입하고 공식화한다: $X_n = O_p(a_n)$는 확률 수렴을 통해, $X_n = o_p(a_n)$는 0으로의 확률 수렴을 통해 정의한다.
• 거의 확실한 버전을 정의한다: $X_n = O(a_n)$ a.s.는 거의 확실히 경로별로 유계임을 통해, $X_n = o(a_n)$ a.s.는 거의 확실한 0으로의 수렴을 통해 정의한다.
• 균일 경계(확실하거나 거의 확실한 경계)를 위한 $O_{L^∞}(a_n)$ 및 $o_{L^∞}(a_n)$ 표기법을 도입하고, 고확률 경계 버전과 구분한다.
• 반례(예: 보렐-칸탈리 기반의 수열)를 사용하여 $O(a_n)$ a.s.과 $O(a_n)$ w.h.p.가 논리적으로 독립적임을 보여준다.
• 표준 확률 도구(예: 보렐-칸탈리 보조정리 및 수렴의 등가성)를 활용하여 표기법 간의 관계를 검증한다.

실험 결과

연구 질문

• RQ1 랜덤 변수 수열 $X_n$에 대해 $X_n = O(a_n)$의 올바른 공식 정의는 무엇인가요?
• RQ2 $O(a_n)$ a.s., $O(a_n)$ w.h.p., $O_{L^∞}(a_n)$ 표기법은 어떻게 다릅니다? 그리고 그들의 논리적 함의관계는 무엇인가요?
• RQ3 $X_n = O(a_n)$ a.s.에서 $X_n = O(a_n)$ w.h.p.로의 함의관계가 없는 이유는 무엇이며, 그 반대의 경우도 마찬가지인가요?
• RQ4 $X_n = o(a_n)$ a.s.를 $X_n = o_p(a_n)$와 교환하여 사용할 수 있으며, 그 공식적 근거는 무엇인가요?
• RQ5 $O(a_n)$에 수식어 없이 사용할 경우의 위험성은 무엇이며, 모호함은 어떻게 피할 수 있나요?

주요 결과

• $X_n = o(a_n)$ a.s.는 $X_n = o_p(a_n)$를 함의하며, 둘 다 $X_n = o(a_n)$ w.h.p.와 동치임을 확인하여, little-o에 대해 일관된 계층을 수립한다.
• $X_n = O(a_n)$ a.s.과 $X_n = O(a_n)$ w.h.p. 사이에는 함의관계가 없으며, 반례를 통해 이를 입증한다: 하나는 거의 확실히 무한히 커지지만 고확률로 유계인 수열, 다른 하나는 거의 확실히 유계이지만 고확률로 유계가 아닌 수열이다.
• $X_n = O(a_n)$에 수식어 없이 사용하는 것은 모호하다. 이는 $O_{L^∞}(a_n)$ (균일 경계) 또는 $O_p(a_n)$ (고확률 경계)를 의미할 수 있으며, 의도한 의미는 반드시 명확히 해야 한다.
• $O_{L^∞}(a_n)$ 표기법은 $|X_n| \leq C a_n$ a.s.를 만족하는 랜덤 변수 $C$에 대해 정의되며, $O_p(a_n)$보다 엄격히 강력하다. 균일 경계가 필요할 경우 이 표기법을 사용해야 한다.
• 논문은 $X_n = O(a_n)$ a.s.가 $X_n = O_p(a_n)$를 함의하지 않으며, 그 반대도 마찬가지임을 경고하며, 이러한 혼동은 확률적 조합론에서 흔한 오류 원인임을 밝힌다.
• 균일 경계가 필요할 경우, $O(a_n)$ 또는 $o(a_n)$를 수식어 없이 사용하는 대신 $O_{L^∞}(a_n)$ 또는 $o_{L^∞}(a_n)$를 사용하여 모호함을 피할 것을 권장한다.