[논문 리뷰] An estimate on the maximum of a nice class of stochastic integrals

Péter Major|ArXiv.org|2003. 10. 20.

Advanced Harmonic Analysis Research참고 문헌 5인용 수 7

한 줄 요약

이 논문은 정규화된 경험 측도에 대한 다중 확률적 적분의 클래스에 대해 날카운 지수 尾 꼬리 경계를 수립한다. 유계 함수의 $L_2$-밀도 클래스와 바프니크-체르보넨크 타입의 복잡도 제어를 사용하여, 다음 형태의 고확률 상한을 도출한다: $P(\sup_{f\in\mathcal{F}}|J_{n,k}(f)| > x) \leq CD \exp\left\{-\alpha (x/\sigma)^{2/k}\right\}$, 이는 복잡도 제약 조건이 약간 있을 경우 초월적 적분이 단일 적분과 거의 동일하게 행동함을 보여준다.

ABSTRACT

Let a sequence of iid. random variables $ξ_1,...,ξ_n$ be given on a space $(X,\cal X)$ with distribution $μ$ together with a nice class $\cal F$ of functions $f(x_1,...,x_k)$ of $k$ variables on the product space $(X^k,{\cal X}^k)$. For all $f\in\cal F$ we consider the random integral $J_{n,k}(f)$ of the function $f$ with respect to the $k$-fold product of the normalized signed measure $\sqrt n(μ_n-μ)$, where $μ_n$ denotes the empirical measure defined by the random variables $ξ_1,...,ξ_n$ and investigate the probabilities $P(\sup_{f\in {\cal F}}|J_{n,k}(f)|>x)$ for all $x>0$. We show that for nice classes of functions, for instance if $\cal F$ is a Vapnik-Cervonenkis class, an almost as good bound can be given for these probabilities as in the case when only the random integral of one function is considered.

연구 동기 및 목표

• 함수의 클래스에 대해 다중 확률적 적분의 초월적 적분에 대한 고확률 상한을 도출하는 것.
• 의존적인 구조를 가진 고차 U-통계량으로 경험 과정에 대한 농도 부등식을 확장하는 것.
• 함수 클래스의 복잡도를 $L_2$-밀도와 바프니크-체르보넨크 타입 조건을 통해 제어하는 것.
• 단일 함수의 경우와 거의 동일한 방식으로 행동하는 꼬리 확률 $P(\sup_{f\in\mathcal{F}}|J_{n,k}(f)| > x)$ 에 대한 경계를 수립하는 것.
• 측도 이론적 병리 현상을 피하기 위해 일반 함수 클래스로의 확장을 위해 가산 우세성 개념을 도입하는 것.

제안 방법

• 대각선 항을 제외한 표준화된 경험 측도 $\sqrt{n}(\mu_n - \mu)$ 에 대한 $k$-중 다중 확률적 적분 $J_{n,k}(f)$ 를 정의한다.
• 모든 확률 측도에 대해 크기가 $\leq D\varepsilon^{-L}$ 인 $\varepsilon$-넷이 존재하도록 보장하는 매개변수 $D$ 와 $L$ 을 가진 $L_2$-밀도 클래스의 개념을 사용한다.
• 모든 $f \in \mathcal{F}$ 에 대해 유계성 $\|f\|_\infty \leq 1$ 과 $L_2$-노름 $\|f\|_2 \leq \sigma$ 를 부여하여 함수 크기와 분산을 제어한다.
• 적분의 모멘트를 제어하기 위해 하이퍼컨트랙티브 연산자 $\mathbb{T}_\gamma^n$ 을 통한 라데마처 카오스에 대한 하이퍼컨트랙티브 부등식을 적용한다.
• 모멘트 비교와 마르코프 부등식을 사용하여 $x$, $\sigma$, $k$, $D$, $n$ 에 대한 꼬리 경계를 유도한다.
• 측도 이론적 문제 없이 일반 함수 클래스로의 확장을 위해 가산 우세성 개념을 도입한다.

실험 결과

연구 질문

• RQ1 복잡한 함수 클래스에 대해 다중 확률적 적분의 초월적 적분에 대해 날카운 꼬리 경계를 수립할 수 있는가?
• RQ2 함수 클래스 $\mathcal{F}$ 의 복잡도가 $L_2$-밀도로 측정될 때, 초월적 적분의 꼬리 행동에 어떤 영향을 미치는가?
• RQ3 함수 클래스에 대한 초월적 적분을 고려할 때, 단일 적분의 농도 경계는 어느 정도 회복될 수 있는가?
• RQ4 함수 클래스 $\mathcal{F}$ 는 어떤 조건을 만족해야 초월적 적분이 꼬리 감소 측면에서 단일 적분과 유사하게 행동하는가?
• RQ5 적절한 위상적 또는 측도 이론적 대체를 통해 결과를 가산 클래스를 초월해 확장할 수 있는가?

주요 결과

• 모든 $x$ 에 대해 $n\sigma^2 \geq (x/\sigma)^{2/k} \geq M(L+\beta+1)^{3/2}\log(2/\sigma)$ 를 만족할 경우, 논문은 경계 $P(\sup_{f\in\mathcal{F}}|J_{n,k}(f)| > x) \leq CD \exp\left\{-\alpha (x/\sigma)^{2/k}\right\}$ 를 수립한다.
• 경계는 $k$ 에만 의존하는 상수들만을 통해 단일 함수의 경우와 거의 동일하게 되며, 이는 복잡한 클래스에 대한 초월적 적분이 꼬리 행동을 크게 악화시키지 않음을 보여준다.
• 지수 항의 지수 $2/k$ 는 적분의 $k$-중 구조에서 자연스럽게 유도되며, 모멘트 비교의 관점에서 최적임을 보여준다.
• 매개변수 $D$ 는 함수 클래스의 복잡도를 제어하며, 경계는 $D$ 를 곱하는 요소로 스케일링되어 클래스의 엔트로피를 반영한다.
• 경계는 $D \leq n^\beta$ 를 만족하는 $L_2$-밀도 클래스에 대해 성립하며, 이는 $n$ 에 대해 다항식적으로 증가하는 복잡도를 허용한다.
• 가산 우세성 개념은 주요 결과를 가산이 아닌 클래스로 확장할 수 있게 하며, 미약한 위상 조건 하에서 꼬리 경계를 유지한다.