[논문 리뷰] Nonparametric estimation of a regression function using the gamma kernel method in ergodic processes

Alessandro Pasquale De Rosa, Maria-Ines Nogueira|arXiv (Cornell University)|2016. 05. 24.

Statistical Methods and Inference참고 문헌 30인용 수 3

한 줄 요약

이 논문은 일반적인 에르고딕 종속성 가정 하에 감마 커널 기반 비모수적 회귀 추정기의 강한 균일 일致성과 점근 정규성을 확립한다. 기존의 i.i.d. 결과를 종속 데이터로 확장한다. 방법은 비음수 지지와 경계 편향을 다루기 위해 적응형 밴드위드를 사용하는 감마 커널을 사용하며, 미묘한 혼합 조건 하에 최적의 수렴 속도와 점근 분산을 달성한다.

ABSTRACT

In this paper we consider the nonparametric estimation of density and regression functions with non-negative support using a gamma kernel procedure introduced by Chen (2000). Strong uniform consistency and asymptotic normality of the corresponding estimators are established under a general ergodic assumption on the data generation process. Our results generalize those of Shi and Song (2016), obtained in the classic i.i.d. framework, and the works of Bouezmarni and Rombouts (2008, 2010b) and Gospodinov and Hirukawa (2007) for mixing time series.

연구 동기 및 목표

• i.i.d.에서 일반적인 에르고딕 과정으로 감마 커널 회귀 추정을 확장하여 경계 근처에서 대칭 커널의 한계를 극복한다.
• 약한 종속성 가정 하에 감마 커널 회귀 추정기의 강한 균일 일치성과 점근 정규성을 확립한다.
• i.i.d. 및 혼합 시간 시리즈 프레임워크에서의 기존 결과를 더 넓은 범주인 에르고딕 과정으로 일반화한다.
• 미묘한 밴드위드 조건 하에 최적의 수렴 속도와 i.i.i.d. 설정과 동일한 점근 분산을 확보한다.

제안 방법

• 비음수 지지 구조를 모델링하기 위해 형상 매개변수 $\alpha(n,x) = \frac{x}{h_n} + 1$ 및 척도 매개변수 $\beta(n) = h_n$를 갖는 감마 커널 밀도 추정을 사용한다.
• 조건부 기대값 $R(x) = E[\Phi(Y_1) \mid X_1 = x]$ 를 위한 비율 추정기 $R_n(x) = \frac{\sum_{t=1}^n \Phi(Y_t) K_{\alpha(n,x),\beta(n)}(X_t)}{\sum_{t=1}^n K_{\alpha(n,x),\beta(n)}(X_t)}$ 를 제안한다.
• 혼합 과정을 초월하여 비혼합 에르고딕 수열을 포함하는 일반적인 에르고딕 수열까지 확장하기 위해 에르고딕성을 주된 종속성 가정으로 사용한다.
• 편향과 분산 항을 제어하기 위해 마팅게일 유형 분해와 균일 혼합마일(_mixingale_) 근사 기법을 적용한다.
• 꼬리 행동을 제어하기 위해 모멘트 부등식과 헬더 부등식을 사용한다.
• 조건 (H5)–(H8) — 즉, 모멘트 및 밴드위드 제약 조건 — 하에서 편향, 분산 및 균일 이탈 항을 제어하기 위해 레마 4.1–4.8에 의존한다.

실험 결과

연구 질문

• RQ1 일반적인 에르고딕 종속성 하에서 감마 커널 회귀 추정기는 강한 균일 일치성을 확보할 수 있는가?
• RQ2 같은 밴드위드 선택 조건 하에 i.i.d. 설정과 동일한 수렴 속도로 감마 커널 추정기의 점근 정규성이 에르고딕 과정에서 유지되는가?
• RQ3 밴드위드 조건은 종속 데이터에서 수렴 속도와 점근 분산에 어떤 영향을 미치는가?
• RQ4 약한 종속성 하에서 비음수 지지 회귀에서 감마 커널 방법은 경계 편향을 효과적으로 줄일 수 있는가?
• RQ5 비-i.i.d. 에르고딕 과정에서 감마 커널 추정기의 균일 확률적 성질(편향, 분산, 수렴)은 무엇인가?

주요 결과

• 에르고딕성과 모멘트 조건 하에 $\mathbb{R}_0^+$ 의 컴acts부분집합에서 감마 커널 회귀 추정기 $R_n(x)$ 는 강한 균일 일치성을 갖는다.
• 점근 정규성이 성립한다: $\sqrt{n h_n} (R_n(x) - R(x)) \xrightarrow{d} N(0, \sigma^2(x))$ 이며, 같은 밴드위드 선택 조건 하에 $\sigma^2(x)$ 는 i.i.d. 점근 분산과 일치한다.
• 수렴 속도가 $n h_n \to \infty$ 이고 $n \sqrt{h_n} \to \infty$ 라면 편향 및 분산 항의 수렴 속도는 i.i.d. 경우와 동일하다.
• 편향 항은 $O(h_n)$ 이고 분산 항은 $O(1/(n h_n))$ 이며, 이는 $h_n \sim n^{-1/5}$ 조건 하에 최적의 $MISE$ 속도 $O(n^{-2/5})$ 를 이끈다.
• 증명은 모멘트 부등식과 에르고딕성에 기인한 혼합마일 근사 기법을 통해 $L^2$-모멘트와 꼬리 확률의 균일 제어에 기반한다.
• 결과는 i.i.i.d. (Shi와 Song, 2013) 및 혼합 (Bouezmarni와 Rombouts, 2010) 설정에서의 기존 결과를 더 넓은 범주인 에르고딕 과정으로 일반화한다.