[논문 리뷰] Uniform in bandwidth consistency of local polynomial regression function estimators

Julia Dony, Uwe Einmahl외 1명|ArXiv.org|2006. 01. 23.

Statistical Methods and Inference참고 문헌 17인용 수 33

한 줄 요약

이 논문은 경험 과정 기법을 일반화하여 더 넓은 범주에 속하는 기능성에 대해 국소 다항 회귀 추정기의 대역폭에 관하여 균일한 일致성을 확립한다. 추정 오차가 주어진 범위 내 모든 대역폭에 대해 균일하게 수렴함을 증명하여 데이터 기반 대역폭 선택에 대한 강건성을 확보하며, 커널과 설계 밀도에 대한 약한 부드러움 조건과 모멘트 조건 하에서 결정론적 대역폭과 동일한 수렴 속도를 얻는다.

ABSTRACT

We generalize a method for proving uniform in bandwidth consistency results for kernel type estimators developed by the two last named authors. Such results are shown to be useful in establishing consistency of local polynomial estimators of the regression function.

연구 동기 및 목표

• 기본 밀도 및 회귀 추정기 외의 더 넓은 범주에 속하는 기능성으로 커널 유형 추정기의 대역폭에 관한 균일 일치 결과를 확장하기 위해.
• 주어진 범위 내 모든 대역폭에 대해 국소 다항 회귀 추정기의 균일 수렴을 확립하여 데이터 기반 대역폭 선택에 대한 강건성을 보장하기 위해.
• 기본 밀도와 회귀 함수에 대한 최소한의 부드러움 가정 하에서 국소 다항 추정기의 일치성에 대한 이론적 기반을 마련하기 위해.
• 기존 경험 과정 기법을 일반화하여 비모수 추정에서 의존적인 기능 클래스를 다룰 수 있는 더 유연한 프레임워크를 도입하기 위해.

제안 방법

• 저자들은 이전 연구에서의 방법을 일반화하여 경험 과정 이론을 활용해 대역폭 범위 전체에 걸쳐 균일 수렴을 다루는 방법을 제시한다.
• 응답 변수의 함수들의 커널 가중 합을 포함하는 기능성의 클래스를 정의하며, 尾행동을 제어하기 위해 가측성 있는 엔velop 함수를 도입한다.
• 기능성 클래스에 커버링 수 조건을 도입하여 엔트로피를 제어하고, 대칭화 및 라데마처 복잡도를 통해 모멘트 경계를 확보한다.
• 증명은 거의 확실히 수렴하는 것을 라데마처 평균의 모멘트 경계로 줄이기 위해 대칭화 부등식(Inequality A.1)에 의존한다.
• 저자들은 커버링 수 기반 모멘트 경계(Proposition A.1)를 적용하여 기능성 클래스 위에서의 경험 과정의 기대 최대값을 제어한다.
• 대역폭이 줄어들면서의 균일 연속성과 편향 제어를 다루기 위해 컨볼루션 유형의 근사(Lemma A.2)를 사용한다.

실험 결과

연구 질문

• RQ1 설계 밀도와 회귀 함수에 대한 최소한의 부드러움 가정 하에서 국소 다항 회귀 추정기의 대역폭에 관한 균일 일치성을 확립할 수 있는가?
• RQ2 주어진 간격 내 모든 대역폭에 대해 균일 수렴을 보장하기 위해 기능성 클래스와 커널에 어떤 조건이 필요한가?
• RQ3 추정 오차의 수렴 속도는 대역폭 전체에 걸쳐 어떻게 행동하는가? 그리고 결정론적 대역폭 수열의 속도와 일치할 수 있는가?
• RQ4 대역폭에 관한 균일 일치성이 성립하는 기능성의 범위를 기존의 전통적 커널 밀도 추정기와 네다라야-워츠너 추정기 이외로 확장할 수 있는가?
• RQ5 커버링 수와 엔트로피 조건은 고차원 비모수 추정에서 기능성 클래스의 복잡성을 제어하는 데 어떤 역할을 하는가?

주요 결과

• 논문은 넓은 범주에 속하는 기능성에 대해, 대역폭과 위치로 색인화된 경험 과정이 범위 $[c\log n / n, 1]$ 내 모든 대역폭에 대해 균일하게 수렴함을 증명하며, 수렴 속도는 순서 $\sqrt{\log(1/h_n)/nh_n}$이다.
• 균일 수렴 속도는 결정론적 대역폭 수열에 대해 알려진 최고의 속도와 일치하며, 대역폭이 데이터 기반으로 적응적으로 선택되더라도 동일하게 유지된다.
• 경계 함수의 유계성, 다항 커버링 수, 기능성 클래스의 모멘트 조건 하에서 거의 확실히 수렴이 성립함을 보였다.
• 이 방법은 단일 경험 과정에 대한 균일 제어를 통해 국소 다항 추정기의 분석을 가능하게 하며, 구조화된 기능성 클래스 위에서의 문제로 환원한다.
• 결과는 대역폭 선택에 대해 강건하여, 데이터 기반 대역폭 선택이 수렴 속도를 악화시키지 않음을 보장한다.
• 이전 결과를 일반화하여 이전에 고려된 것보다 더 넓은 범주에 속하는 기능성 클래스를 허용함으로써, 국소 다항 회귀에서 발생하는 기능성들까지 포함한다.