[논문 리뷰] Sup-norm adaptive simultaneous drift estimation for ergodic diffusions

Cathrine Aeckerle-Willems, Claudia Strauch|arXiv (Cornell University)|2018. 08. 31.

Statistical Methods and Inference참고 문헌 10인용 수 6

한 줄 요약

이 논문은 비정규적 드리프트 추정에 대한 데이터 기반 대역폭 선택 절차를 제안하며, Lepski의 방법과 확률 과정에 대한 균일한 지수 부등식을 통해 최소최대 초과 노름 수렴 속도를 달성한다. 이는 드리프트의 미세한 매개변수에 대한 사전 지식 없이도 최적의 수렴 속도를 확보하며, 미세한 조건 하에 드리프트 추정량과 반정적 방법으로 효율적인 불변 밀도 추정량을 동시에 제공한다.

ABSTRACT

We consider the question of estimating the drift and the invariant density for a large class of scalar ergodic diffusion processes, based on continuous observations, in $\sup$-norm loss. The unknown drift $b$ is supposed to belong to a nonparametric class of smooth functions of unknown order. We suggest an adaptive approach which allows to construct drift estimators attaining minimax optimal $\sup$-norm rates of convergence. In addition, we prove a Donsker theorem for the classical kernel estimator of the invariant density and establish its semiparametric efficiency. Finally, we combine both results and propose a fully data-driven bandwidth selection procedure which simultaneously yields both a rate-optimal drift estimator and an asymptotically efficient estimator of the invariant density of the diffusion. Crucial tool for our investigation are uniform exponential inequalities for empirical processes of diffusions.

연구 동기 및 목표

• 연속 시간 에르고딕 밀도 과정에서 비모수적 드리프트 추정에 대한 적응형이고 완전히 데이터 기반인 대역폭 선택 방법을 개발한다.
• 드리프트 계수의 미세한 매개변수를 알 수 없을 때, Nadaraya–Watson 유형의 드리프트 추정량에 대한 최소최대 초과 노름 수렴 속도를 확립한다.
• 불변 밀도의 고전적 커널 추정량에 대한 Donsker 유형 정리를 초과 노름 위상에서 증명한다.
• 제시된 미세 조건 하에 불변 밀도 추정량의 반정적 효율성을 입증한다.
• 한 개의 대역폭 선택을 통해 드리프트 추정과 불변 밀도 추정을 동시에 최적화하는 통합적 접근을 구축한다.

제안 방법

• 드리프트의 미세한 매개변수를 사전에 알지 못한 채 최소최대 초과 노름 수렴 속도를 달성하기 위해 Lepski의 방법을 이용한 적응형 대역폭 선택을 활용한다.
• 초과 노름 편차를 제어하기 위한 핵심 기술 도구로, 밀도 과정에 대한 균일한 지수 부등식을 적용한다.
• 유한한 커버링 수를 확보하기 위해, 컴팩트 지지 집합을 가진 함수 클래스를 사용하는 국소화 절차와 최대 부등식을 적용한다.
• 국소화된 함수 클래스에서 혼합 꼬리 증분을 이용한 체이닝 추론을 통해 모멘트 한계와 농도 부등식을 도출한다.
• 모멘트 한계와 농도 부등식을 조합하여 드리프트 추정량과 불변 밀도 추정량에 대한 초과 노름 위험 한계를 유도한다.
• 초과 노름 ℓ∞(ℝ)에서의 점근 정규성과 Cramér–Rao 하한을 일치시킴으로써 불변 밀도 추정량의 반정적 효율성을 입증한다.

실험 결과

연구 질문

• RQ1 에르고딕 밀도 과정에서 드리프트 추정량에 대한 최소최대 초과 노름 수렴 속도와 불변 밀도 추정량에 대한 반정적 효율성을 동시에 확보하는 완전히 데이터 기반의 대역폭 선택 절차를 구성할 수 있는가?
• RQ2 드리프트 계수의 미세한 매개변수가 알려지지 않았고, 가능하면 유계가 아닐 경우, 비모수적 드리프트 추정에 대한 최적의 초과 노름 수렴 속도는 무엇인가?
• RQ3 고전적 커널 추정량이 불변 밀도에 대해 ℓ∞(ℝ) 위상에서 점근 정규성과 반정적 효율성을 확보하는 조건은 무엇인가?
• RQ4 밀도 과정에 대한 경험 과정에 대한 균일한 지수 부등식은 비모수적 추정에서 초과 노름 편차를 어떻게 제어하는가?
• RQ5 연속 관측의 이론적 프레임워크는 이산 관측 체계와 다변량 밀도 과정으로 얼마나 넓히기 가능한가?

주요 결과

• 제안된 적응형 대역폭 선택 절차는 드리프트의 미세한 매개변수를 알지 못하더라도, 비모수적 헬더 클래스에서 드리프트 추정량에 대해 최소최대 초과 노름 수렴 속도를 달성한다.
• 고전적 커널 추정량이 불변 밀도에 대해 ℓ∞(ℝ)에서 점근 정규적이며, 드리프트에 대한 미세 조건 하에 반정적 효율적임이 입증된다.
• 불변 밀도 추정량에 대해 초과 노름에서 Donsker 유형 정리가 확립되어, 이는 그가 ℓ∞(ℝ)에서 가우시안 과정으로 약한 수렴함을 확인한다.
• 밀도 과정에 대한 경험 과정에 대해 도출된 균일한 지수 부등식은 비점근 분석에서 중요한 초과 노름 편차 제어를 가능하게 한다.
• 콤팩트 지지 집합을 가진 함수와 최대 부등식을 이용한 국소화 절차로, 무한한 커버링 수가 존재하는 ℝ에서도 적분 가능성과 체이닝 추론이 가능해진다.
• 단일 대역폭 선택을 통해 드리프트와 밀도 추정을 동시에 최적화함으로써, 수렴 속도 최적화와 효율성 확보를 동시에 달성하며, 데이터 기반 Lepski의 방법을 통해 대역폭가 선택된다.