[논문 리뷰] Moment convergence in regularized estimations

H. Masuda, Yusuke Shimizu|arXiv (Cornell University)|2014. 06. 26.

Statistical Methods and Inference인용 수 3

한 줄 요약

이 논문은 비가역적이고 국소적으로 이차가 아닌 통계적 랜덤 분포에서 정규화된 M-추정량의 모멘트 수렴을 확립하며, Yoshida(2011)의 다항식 유형 대 deviation 프레임워크를 다중 및 혼합 수렴 속도 설정으로 확장한다. 주요 기여는 광범위한 정규화된 추정량의 클래스에 대해 강한 수렴 방식을 제공하며, 고주파수 에르고딕 확산 과정에 적용한다.

ABSTRACT

In $M$-estimation under standard asymptotics, the weak convergence combined with the polynomial type large deviation estimate of the associated statistical random field Yoshida (2011) provides us with not only the asymptotic distribution of the associated $M$-estimator but also the convergence of its moments, the latter playing an important role in theoretical statistics. In this paper, we study the above program for statistical random fields of multiple and also possibly mixed-rates type in the sense of Radchenko (2008) where the associated statistical random fields may be non-differentiable and may fail to be locally asymptotically quadratic. Consequently, a very strong mode of convergence of a wide range of regularized $M$-estimators is ensured. The results are applied to regularized estimation of an ergodic diffusion observed at high frequency.

연구 동기 및 목표

• 표준 M-추정에서 통계적 랜덤 분포로의 모멘트 수렴 결과를 다중 또는 혼합 수렴 속도를 갖는 설정으로 확장하기 위해.
• 비가역적이고 국소적으로 이차가 아닌 랜덤 분포의 과제를 해결하여 고전적 점근적 접근 방식이 무효화되는 문제를 다루기 위해.
• 최소한의 매끄러움 조건 하에서 정규화된 M-추정량의 강한 수렴 성질을 보장하기 위해.
• 이론적 프레임워크를 고주파수 관측에 대한 에르고딕 확산 과정에 적용하기 위해, 연속시간 통계에서 핵심적인 통계 모델이다.

제안 방법

• 다중 및 혼합 수율 통계적 랜덤 분포에 대해 Yoshida(2011)의 다항식 유형 대 deviation 추정을 적응적으로 적용한다.
• 가역성 또는 국소 이차성 조건을 필요로 하지 않는 모멘트 수렴을 위한 일반화된 프레임워크를 도입한다.
• 랜덤 분포의 수렴 속도의 구조를 활용하여 프레임워크를 정규화된 M-추정량에 적용한다.
• 에르고딕 확산의 기본 확률 과정의 규칙성을 활용하여 고주파수 샘플링 하에서 모멘트 수렴의 타당성을 보장한다.
• 혼합 수율에 특화된 확률 미분 기법과 대 deviation 기법을 조합하여 모멘트 수렴을 확립한다.
• 점근 이론과 비점근적 편차 한계를 조합하여 약한 수렴 가정 하에서 모멘트 수렴 결과를 도출한다.

실험 결과

연구 질문

• RQ1 기초 통계적 랜덤 분포가 비가역적일 경우 정규화된 M-추정량의 모멘트 수렴을 확립할 수 있는가?
• RQ2 다중 또는 혼합 수렴 속도의 존재가 M-추정량의 모멘트 수렴에 어떤 영향을 미치는가?
• RQ3 다항식 유형 대 deviation 프레임워크는 국소적으로 이차적이거나 가역적인 설정을 초월해 얼마나 넓게 확장될 수 있는가?
• RQ4 비표준 점근적 설정 하에서 정규화된 추정에서 모멘트의 강한 수렴을 보장하는 조건은 무엇인가?
• RQ5 이 프레임워크는 어떻게 고주파수 관측에 대한 에르고딕 확산 과정에 적용될 수 있는가?

주요 결과

• 기초 통계적 랜덤 분포가 비가역적이고 국소적으로 점근적으로 이차가 아닐 경우에도 정규화된 M-추정량의 모멘트 수렴이 확립된다.
• 혼합 수율 스케일링 하에서 광범위한 정규화된 추정량의 클래스에 대해 매우 강력한 수렴 방식—모멘트 수렴—을 보장하는 프레임워크가 확보된다.
• Yoshida(2011)의 모멘트 수렴 이론이 비가역적 또는 비매끄러운 추정 함수를 갖는 더 일반적이고 현실적인 통계 모델으로 확장된다.
• 이 방법은 점근적으로나 비가역적 또는 국소적으로 이차가 아닌 점수 함수를 갖는 고주파수 관측에 성공적으로 적용된다.
• 혼합 수율 설정에서 다항식 유형 대 deviation 추정의 강건성 덕분에 약한 규칙성 조건 하에서도 모멘트 수렴이 보장된다.
• 이론적 프레임워크는 특히 고주파수 통계에서 비정규 통계 모델의 고차 점근 분석을 위한 기초를 제공한다.