[논문 리뷰] Asymptotic properties of the maximum likelihood and cross validation estimators for transformed Gaussian processes

François Bachoc, José Betancourt외 2명|arXiv (Cornell University)|2019. 11. 25.

Soil Geostatistics and Mapping참고 문헌 55인용 수 8

한 줄 요약

이 논문은 변환된 가우시안 과정—비가우시안 과정으로서 가우시안 필드의 결정론적 비선형 변환으로 생성된 과정—의 공분산 매개변수에 대한 가우시안 최대우도 추정기와 교차검증 추정기의 渐近적 일致성과 정규성을 확립한다. 비록 이 추정기가 가우시안 가정 하에 유도되었지만, 진정한 비가우시안 과정에 대해서도 유효하고 渐近적으로 효율적이며, 변환 함수를 모델링하지 않더라도 비정규성에 대해 강건함을 보여준다.

ABSTRACT

The asymptotic analysis of covariance parameter estimation of Gaussian processes has been subject to intensive investigation. However, this asymptotic analysis is very scarce for non-Gaussian processes. In this paper, we study a class of non-Gaussian processes obtained by regular non-linear transformations of Gaussian processes. We provide the increasing-domain asymptotic properties of the (Gaussian) maximum likelihood and cross validation estimators of the covariance parameters of a non-Gaussian process of this class. We show that these estimators are consistent and asymptotically normal, although they are defined as if the process was Gaussian. They do not need to model or estimate the non-linear transformation. Our results can thus be interpreted as a robustness of (Gaussian) maximum likelihood and cross validation towards non-Gaussianity. Our proofs rely on two technical results that are of independent interest for the increasing-domain asymptotic literature of spatial processes. First, we show that, under mild assumptions, coefficients of inverses of large covariance matrices decay at an inverse polynomial rate as a function of the corresponding observation location distances. Second, we provide a general central limit theorem for quadratic forms obtained from transformed Gaussian processes. Finally, our asymptotic results are illustrated by numerical simulations.

연구 동기 및 목표

• 공분산 매개변수 추정에 대한 증가 도메인 渐近 이론을 비가우시안 과정으로 확장하기.
• 변환된 가우시안 과정에 적용했을 때 최대우도 추정기와 교차검증 추정기의 행동을 분석하기.
• 이 추정기가 데이터가 비가우시안임에도 불구하고 여전히 일치하고 渐진적으로 정규적임을 입증하기.
• 비가우시안 공간 데이터에 대해 광범위하게 실용적으로 사용되는 가우시안 우도 방법의 이론적 근거 제공하기.
• 이 특정 모델을 초월해 적용 가능한 기술 도구 개발하기—예를 들어, 역공분산 행렬 계수의 감쇠 속도와 변환된 가우시안 과정에서의 이차형식에 대한 중심극한정리

제안 방법

• 저자들은 비가우시안 과정의 일종인 정규 비선형 변환을 가우시안 과정에 적용하여 정의된 과정의 클래스를 연구한다.
• 증가 도메인 渐近 이론 하에서 (가우시안) 최대우도 추정기(MLE)와 교차검증(CV) 추정기의 渐진적 성질을 분석한다.
• 핵심 기술 도구로는 관측 위치 간의 거리에 따라 큰 공분산 행렬의 역행렬 원소들이 역다항식 속도로 감쇠함을 증명하는 것.
• 변환된 가우시안 과정의 이차형식에 대한 일반적인 중심극한정리를 유도하여, 추정기의 渐진적 정규성을 지원한다.
• 추정식의 행동을 제어하기 위해 모멘트 조건과 약한 의존성 가정을 사용한다.
• 추정식의 점근적 공분산-공분산 구조를 이용한 월드 유형의 추론을 통해 MLE와 CV 추정기의 공동 점근적 정규성을 확립한다.

실험 결과

연구 질문

• RQ1 가우시안 과정에 대한 최대우도 추정기가 비가우시안 과정으로 변환된 데이터에 적용되었을 때도 공분산 매개변수의 일치성과 점근적 정규성을 보장할 수 있는가?
• RQ2 증가 도메인 渐近 이론 하에서 동일한 비가우시안 과정의 클래스에 대해 교차검증이 일치하고 점근적으로 정규적인 추정기를 제공하는가?
• RQ3 비정규성으로 인한 모델 불일치가 발생하더라도 가우시안 우도 추정기가 유효하게 유지되기 위한 기술적 조건은 무엇인가?
• RQ4 약한 정규성 조건 하에서, 큰 공분산 행렬의 역행렬 계수들이 공간 거리에 따라 어떻게 행동하는가?
• RQ5 증가 도메인 渐진 이론 하에서 변환된 가우시안 과정에서 유도된 이차형식에 대해 중심극한정리를 확립할 수 있는가?

주요 결과

• 비가우시안 과정으로 변환된 데이터에 대해 가우시안 과정의 최대우도 추정기는 여전히 진정한 공분산 매개변수에 대해 일치하고 점근적으로 정규적임을 입증한다.
• 교차검증 추정기 역시 동일한 조건 하에서 일치성과 점근적 정규성을 확보하며, 변환 함수를 알 필요 없이도 성립한다.
• 이 설정에서 큰 공분산 행렬의 역행렬은 관측 위치 간의 거리에 따라 역다항식 속도로 감쇠함을 보여주는 핵심 기술적 결과이다.
• 변환된 가우시안 과정의 이차형식에 대해 중심극한정리를 확립하여 추정기의 점근적 정규성을 뒷받침한다.
• MLE와 CV 추정기의 공동 점근적 정규성이 증명되어 집계된 추정기의 추론이 가능해지고, 점근적 공분산-공분산 구조를 제공한다.
• 결과적으로, 증가 도메인 渐진 이론 하에서 공간 과정의 비정규성에 대해 가우시안 우도 및 교차검증 방법이 강건함을 보여준다.