[논문 리뷰] Composite likelihood estimation for a gaussian process under fixed domain asymptotics

François Bachoc, Moreno Bevilacqua외 1명|arXiv (Cornell University)|2018. 07. 24.

Gaussian Processes and Bayesian Inference참고 문헌 76인용 수 9

한 줄 요약

이 논문은 고정 도메인 점 渐진에서, 지수 공분산 함수를 가진 일차원 가우시안 과정에 대한 복합 우도 추정량의 점점 더 큰 성질을 조사한다. 특정한 매개변수 공간 제약 조건 하에서, 무게가 부여된 이변량 최대우도 추정량(WPMLE)은 일관성이 없지만, 무게가 부여된 이변량 조건부 최대우도 추정량(WPCMLE)은 항상 일관성 있고 점점 더 정규분포를 따르며, 전체 최대우도 추정량보다 더 큰 점점 더 큰 분산을 가진다.

ABSTRACT

We study the problem of estimating the covariance parameters of a one-dimensional Gaussian process with exponential covariance function under fixed-domain asymptotics. We show that the weighted pairwise maximum likelihood estimator of the microergodic parameter can be consistent or inconsistent. This depends on the range of admissible parameter values in the likelihood optimization. On the other hand, the weighted pairwise conditional maximum likelihood estimator is always consistent. Both estimators are also asymptotically Gaussian when they are consistent. Their asymptotic variances are larger or strictly larger than that of the maximum likelihood estimator. A simulation study is presented in order to compare the finite sample behavior of the pairwise likelihood estimators with their asymptotic distributions. For more general covariance functions, an additional inconsistency result is provided, for the weighted pairwise maximum likelihood estimator of a variance parameter.

연구 동기 및 목표

• 고정 도메인 점 渐진에서 복합 우도 추정량의 점점 더 큰 성질을 연구하는 것. 이는 관측 데이터가 고정된 영역에서 밀도 있게 관측되는 프레임워크이다.
• 전체 최대우도 추정이 계산적으로 불가능한 큰 공간 데이터셋에서 공분산 매개변수의 일관성 있는 추정에 도전하는 것.
• 지수 공분산을 가진 일차원 가우시안 과정에서의 미크로에르고딕 매개변수에 대해 무게가 부여된 이변량 우도 추정량—특히 WPMLE와 WPCMLE—의 성능을 평가하는 것.
• 이러한 추정량이 일관성 있고 점점 더 정규분포를 따르는 조건을 규명하는 것, 특히 전체 최대우도 추정량과의 대비에서.
• 고정 도메인 점 渐진 하에서 복합 우도를 전체 우도의 계산적으로 효율적인 대체 수단으로 사용할 수 있는 이론적 근거를 제공하는 것.

제안 방법

• 연구는 관측 수가 유한한 관측 영역에서 증가하고 관측 위치 간 거리가 0으로 수렴하는 고정 도메인 점 渐진을 사용한다.
• 이 연구는 마코비안 성질 덕분에 명시적인 우도 표현이 가능한 지수 공분산 함수를 가진 일차원 가우시안 과정에 집중한다.
• 무게가 부여된 이변량 최대우도 추정량(WPMLE)은 공간 간격에 따라 달라지는 함수 g에 의해 가중된 이변량 관측 쌍의 우도를 조합하여 구성된다.
• 무게가 부여된 이변량 조건부 최대우도 추정량(WPCMLE)은 각 쌍의 한 위치에서 조건부로 하여 안정성과 일관성을 향상시킨다.
• 이론적 분석은 기능 중심 극한정리와 경험 과정의 약한 수렴을 기반으로 하며, 가우시안 과정의 표본 경로에 대한 연속성과 모멘트 조건을 사용한다.
• 적분 표현과 분포 수렴을 이용하여 점점 더 큰 분포를 유도하며, 이 극한은 설계 밀도 f와 가중 함수 g에 따라 달라진다.

실험 결과

연구 질문

• RQ1 고정 도메인 점 渐진 하에서, 지수 공분산 함수를 가진 일차원 가우시안 과정에 대해 무게가 부여된 이변량 최대우도 추정량(WPMLE)의 미크로에르고딕 매개변수 추정은 일관성이 있는가?
• RQ2 WPMLE의 일관성은 최적화 공간 내 허용 가능한 매개변수 값의 범위에 따라 달라지는가?
• RQ3 동일한 모형에 대해 고정 도메인 점 渐진 하에서 무게가 부여된 이변량 조건부 최대우도 추정량(WPCMLE)은 항상 일관성이 있는가?
• RQ4 WPMLE와 WPCMLE의 점점 더 큰 분산은 전체 최대우도 추정량의 것과 어떻게 비교되는가?
• RQ5 더 일반적인 공분산 함수에 대해, 분산 매개변수에 대한 WPMLE는 고정 도메인 점 渐진 하에서도 일관성이 없는가?

주요 결과

• 최적화 공간에서 진짜 값이 제외된 특정한 매개변수 공간 제약 조건 하에서, 미크로에르고딕 매개변수에 대한 무게가 부여된 이변량 최대우도 추정량(WPMLE)은 고정 도메인 점 渐진 하에서도 일관성이 없다.
• 고정 도메인 점 渐진 하에서, 미크로에르고딕 매개변수에 대한 무게가 부여된 이변량 조건부 최대우도 추정량(WPCMLE)은 항상 일관성이 있으며, 매개변수 공간 제약 조건과는 무관하다.
• WPMLE와 WPCMLE가 일관성 있는 경우, 둘 다 점점 더 정규분포를 따르며, 전체 최대우도 추정량의 분산보다 점점 더 큰 분산을 가진다.
• WPCMLE의 점점 더 큰 분산은 최대우도 추정량보다 더 크며, 이는 효율성의 손실을 의미하지만 추정량은 여전히 일관성 있다.
• 더 일반적인 공분산 함수에 대해서도, 분산 매개변수에 대한 WPMLE는 고정 도메인 점 渐진 하에서도 일관성이 없으며, 이는 일관성 결과가 미크로에르고딕 매개변수를 초과하여 일반화됨을 보여준다.
• WPCMLE의 극한 분포는 평균이 진짜 분산과 같은 비퇴화된 랜덤 변수이며, 이는 더 큰 점점 더 큰 분산에도 불구하고 일관성을 확인한다.