[論文レビュー] Asymptotic properties of the maximum likelihood and cross validation estimators for transformed Gaussian processes

François Bachoc, José Betancourt+2 more|arXiv (Cornell University)|Nov 25, 2019

Soil Geostatistics and Mapping参考文献 55被引用数 8

ひとこと要約

本稿は、ガウス過程の非線形な決定的変換によって得られる非ガウス過程（変換ガウス過程）における共分散パラメータのガウス最大尤度推定および交差検証推定の漸近的一致性および正規性を確立している。ガウス仮定のもとで導出されたこれらの推定は、真の非ガウス過程に対しても有効であり、変換関数をモデル化しなくても非ガウス性に対してロバストであることが示され、モデルの不適合にもかかわらず漸近的に有効であることを裏付けている。

ABSTRACT

The asymptotic analysis of covariance parameter estimation of Gaussian processes has been subject to intensive investigation. However, this asymptotic analysis is very scarce for non-Gaussian processes. In this paper, we study a class of non-Gaussian processes obtained by regular non-linear transformations of Gaussian processes. We provide the increasing-domain asymptotic properties of the (Gaussian) maximum likelihood and cross validation estimators of the covariance parameters of a non-Gaussian process of this class. We show that these estimators are consistent and asymptotically normal, although they are defined as if the process was Gaussian. They do not need to model or estimate the non-linear transformation. Our results can thus be interpreted as a robustness of (Gaussian) maximum likelihood and cross validation towards non-Gaussianity. Our proofs rely on two technical results that are of independent interest for the increasing-domain asymptotic literature of spatial processes. First, we show that, under mild assumptions, coefficients of inverses of large covariance matrices decay at an inverse polynomial rate as a function of the corresponding observation location distances. Second, we provide a general central limit theorem for quadratic forms obtained from transformed Gaussian processes. Finally, our asymptotic results are illustrated by numerical simulations.

研究の動機と目的

• 共分散パラメータ推定の増大領域漸近理論を非ガウス過程へ拡張すること。
• 変換ガウス過程に最大尤度推定および交差検証推定を適用した際の挙動を分析すること。
• これらの推定が、データが非ガウス的であっても一貫性および漸近正規性を保つことの確立。
• 非ガウス空間データに対してガウス尤度法が広く実用されていることの理論的裏付けの提供。
• 本モデルに限らず応用可能な技術的ツールの開発、特に逆共分散行列係数の減衰率および変換ガウス過程における二次形式のCLTの確立。

提案手法

• 著者らは、ガウス過程に正則な非線形変換を施した非ガウス過程のクラスを考察する。
• 増大領域漸近論の下で、(ガウスの)最大尤度推定（MLE）および交差検証（CV）推定の漸近的性質を分析する。
• 主な技術的ツールとして、観測位置間の距離に応じて、大規模な共分散行列の逆行列成分が逆多項式的減衰を示すことを証明する。
• 変換ガウス過程の二次形式に対して一般化された中心極限定理を導出し、推定の漸近正規性を裏付ける。
• 推定方程式の挙動を制御するため、モーメント条件および弱依存仮定を用いる。
• 推定方程式の漸近的分散・共分散構造を用いたワルド型の議論により、MLEおよびCV推定の同時漸近正規性を確立する。

実験結果

リサーチクエスチョン

• RQ1 ガウス過程の最大尤度推定が、非ガウス的であるにもかかわらず、変換された非ガウス過程の真の共分散パラメータを一貫してかつ漸近的に正規に推定できるか？
• RQ2 増大領域漸近論のもとで、交差検証が同様の非ガウス過程クラスに対して一貫性および漸近正規性を持つ推定を達成できるか？
• RQ3 非ガウス性によるモデル不適合が生じる中で、ガウス尤度推定が有効であることを保証する技術的条件は何か？
• RQ4 やや弱い正則性条件下で、大規模な共分散行列の逆行列の係数は空間的距離にどのように依存するか？
• RQ5 増大領域漸近論のもとで、変換ガウス過程から導かれる二次形式に対して中心極限定理を確立できるか？

主な発見

• ガウス過程の最大尤度推定は、データが非ガウス的であっても、変換された非ガウス過程の真の共分散パラメータに対して一貫性および漸近正規性を示す。
• 交差検証推定も同様の条件下で一貫性および漸近正規性を達成するが、変換関数の知識は不要である。
• 本設定における大規模共分散行列の逆行列は、観測位置間の距離に応じて逆多項式的減衰を示すことが、重要な技術的結果である。
• 変換ガウス過程の二次形式に対して中心極限定理が確立され、推定の漸近正規性を裏付ける。
• MLEおよびCV推定の同時漸近正規性が証明され、集約推定の推論が可能となり、漸近的分散・共分散構造が得られる。
• これらの結果は、増大領域漸近論のもとで、空間過程における非ガウス性に対してガウス尤度および交差検証法がロバストであることを示している。