[論文レビュー] Composite likelihood estimation for a gaussian process under fixed domain asymptotics

François Bachoc, Moreno Bevilacqua+1 more|arXiv (Cornell University)|Jul 24, 2018

Gaussian Processes and Bayesian Inference参考文献 76被引用数 9

ひとこと要約

本稿は、固定領域漸近的枠組み下での1次元ガウス過程（指数型共分散関数を有する）に対して、合成尤度推定法の漸近的性質を調査する。重み付き対尤度最尤推定法（WPMLE）は、特定のパラメータ空間の制限下では不一致であることが示され、一方で重み付き対条件尤度最尤推定法（WPCMLE）は常に一致的であり、漸近的に正規分布に従うが、完全尤度推定法より大きな漸近的分散を示す。

ABSTRACT

We study the problem of estimating the covariance parameters of a one-dimensional Gaussian process with exponential covariance function under fixed-domain asymptotics. We show that the weighted pairwise maximum likelihood estimator of the microergodic parameter can be consistent or inconsistent. This depends on the range of admissible parameter values in the likelihood optimization. On the other hand, the weighted pairwise conditional maximum likelihood estimator is always consistent. Both estimators are also asymptotically Gaussian when they are consistent. Their asymptotic variances are larger or strictly larger than that of the maximum likelihood estimator. A simulation study is presented in order to compare the finite sample behavior of the pairwise likelihood estimators with their asymptotic distributions. For more general covariance functions, an additional inconsistency result is provided, for the weighted pairwise maximum likelihood estimator of a variance parameter.

研究の動機と目的

• 固定領域漸近的枠組み（観測領域が固定され、観測点が密に分布する）における合成尤度推定法の漸近的挙動を研究すること。
• 完全尤度推定が計算的に非現実的となる大規模な空間データセットにおける共分散パラメータの一貫的推定の課題に対処すること。
• 1次元ガウス過程（指数型共分散関数を有する）における微小エルゴード的パラメータの重み付き対尤度推定法（特にWPMLEとWPCMLE）の性能を評価すること。
• これらの推定法がどのような条件下で一致的かつ漸近的に正規分布に従うかを特定すること、特に完全尤度推定法と比較しての考察を含む。
• 固定領域漸近的枠組み下で、合成尤度を完全尤度の計算効率の良い代替手段として空間統計に用いる理論的根拠を提供すること。

提案手法

• 本研究では、観測数が固定された観測領域内で増加し、観測位置間の距離が0に近づくという固定領域漸近的枠組みを採用する。
• マルコフ性のおかげで明示的な尤度表現が得られる1次元ガウス過程（指数型共分散関数を有する）に注目する。
• 重み付き対尤度最尤推定法（WPMLE）は、空間的距離に依存する関数gによる重みを付けて、2変量観測ペアの尤度を組み合わせることで構築される。
• 重み付き対条件尤度最尤推定法（WPCMLE）は、各ペアの1点を条件付きにして導出され、安定性と一貫性が向上する。
• 理論的分析には、関数中心極限定理および経験過程の弱収束を用い、ガウス過程の標本パスに対する連続性およびモーメント条件を仮定する。
• 積分表現を用いて漸近的分布を導出し、分布収束の観点から関数的極限に到達する。極限は設計密度fと重み関数gに依存する。

実験結果

リサーチクエスチョン

• RQ1 固定領域漸近的枠組み下で、指数型共分散関数を有する1次元ガウス過程における微小エルゴード的パラメータの重み付き対尤度最尤推定法（WPMLE）は一貫的か？
• RQ2 WPMLEの一貫性は、最適化空間における許容可能なパラメータ値の範囲に依存するか？
• RQ3 同じモデルに対して、固定領域漸近的枠組み下で重み付き対条件尤度最尤推定法（WPCMLE）は常に一貫的か？
• RQ4 WPMLEとWPCMLEの漸近的分散は、完全尤度推定法のそれと比べてどうなるか？
• RQ5 より一般的な共分散関数に対して、固定領域漸近的枠組み下で分散パラメータのWPMLEも不一致であるか？

主な発見

• 最適化のためのパラメータ空間が真の値を含まない場合でさえ、固定領域漸近的枠組み下で微小エルゴード的パラメータの重み付き対尤度最尤推定法（WPMLE）は不一致である。
• 固定領域漸近的枠組み下で、微小エルゴード的パラメータの重み付き対条件尤度最尤推定法（WPCMLE）は、パラメータ空間の制限に関わらず常に一貫的である。
• WPMLEとWPCMLEの両方が一貫的である場合、漸近的に正規分布に従うが、完全尤度推定法のそれよりも漸近的分散が厳密に大きい。
• WPCMLEの漸近的分散は完全尤度推定法より大きいことから、効率の損失が生じるが、推定法自体は一貫的である。
• より一般的な共分散関数に対しても、固定領域漸近的枠組み下で分散パラメータのWPMLEは不一致であることが示され、不一致性の結果が微小エルゴード的パラメータに限らないことが拡張された。
• WPCMLEの極限分布は非退化な確率変数であり、その平均は真の分散に等しいことから、高い漸近的分散にもかかわらず一貫性が確認された。