[論文レビュー] On the Identifiability of Latent Models for Dependent Data

Stéphane Guerrier, Roberto Molinari|arXiv (Cornell University)|Jul 20, 2016

Statistical Methods and Inference参考文献 10被引用数 5

ひとこと要約

本稿は、自己回帰、移動平均、ランダムウォーク過程などの基本的過程の和として定義される、広範な2次モーメント定常潜時系列および空間モデルの同定可能性を、モデルパラメータから自己共分散関数またはスペクトル密度関数への写像の単射性を証明することによって確立する。主な貢献は、極値推定法（MLE、GMM、GMWMを含む）が最小限の正則性条件のもとで一貫性を示すことを示したことである。特にGMWMは、内在的定常モデルを扱える唯一の手法である。

ABSTRACT

The condition of parameter identifiability is essential for the consistency of all estimators and is often challenging to prove. As a consequence, this condition is often assumed for simplicity although this may not be straightforward to assume for a variety of model settings. In this paper we deal with a particular class of models that we refer to as "latent" models which can be defined as models made by the sum of underlying models, such as a variety of linear state-space models for time series. These models are of great importance in many fields, from ecology to engineering, and in this paper we prove the identifiability of a wide class of (second-order stationary) latent time series and spatial models and discuss what this implies for some extremum estimators, thereby reducing the conditions for their consistency to some very basic regularity conditions. Finally, a specific focus is given to the Generalized Method of Wavelet Moments estimator which is also able to estimate intrinsically second-order stationary models.

研究の動機と目的

• 従属データのための潜在モデルにおけるパラメータ同定可能性という長年の問題を解決すること。ここでは、しばしば証明なしに同定可能であると仮定されている。
• 標準的なARMAモデルを超えて、自己回帰（AR）、移動平均（MA）、ランダムウォークなど、基本的過程の和として構成されるより柔軟な潜在構造への同定可能性結果の拡張。
• 自己共分散関数またはスペクトル密度関数の同定可能性が、MLE、GMM、GMWMなどの極値推定法の一貫性を示す条件を減少させることの証明。
• 一般化ウェーブレットモーメント法（GMWM）推定法が、ドリフトやランダムウォークを含む非定常的かつ内在的定常的モデルに適用可能かどうかの検討。
• 生態学、工学、計量経済学などの分野で広く用いられる潜在モデルの理論的基盤を提供し、その同定可能性を裏付けること。

提案手法

• 潜時系列モデルが (T1)–(T6) の過程の和として構成される場合、モデルパラメータから自己共分散関数 Σ(θ) への写像の単射性を証明する。
• 正則性条件のもとで、パラメータからスペクトル密度関数 ν(θ) への写像が単射であることを確立し、2次モーメント構造による同定可能性を保証する。
• 全列ランクを満たす必要条件である単射性・同定可能性のための必要条件として、ヤコビ行列 A(θ) = ∂ν(θ)/∂θ を用いる。
• 極値推定理論（Newey and McFadden, 1994）を適用し、同定可能性がMLE、GMM、GMWM推定法の一貫性に必要な条件を減少させることを示す。
• 空間モデルへも応用するため、空間過程 (S1) および (S2) の和としてのパラメータからスペクトル密度関数への写像の単射性を証明する。
• 2つの潜在モデル（同定可能、あるいは同定不能の可能性がある）に対してGMMおよびGMWM推定法を用いた数値シミュレーションを実施し、理論的結果の実証的妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 潜時系列モデルの2次モーメント構造（自己共分散関数またはスペクトル密度関数）から、パラメータベクトル θ が一意に回復可能となる条件は何か？
• RQ2 自己回帰（AR）、移動平均（MA）、ランダムウォークなどの複数の基本的過程の和として構成される潜在モデルの同定可能性は、パラメータからスペクトル密度関数 ν(θ) への写像の単射性によって確立可能か？
• RQ3 自己共分散関数またはスペクトル密度関数の構造による同定可能性が確立された場合、MLEおよびGMM推定法の一貫性条件はどの程度軽減されるか？
• RQ4 ドリフトやランダムウォークを含む非定常的かつ内在的定常的プロセスを含む潜在モデルにおいて、GMWM推定法はパラメータを一貫して推定可能か？また、GMMとの性能比較は？
• RQ5 AR(1)過程をランダムウォークに置き換えるなど、異なる成分過程の組み合わせを持つ潜在モデルにおいて、同定可能性に構造的差異があるか？

主な発見

• 自己共分散関数またはスペクトル密度関数 ν(θ) への写像が単射であるため、(T1)–(T6) の過程の和として構成される広範な2次モーメント定常潜時系列モデルにおいて、同定可能性が保証される。
• (T1)、(T2)、(T6) の過程から構成される潜在モデルにおいて、ヤコビ行列 A(θ) = ∂ν(θ)/∂θ が全列ランクを満たすため、正則性条件のもとで同定可能性が確認される。
• 数値例では、(T1)、(T2)、(T6) を含むLatent Model 1 について、GMMおよびGMWM推定法のMSEが標本サイズの増加に伴い単調に減少しており、一貫性が示されている。
• Latent Model 2 では (T2) を (T5) に置き換えたが、GMWMのMSEは単調に減少せず、GMMは下限に達していることから、同定不能性の兆候が示唆される。
• 結果から、(T5) を含むモデルは、スペクトル密度関数の構造的類似性のため、同定不能である可能性があるという仮説が支持される。
• GMWM推定法が、ドリフトやランダムウォークを含む内在的定常モデルにも適用可能であることが示され、厳密に定常なプロセスに限らないというその有用性が拡張された。