[論文レビュー] The Constrained Maximum Likelihood Estimation For Parameters Arising From Partially Identified Models

Hao Luo, Alexandre Bouchard‐Côté+2 more|arXiv (Cornell University)|Jul 29, 2016

Statistical Methods and Inference参考文献 5被引用数 3

ひとこと要約

この論文は、追加の仮定から得られる等式制約を活用して、部分的に同定可能なモデルにおける制約付き最尤推定を拡張する。制約付き最尤推定量の存在と漸近正規性を証明し、過剰同定の場合に非制約推定量よりも高い効率性を示し、透明な再パラメータリゼーションとラグランジュ乗数を用いた数値アルゴリズムを提供する。

ABSTRACT

We extend the constrained maximum likelihood estimation theory for parameters of a completely identified model, proposed by Aitchison and Silvey (1958), to parameters arising from a partially identified model. With a partially identified model, some parameters of the model may only be identified through constraints imposed by additional assumptions. We show that, under certain conditions, the constrained maximum likelihood estimator exists and locally maximize the likelihood function subject to constraints. We then study the asymptotic distribution of the estimator and propose a numerical algorithm for estimating parameters. We also discuss a special situation where exploiting additional assumptions does not improve estimation efficiency.

研究の動機と目的

• 欠損または限られた情報によってパラメータが部分的にしか同定されない統計的モデルにおけるパラメータ推定の課題に対処する。
• 同定が単に強制された等式制約によって生じる場合の制約付き最尤推定の理論的枠組みを構築する。
• 制約付き最尤推定量が存在し、漸近的に正規分布に従う条件を確立し、古典的理論を部分的に同定可能なモデルに拡張する。
• 透明な再パラメータリゼーションとラグランジュ乗数法を用いて、制約付き最尤推定量を計算するための数値アルゴリズムを提案する。
• 異なる同定状態（ちょうど同定 vs. 過剰同定）における制約付き推定と非制約推定の間の効率性の向上を調査する。

提案手法

• 識別可能なパラメータ（ϕ）と識別不能なパラメータ（ψ）を明確に分離する透明な再パラメータリゼーションを用いてモデルを定式化し、対数尤度がϕにのみ依存するようにする。
• 全パラメータベクトルω = (ϕ, ψ) にt個の等式制約h(ω) = 0を課して点同定を達成する。ここでt ≥ s−r かつ t ≤ r と仮定する。
• ラグランジュ乗数法を用いて、制約h(ω) = 0の下で対数尤度関数を最大化する。
• 正則性条件の下で制約付き最尤推定量の漸近的分布を導出し、正規分布への収束を示す。
• ラグランジュ乗数法に基づく数値最適化アルゴリズムを開発し、実用的な制約付き最尤推定量の計算を可能にする。
• シミュレーションスタディを用いて、さまざまな仮定と同定構造の下で制約付き最尤推定量と非制約最尤推定量の性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 部分的に同定可能なモデルにおけるパラメータに対して、制約付き最尤推定量が存在する条件は何か？
• RQ2 部分的に同定可能なモデルにおいて、制約付き最尤推定量の漸近的分布は非制約最尤推定量のそれとどのように異なるか？
• RQ3 追加の制約を課すことで、部分的に同定可能なモデルにおける推定効率性がどのように向上するのか？
• RQ4 制約の数と同定状態（ちょうど同定 vs. 過剰同定）との関係は、推定量の効率性にどのように影響するか？
• RQ5 どのような状況で制約を課しても効率性の向上が得られず、その理由は何か？

主な発見

• 正則性条件の下で、モデルが部分的にしか同定されない場合であっても、制約付き最尤推定量は存在し、局所的に尤度関数を最大化する。
• 制約付き最尤推定量は漸近的に正規分布に従い、その分散・共分散行列は制約下での観測情報行列から導出可能である。
• 非識別パラメータの数を超える制約数（過剰同定の場合）では、制約付き最尤推定量の分散が非制約最尤推定量より小さくなり、より高い効率性を示す。
• ちょうど同定の場合（制約数が非識別パラメータ数と等しい場合）、制約付き推定量と非制約推定量は漸近的に一致し、同じ漸近的分布を有する。
• 特定のシミュレーション例では、制約付き推定量の対角分散が非制約推定量よりも一貫して小さく、最初のパラメータでは0.205から0.197に低下し、明確な効率性の向上が確認された。
• 完全に欠損がランダムであるという仮定のみを用いた場合（非識別パラメータ4つに対して制約4つ）、効率性の向上は観察されず、推定量は漸近的に一致した。これは、ちょうど同定状態では非制約推定法に比べて改善が得られないことを確認している。