[论文解读] The Constrained Maximum Likelihood Estimation For Parameters Arising From Partially Identified Models

Hao Luo, Alexandre Bouchard‐Côté+2 more|arXiv (Cornell University)|Jul 29, 2016

Statistical Methods and Inference参考文献 5被引用 3

一句话总结

本文通过利用附加假设带来的等式约束，将约束最大似然估计扩展至部分识别模型，实现点识别。证明了约束最大似然估计的存在性与渐近正态性，当模型过度识别时，其效率优于无约束估计量，并提出了基于透明重新参数化与拉格朗日乘子法的数值计算算法。

ABSTRACT

We extend the constrained maximum likelihood estimation theory for parameters of a completely identified model, proposed by Aitchison and Silvey (1958), to parameters arising from a partially identified model. With a partially identified model, some parameters of the model may only be identified through constraints imposed by additional assumptions. We show that, under certain conditions, the constrained maximum likelihood estimator exists and locally maximize the likelihood function subject to constraints. We then study the asymptotic distribution of the estimator and propose a numerical algorithm for estimating parameters. We also discuss a special situation where exploiting additional assumptions does not improve estimation efficiency.

研究动机与目标

• 解决由于缺失或有限信息导致数据仅部分识别参数的统计模型中参数估计的挑战。
• 当识别完全依赖于施加的等式约束时，建立约束最大似然估计的理论框架。
• 确立约束最大似然估计存在且渐近正态的条件，将经典理论扩展至部分识别模型。
• 提出一种基于透明重新参数化与拉格朗日乘子法的数值算法，用于实际计算约束最大似然估计。
• 在不同识别状态（恰好识别与过度识别）下，研究约束估计相较于无约束方法的效率增益。

提出的方法

• 采用透明重新参数化方法，将可识别参数（ϕ）与不可识别参数（ψ）分离，使得对数似然函数仅依赖于ϕ。
• 在完整参数向量 ω = (ϕ, ψ) 上施加 t 个等式约束 h(ω) = 0，以实现点识别，假设 t ≥ s−r 且 t ≤ r。
• 应用拉格朗日乘子法，最大化满足约束 h(ω) = 0 的对数似然函数。
• 在正则性条件下推导约束最大似然估计的渐近分布，证明其收敛于正态分布。
• 基于拉格朗日乘子法开发一种数值优化算法，用于实际计算约束最大似然估计。
• 通过模拟研究比较在不同假设与识别结构下，约束最大似然估计与无约束最大似然估计的性能。

实验结果

研究问题

• RQ1 在部分识别模型中，约束最大似然估计量存在的条件是什么？
• RQ2 在部分识别模型中，约束最大似然估计的渐近分布与无约束最大似然估计相比如何？
• RQ3 在何种情况下施加额外约束能提升部分识别模型中的估计效率？
• RQ4 约束数量与识别状态（恰好识别 vs. 过度识别）之间在估计效率方面有何关系？
• RQ5 在何种情况下施加约束不会带来效率增益？原因是什么？

主要发现

• 在正则性条件下，即使模型仅部分识别，约束最大似然估计量也存在，并且局部最大化似然函数。
• 约束最大似然估计渐近服从正态分布，其方差-协方差矩阵可在约束条件下由观测信息矩阵推导得出。
• 当约束数量超过不可识别参数数量（即过度识别情形）时，约束最大似然估计的方差低于无约束最大似然估计，表明效率得到提升。
• 在恰好识别情形（约束数量等于不可识别参数数量）下，约束估计量与无约束估计量在渐近意义上一致，且具有相同的渐近分布。
• 在特定模拟示例中，约束估计量的对角方差均小于无约束估计量，例如第一参数的方差从 0.205 降低至 0.197，表明存在可测量的效率增益。
• 当仅使用“缺失随机”假设（即对四个不可识别参数施加四个约束）时，未观察到效率增益，因为估计量在渐近意义上一致，证实恰好识别无法优于无约束估计。