[论文解读] Fletcher-Turek Model Averaged Profile Likelihood Confidence Intervals

Paul Kabaila, A. H. Welsh+1 more|Apr 28, 2014

Statistical Methods and Bayesian Inference参考文献 12被引用 14

一句话总结

本文评估了在双模型线性回归设定下，Fletcher-Turek模型平均轮廓似然置信区间（MPI）在某一参数上的表现。研究发现，当 p/n 不够小时，MPI 的实际覆盖概率可能显著低于名义水平，且其表现与忽略模型选择的朴素事后模型选择置信区间相当，从而削弱了其在实际应用中的实用性，尽管其在理论上具有吸引力。

ABSTRACT

We evaluate the model averaged profile likelihood confidence intervals proposed by Fletcher and Turek (2011) in a simple situation in which there are two linear regression models over which we average. We obtain exact expressions for the coverage and the scaled expected length of the intervals and use these to compute these quantities in particular situations. We show that the Fletcher-Turek confidence intervals can have coverage well below the nominal coverage and expected length greater than that of the standard confidence interval with coverage equal to the same minimum coverage. In these situations, the Fletcher-Turek confidence intervals are unfortunately not better than the standard confidence interval used after model selection but ignoring the model selection process.

研究动机与目标

• 评估在可处理的双模型回归设定下，Fletcher-Turek 模型平均轮廓似然置信区间（MPI）的频次性质。
• 评估 MPI 是否在覆盖概率和期望长度方面优于忽略模型选择的标准置信区间，特别是在 p/n 不够小的情况下。
• 识别 MPI 失效的条件，尤其是当 p/n 不够小或 |ρ| 较大时。
• 将 MPI 的表现与将选定模型视为固定的朴素事后模型选择置信区间进行比较。
• 提供覆盖概率和期望长度的精确解析表达式，以评估在未知干扰参数上的均匀表现。

提出的方法

• 作者推导了在两个线性回归模型下 MPI 的覆盖概率和缩放后期望长度的精确表达式：一个为完整参数模型（M₂），另一个为带线性约束的模型（M₁）。
• MPI 通过使用基于 AIC 的权重（由 AIC 分数的指数化得到）对各模型的轮廓似然置信区间方程进行加权平均构建。
• 分析聚焦于两个模型共有的参数 θ，其性能在未知真实值 γ = τ / (σ v_τ^{1/2}) 上进行评估，该值决定了非中心 t 分布的非中心性参数。
• 采用精确计算方法，对所有 γ 值计算最小覆盖概率和最大缩放后期望长度，避免模拟带来的变异性。
• 研究通过解析推导和数值图像分析 p/n 和 ρ（θ 与 τ 估计量之间的相关性）对性能的影响。
• 将 MPI 的表现与 M₂ 下的标准轮廓似然区间以及忽略模型选择过程的朴素事后模型选择区间进行比较。

实验结果

研究问题

• RQ1 在对两个回归模型进行平均时，Fletcher-Turek 模型平均轮廓似然置信区间是否能在有限样本中实现名义覆盖水平？
• RQ2 MPI 的覆盖概率如何随 p/n 和 θ 与 τ 估计量之间相关性 ρ 的变化而变化？
• RQ3 当 p/n 不够小时，MPI 的期望长度是否具有竞争力，与标准区间相比？
• RQ4 MPI 是否优于忽略模型选择过程的朴素事后模型选择置信区间？
• RQ5 在何种条件下，MPI 无法维持足够的覆盖概率或效率？

主要发现

• MPI 的最小覆盖概率受 M₂ 下轮廓似然区间覆盖概率的上界限制，当 p/n 不够小时，该值显著低于名义水平。
• 在云 seeding 案例中，当 p/n = 2/3 且 ρ = 0.2472 时，MPI 的最小覆盖概率约为 0.728，远低于名义的 0.95。
• MPI 的缩放后期望长度在所有 γ 值下均接近 1，表明其表现与 0.728 水平的标准置信区间相当。
• 在 |ρ| 较大或 p/n 不够小的设定下，MPI 的覆盖性能较差，且在覆盖均匀性方面被朴素事后模型选择区间超越。
• MPI 继承了底层轮廓似然区间的差性能，特别是在 p/n 不够小时，限制了其在实际中的应用价值。
• 结果表明，除非 p/n 很小，否则对轮廓似然区间的模型平均可能无效，可能需要采用其他平均方法来处理行为更稳健的区间。