[论文解读] Can one estimate the conditional distribution of post-model-selection estimators?

Hannes Leeb, Benedikt M. Pötscher|RePEc: Research Papers in Economics|Feb 23, 2007

Statistical Methods and Inference被引用 7

一句话总结

本文证明，即使在渐近意义上，对基于数据驱动准则（如AIC）选择模型后形成的后模型选择估计量的条件分布进行可靠估计在根本上是不可能的。作者证明，任何估计量都无法实现该分布的统一（甚至局部）一致性，建立了极小化最大下界，排除了在一般条件下实现可靠估计的可能性。

ABSTRACT

We consider the problem of estimating the conditional distribution of a post-model-selection estimator where the conditioning is on the selected model. The notion of a post-model-selection estimator here refers to the combined procedure resulting from first selecting a model (e.g., by a model selection criterion such as AIC or by a hypothesis testing procedure) and then estimating the parameters in the selected model (e.g., by least-squares or maximum likelihood), all based on the same data set. We show that it is impossible to estimate this distribution with reasonable accuracy even asymptotically. In particular, we show that no estimator for this distribution can be uniformly consistent (not even locally). This follows as a corollary to (local) minimax lower bounds on the performance of estimators for this distribution. Similar impossibility results are also obtained for the conditional distribution of linear functions (e.g., predictors) of the post-model-selection estimator.

研究动机与目标

• 调查后模型选择估计量的条件分布是否可以被可靠估计。
• 确定此类分布的一致估计是否可能，尤其是在有限样本或大样本情况下。
• 检验线性函数（如预测器）的后模型选择估计量条件分布估计量的性能。
• 利用极小化最大理论建立此类估计量准确度的根本限制。
• 解决‘插补’估计量或其他估计量是否能克服有限样本中非一致收敛问题的问题。

提出的方法

• 使用极小化最大下界，建立对后模型选择估计量条件分布任何估计量性能的根本限制。
• 在正则条件下，分析模型选择与估计程序联合分布的渐近行为。
• 应用连续性理论和总变差距离收敛结果，研究条件分布的极限行为。
• 采用已知设计矩阵和独立同分布正态误差的正态线性回归框架，推导理论结果。
• 考虑模型选择基于AIC或假设检验的情况，随后通过最小二乘法或最大似然法进行估计。
• 使用反证法和多元正态分布的性质，通过引理D.3及相关分布恒等式证明不可能性结果。

实验结果

研究问题

• RQ1 后模型选择估计量的条件分布是否可以实现一致估计，即使在渐近意义上？
• RQ2 是否存在某种估计量，能实现后模型选择估计量条件分布的统一或局部一致性？
• RQ3 基于大样本近似的‘插补’估计量是否能克服有限样本中的非一致收敛问题？
• RQ4 后模型选择估计量的线性函数（如预测器）的条件分布是否可以被可靠估计？
• RQ5 在数据驱动模型选择后，分布估计准确度的根本限制是什么？

主要发现

• 任何后模型选择估计量条件分布的估计量都无法实现统一一致性，甚至局部也不行。
• 由于有限样本分布向极限收敛的内在非一致性，即使在大样本中，该不可能性结果依然成立。
• 后模型选择估计量条件分布估计风险的极小化最大下界严格为正，证明可靠估计不可行。
• 该不可能性同样适用于后模型选择估计量线性函数（如预测器）的条件分布。
• 无论模型选择基于AIC、假设检验还是其他数据驱动准则，该结果均成立。
• 一致估计的失败源于有限样本分布对未知参数的复杂且非一致的依赖关系，这种依赖关系无法被可靠估计。