[论文解读] A Note on "How Robust Standard Errors Expose Methodological Problems They Do Not Fix, and What to Do About It"

Peter M. Aronow|arXiv (Cornell University)|Sep 6, 2016

Advanced Causal Inference Techniques参考文献 19被引用 3

一句话总结

本文挑戰King和Roberts（2015）的主張，即稳健标准误与经典标准误之间的差异表明模型设定错误，主張這種差異在半參數模型中極為常見且可預期，特別是在使用OLS估計的線性模型中，當存在異方差時，經典標準誤會不一致。作者透過模擬顯示，穩健標準誤正確反映了抽樣變異性，而經典標準誤則嚴重偏誤，表明KR的診斷啟發法可能產生誤導而非揭露問題。

ABSTRACT

King and Roberts (2015, KR) claim that a disagreement between robust and classical standard errors exposes model misspecification. We emphasize that KR's claim only generally applies to parametric models: models that assume a restrictive form of the distribution of the outcome. Many common models in use in political science, including the linear model, are not necessarily parametric -- rather they may be semiparametric. Common estimators of model parameters such as ordinary least squares have both robust (corresponding to a semiparametric model) and classical (corresponding to a more restrictive model) standard error estimates. Given a properly specified semiparametric model and mild regularity conditions, the classical standard errors are not generally consistent, but the robust standard errors are. To illustrate this point, we consider the case of the regression estimate of a semiparametric linear model with no model misspecification, and show that robust standard errors may nevertheless systematically differ from classical standard errors. We show that a disagreement between robust and classical standard errors is not generally suitable as a diagnostic for regression estimators, and that KR's reanalyses of Neumayer (2003) and Büthe and Milner (2008) are predicated on strong assumptions that the original authors did not invoke nor require.

研究动机与目标

• 挑戰King和Roberts（2015）診斷啟發法的普遍適用性，即穩健與經典標準誤差差異代表模型設定錯誤。
• 釐清參數模型與半參數模型之間的區別，強調政治科學中廣泛使用的許多模型其實是半參數模型，而非參數模型。
• 示範在正確設定的半參數線性模型中，穩健標準誤可能系統性地與經典標準誤不同，這是模型假設所致，而非模型設定錯誤。
• 顯示KR對Neumayer（2003）與Büthe和Milner（2008）的重新分析，基於原作者未採用的參數假設，因而其診斷有效性受到質疑。
• 警告不應基於標準誤差差異進行資料適應性模型重設，因其可能導致資料探勘與型一錯誤率膨脹。

提出的方法

• 定義參數模型為對結果分配具有有限維參數形式之模型，半參數模型則為除條件均值結構外，不對分配形式做限制之模型。
• 使用蒙地卡羅模擬，設定n=1000與m=200，比較異方差線性模型下穩健與經典標準誤的抽樣分配。
• 計算穩健與經典標準誤估計器的期望值：E[√V_Het(β̂₁)] = 0.206 與 E[√V_C(β̂₁)] = 0.141，顯示經典標準誤嚴重偏誤。
• 主張在異方差下，經典標準誤因依賴同方差假設而變得不一致，而穩健標準誤仍保持一致。
• 應用Manski的可信度遞減法則，主張在缺乏強理論依據時，半參數模型比參數模型更具可信度。
• 批判KR建議基於標準誤差差異重設模型，此舉為資料探勘的一種形式，會損害統計推論的有效性。

实验结果

研究问题

• RQ1 在無模型設定錯誤的情況下，何種條件會導致穩健與經典標準誤差不同？
• RQ2 為何在異方差下的半參數線性模型中，經典標準誤會不一致？
• RQ3 King和Roberts對Neumayer（2003）與Büthe和Milner（2008）的重新分析，在原作者模型假設下有多大的有效性？
• RQ4 在半參數模型中，穩健與經典標準誤差的差異能否可靠地診斷模型設定錯誤？
• RQ5 KR的診斷啟發法對量化政治科學中的統計推論與模型可信度有何影響？

主要发现

• 在正確設定的異方差半參數線性模型中，經典標準誤嚴重偏誤（E[√V_C(β̂₁)] = 0.141），而穩健標準誤則近似無偏（E[√V_Het(β̂₁)] = 0.206）。
• 此情境下穩健與經典標準誤差的差異並非模型設定錯誤的徵兆，而是經典估計器依賴錯誤同方差假設的結果。
• KR的診斷啟發法——利用穩健與經典標準誤差差異來標記模型問題——可能誤導研究者，因其可能在無問題時亦發出錯誤警訊。
• KR對Neumayer（2003）與Büthe和Milner（2008）的重新分析，基於原研究未採用的強參數假設，使其診斷不適用。
• 基於標準誤差差異進行模型重設，可能導致資料探勘，因模型選擇過程適應資料，進而膨脹型一錯誤率，損害推論有效性。
• 根據Manski的可信度遞減法則，半參數模型在缺乏強理論依據時，比參數模型更具可信度，因其對資料產生過程的限制更少。