[論文レビュー] On the Effect of Bias Estimation on Coverage Accuracy in Nonparametric Inference

Sebastián Calónico, Matias D. Cattaneo+1 more|arXiv (Cornell University)|Aug 12, 2015

Statistical Methods and Inference被引用数 4

ひとこと要約

本稿では、非パラメトリック推論におけるカーネルベースのバイアス補正信頼区間に対して、新しいスタディエント化手法を提案し、バイアス補正が被覆誤差を低減し、バンドウドスの選択に対してよりロバストであることを示している。第二階のカーネルと適切な標準誤差を用いることで、特に内部点および境界点において被覆誤差の収束速度が向上し、実用的実装のための最適バンドウドスが導出されている。

ABSTRACT

Nonparametric methods play a central role in modern empirical work. While they provide inference procedures that are more robust to parametric misspecification bias, they may be quite sensitive to tuning parameter choices. We study the effects of bias correction on confidence interval coverage in the context of kernel density and local polynomial regression estimation, and prove that bias correction can be preferred to undersmoothing for minimizing coverage error and increasing robustness to tuning parameter choice. This is achieved using a novel, yet simple, Studentization, which leads to a new way of constructing kernel-based bias-corrected confidence intervals. In addition, for practical cases, we derive coverage error optimal bandwidths and discuss easy-to-implement bandwidth selectors. For interior points, we show that the MSE-optimal bandwidth for the original point estimator (before bias correction) delivers the fastest coverage error decay rate after bias correction when second-order (equivalent) kernels are employed, but is otherwise suboptimal because it is too "large". Finally, for odd-degree local polynomial regression, we show that, as with point estimation, coverage error adapts to boundary points automatically when appropriate Studentization is used; however, the MSE-optimal bandwidth for the original point estimator is suboptimal. All the results are established using valid Edgeworth expansions and illustrated with simulated data. Our findings have important consequences for empirical work as they indicate that bias-corrected confidence intervals, coupled with appropriate standard errors, have smaller coverage error and are less sensitive to tuning parameter choices in practically relevant cases where additional smoothness is available.

研究の動機と目的

• バイアス推定が非パラメトリック推論における被覆精度に与える影響を調査すること、特にカーネル密度推定および局所多項回帰において。
• 被覆誤差を最小化するためのバイアス補正とアンダースモoothingの戦略を比較すること。
• 非パラメトリック推論における被覆誤差を低減し、ロバスト性を向上させる新しいスタディエント化技術を開発すること。
• 特に内部点および境界点において、バイアス補正後の被覆誤差を最小化するための最適バンドウドスを導出すること。
• 実世界の実証的応用で性能を向上させる実用的なバンドウドス選択子を提供すること。

提案手法

• バイアス補正を考慮した標準誤差の調整を施す新しいスタディエント化手順を導入し、有限標本における被覆性質を改善する。
• 有効なエッジワース展開を用いて、バイアス補正信頼区間の被覆誤差の漸近的展開を導出する。
• 第二階のカーネルおよび局所多項回帰フレームワーク下で、内部点および境界点の両方における被覆誤差最適バンドウドスを導出する。
• バイアス補正後の被覆誤差の収束速度を速めるために、第二階（同等）カーネルを用いる。
• 被覆誤差最小化に基づく、実務的用途に適した簡単なバンドウドス選択子を提案する。
• 異なるバンドウドス選択下での被覆誤差の挙動を分析し、MSE最適バンドウドスと被覆誤差最適バンドウドスを比較する。

実験結果

リサーチクエスチョン

• RQ1 バイアス補正は、非パラメトリック信頼区間においてアンダースモoothingと比較して被覆精度を向上させるか？
• RQ2 新しいスタディエント化手法は、カーネルベース推論における被覆誤差を低減し、バンドウドス選択へのロバスト性を向上させられるか？
• RQ3 バイアス補正後の被覆誤差を最小化する最適バンドウドスは何か？ これはMSE最適バンドウドスとどのように異なるか？
• RQ4 境界点における被覆誤差はどのように振る舞い、適切な標準誤差を用いることで自動的に適応可能か？
• RQ5 第二階のカーネルの使用は、バイアス補正信頼区間の性能をどの程度向上させるか？

主な発見

• 提案されたスタディエント化を用いたバイアス補正により、特に第二階カーネルが用いられる場合、アンダースモoothingに比べて被覆誤差の収束速度が速くなる。
• 内部点では、元の推定量のMSE最適バンドウドスはバイアス補正後には不適切である（大きすぎる）ため、被覆誤差最適バンドウドスはそれより小さくなる。
• 第二階カーネルが用いられる場合、MSE最適バンドウドスはバイアス補正後に最も速い被覆誤差収束速度を達成するが、特定の滑らかさ条件を満たす場合に限る。
• 奇数次多項式局所回帰では、適切なスタディエント化を適用することで、被覆誤差が境界点に自動的に適応され、ロバスト性が向上する。
• 被覆誤差最適バンドウドスは明示的に導出され、有限標本においてMSE最適バンドウドスよりも顕著に小さい被覆誤差を実現することが示された。
• 提案手法は、追加の滑らかさがある実用的状況において、被覆誤差が小さく、チューニングパrameter選択への感受性が低い信頼区間をもたらす。