[論文レビュー] ppmlhdfe: Fast Poisson Estimation with High-Dimensional Fixed Effects

Sergio Correia, Paulo Guimarães+1 more|arXiv (Cornell University)|Mar 5, 2019

Statistical Methods and Bayesian Inference参考文献 17被引用数 50

ひとこと要約

ppmlhdfe は、最適化された IRLS アルゴリズムとロバストな MLE 存在性チェックを用いた、複数の高次元固定効果を持つポアソン回帰の高速 Stata 実装を提供します。高次元推定のための効率的な基盤として reghdfe に基づきます。

ABSTRACT

In this paper we present ppmlhdfe, a new Stata command for estimation of (pseudo) Poisson regression models with multiple high-dimensional fixed effects (HDFE). Estimation is implemented using a modified version of the iteratively reweighted least-squares (IRLS) algorithm that allows for fast estimation in the presence of HDFE. Because the code is built around the reghdfe package, it has similar syntax, supports many of the same functionalities, and benefits from reghdfe's fast convergence properties for computing high-dimensional least squares problems. Performance is further enhanced by some new techniques we introduce for accelerating HDFE-IRLS estimation specifically. ppmlhdfe also implements a novel and more robust approach to check for the existence of (pseudo) maximum likelihood estimates.

研究の動機と目的

• 多くのゼロを含む非負の従属変数データに対する堅牢な代替手段として Poisson pseudo-最大尤度法（PPML）を動機づける。
• 高次元固定効果（HDFE）を伴う設定へPPMLを拡張する。
• reghdfe フレームワークを活用・適応して、HDFE を含む高速な非線形 Poisson 推定を実現する。
• HDFE を含む PPML における最大尤度推定の存在性を検証するための堅牢な手順を導入する。

提案手法

• PPML 推定のための修正された反復加重最小二乗法（IRLS）アルゴリズムを使用する。
• within-transformation（FWL）を適用して高次元固定効果を吸収し、推定問題の次元を削減する。
• reghdfe の Mata ルーチンを組み込んで HDFE 計算を加速し、基盤となる HDFE ソルバーへの呼び出し回数を減らす。
• 計算を迅速化するために、漸進的な within-transformation と適応的な内ループ収束基準を導入する。
• 分離観測を検出・処理する手法を組み込んで、MLE 推定の存在性を保証する。

実験結果

リサーチクエスチョン

• RQ1 複数の高次元固定効果が存在する場合、PPML はどのように効率的に推定できるか？
• RQ2 within-transformation を伴う IRLS を高速化して HDFE 非線形モデルを効果的に扱えるか？
• RQ3 高次元固定効果の文脈で PPML MLE の存在性を堅牢に検証するにはどうすればよいか？
• RQ4 既存の非線形 HDFE アプローチと比較して実用的な性能向上はどの程度か？
• RQ5 収束性と堅牢性の観点で、ppmlhdfe は他の PPML/GLM ツールとどう比較されるか？

主な発見

• ppmlhdfe は X と z に対する漸進的な within-transformation と IRLS 反復間での変換の再利用により、実質的なスピードアップを達成する。
• この方法は HDFE ソルバーへの呼び出し回数を削減し、しばしば 50% 以上の削減を実現して収束を速くする。
• ppmlhdfe は分離観測を堅牢に検出し、問題となる観測を除外して有効なMLE存在性を保証する。
• このアプローチは固定効果設定で PPML と一貫した結果をもたらし、吸収固定効果を含む標準的な PPML 出力を再現する。
• 例は分離に対する堅牢性と、相互作用や異質な傾斜を含む複数の固定効果を吸収する能力を示している。
• このコマンドは因子固定効果に対応しており、マルチウェイクラスタリングやさまざまな VCE オプションをサポートします。