[論文レビュー] Fast and Reliable Jackknife and Bootstrap Methods for Cluster-Robust Inference

James G. MacKinnon, Morten Ørregaard Nielsen+1 more|arXiv (Cornell University)|Jan 11, 2023

Statistical Methods and Inference被引用数 7

ひとこと要約

本稿では、特にCV3を含む、ジャックナイフに基づくクラスターロバスト分散推定法（CRVE）の高速で計算効率の良い手法を提案し、小規模または非平衡クラスタで推論の信頼性を向上させる新しいワイルドクラスターブートストラップの変種を導入する。主な貢献は、クラスタサイズに不均衡がある、またはクラスタ数が少ない状況において、これらの手法、特にWCR-Sブートストラップが、標準的手法よりもはるかに正確なp値と信頼区間を提供することにある。

ABSTRACT

We provide computationally attractive methods to obtain jackknife-based cluster-robust variance matrix estimators (CRVEs) for linear regression models estimated by least squares. We also propose several new variants of the wild cluster bootstrap, which involve these CRVEs, jackknife-based bootstrap data-generating processes, or both. Extensive simulation experiments suggest that the new methods can provide much more reliable inferences than existing ones in cases where the latter are not trustworthy, such as when the number of clusters is small and/or cluster sizes vary substantially. Three empirical examples illustrate the new methods.

研究の動機と目的

• クラスタ数が多く、サンプルサイズが大きな場合でも実用的となるように、特にCV1よりも小規模または非平衡クラスタで信頼性が高いとされるCV3に基づくジャックナイフベースのCRVEの計算を高速化するための計算効率の良い手法を開発すること。
• クラスタサイズのばらつきやクラスタ数が少ない状況で信頼性が低下する既存のブートストラップ手法（主にCV1に基づくもの）の限界を是正すること。
• ジャックナイフベースのCRVEや修正されたデータ生成過程（DGP）を組み込んだ、有限標本性能を向上させる新しいワイルドクラスターブートストラップの変種を提案すること。
• クラスタのバランスと有効なクラスタ数に基づいて、CV3、CV1、またはブートストラップ手法をいつ使用すべきかについての実証的指針を提供すること。
• シミュレーションおよび実世界の例で標準的手法を上回る性能を示す、Stata、R、Pythonで実装可能な実用的で効率的なソリューションを提供すること。

提案手法

• クラスタレベルの残差とレバレッジ統計量を明示的に活用することで、多くのクラスタを含む大規模なサンプルでも高速に計算可能な、クラスタジャックナイフ推定量（CV3）の効率的アルゴリズムを導入する。
• クラスタジャックナイフ推定値と実証的スコアベクトルの間の代数的関係を導出し、真の構造をよりよく反映するように修正されたブートストラップ用データ生成過程（DGP）の構築を可能にする。
• WCR-SおよびWCU-Sという新しいワイルドクラスターブートストラップの変種を提案する。これらはCV1の標準誤差を使用するが、ブートストラップのDGPでジャックナイフ変換されたスコアベクトルを適用することで、有限標本性能を向上させる。
• 各クラスタ内でスコアが設計行列に直交するように制限する修正されたブートストラップDGPを採用し、クラスタの不均一性下でも耐性を高める。
• Stata、R、Python、Juliaで使用可能な効率的なソフトウェアパッケージ（例：boottest、fwildclusterboot）に新手法を実装し、10,000回以上のブートストラップ再試行でも高速計算を実現する。
• 広範なシミュレーション実験と3つの実証的応用を通じて、手法の妥当性を検証し、さまざまなクラスタ構成とサンプルサイズにおける性能を比較する。

Figure 1: Timings for three ways to compute CV 3

実験結果

リサーチクエスチョン

• RQ1 多くのクラスタを含む大規模なサンプルにおいて、クラスタジャックナイフ推定量（CV3）をどれほど高速に計算できるか、実用的であるか。
• RQ2 CV3に基づく、あるいは修正されたDGPを用いたブートストラップ手法は、クラスタサイズのばらつきやクラスタ数が少ない状況において、CV1に基づく標準的なワイルドクラスターブートストラップ手法よりも信頼性の高い推論を提供するか。
• RQ3 クラスタサイズに顕著な差がある、またはクラスタ数が少ない状況において、新しいブートストラップ変種（例：WCR-S）は、古典的手法（例：WCR-C）と比較して性能に優れているか。
• RQ4 クラスタの不均衡、レバレッジ、有効なクラスタ数が、CV1とCV3の標準誤差およびp値の信頼性に与える影響は何か。
• RQ5 多様な実証的状況において、WCR-S、WCR-C、その他のブートストラップ手法のうち、最も正確で耐性のある推論を提供するのはどれか。

主な発見

• ある実証的例では、CV3の標準誤差がCV1よりも47%大きかったため、クラスタが非平衡な状況では推論に顕著な差が生じることが示された。
• WCR-Sブートストラップ（CV1の標準誤差を使用するが、DGPでジャックナイフ変換されたスコアを使用）は、シミュレーションにおいて特にクラスタの不均衡がある状況で、古典的手法のWCR-Cブートストラップを一貫して上回った。
• 新しい手法（例：WCR-S）からのブートストラップp値は、CV1やCV3に基づく従来のt検定よりも信頼性が高く、特にクラスタ数が少ない、またはクラスタサイズに大きなばらつきがある状況で顕著であった。
• シミュレーションでは、新しい手法が第一種の過誤率を低減し、信頼区間のカバレッジを改善した。特に、クラスタ数が少ない、または極端に非平衡なクラスタを持つ状況で顕著であった。
• WCR-Sブートストラップは、計算コストが最小限で、実装が容易であるため、最も耐性があり実用的な推奨手法であることが判明した。
• 10,000回以上のブートストラップ再試行が、クラスタ構造が複雑な状況においても計算的に実行可能であり、信頼性の高い推論に不可欠であることが示された。

Figure 2: Rejection frequencies as a function of $\gamma$