[論文レビュー] Regularized Quantile Regression with Interactive Fixed Effects

Junlong Feng|arXiv (Cornell University)|Nov 1, 2019

Statistical Methods and Inference参考文献 36被引用数 6

ひとこと要約

本稿は、大規模な $N$ および $T$ のパネルデータモデルにおけるインタラクティブ固定効果を伴う正則化量子回帰のための核ノルムペナルティ推定量を提案する。この手法は凸最適化を用いて係数と低ランク固定効果を同時に推定し、事前に要因数の数を推定することなく、あらゆる分位数レベルで一様な一致性を達成する。理論的誤差境界と増幅ラグランジュアルゴリズムによる計算効率も得られる。

ABSTRACT

This paper studies large $N$ and large $T$ conditional quantile panel data models with interactive fixed effects. We propose a nuclear norm penalized estimator of the coefficients on the covariates and the low-rank matrix formed by the fixed effects. The estimator solves a convex minimization problem, not requiring pre-estimation of the (number of the) fixed effects. It also allows the number of covariates to grow slowly with $N$ and $T$. We derive an error bound on the estimator that holds uniformly in quantile level. The order of the bound implies uniform consistency of the estimator and is nearly optimal for the low-rank component. Given the error bound, we also propose a consistent estimator of the number of fixed effects at any quantile level. To derive the error bound, we develop new theoretical arguments under primitive assumptions and new results on random matrices that may be of independent interest. We demonstrate the performance of the estimator via Monte Carlo simulations.

研究の動機と目的

• パネルデータにおける分布的不均一性を、インタラクティブ固定効果を用いた条件付き分位数でモデル化することにより解決すること。
• 非凸最適化を回避し、固定効果の数を事前に推定する必要のない計算効率の良い推定量を開発すること。
• 固定効果行列の低ランク構造の下で、あらゆる分位数レベルにおいて推定量の均一な理論的誤差境界を確立すること。
• 任意の分位数レベルにおいて、インタラクティブ固定効果の数を一貫して推定する推定量を提案すること。
• 非凸代替手法と比較するモンテカルロシミュレーションを通じて、本手法の性能を実証すること。

提案手法

• 低ランク固定効果行列 $L$ に核ノルムペナルティを適用し、特異値にスパarsityを誘導することで、ランク最小化の凸的代理関数として機能させる。
• 凸最適化問題 $\min_{\beta, L} \frac{1}{NT}\sum_{i,t}\rho_u(Y_{it} - X_{it}'\beta - L_{it}) + \lambda\|L\|_*$ を解く。ここで $\rho_u$ はチェック関数、$\|L\|_*$ は核ノルムを表す。
• 増幅ラグランジュ乗数アルゴリズムを用いて推定量を効率的に計算し、大規模パネルへのスケーラビリティを実現する。
• 原始的仮定の下で理論的誤差境界を導出し、分位数レベルにおける推定量の一様な一貫性を確立する。
• 誤差境界と特異値の減衰に基づいて、インタラクティブ固定効果の数を一貫して推定する手法を導入する。
• 弱いモーメントおよび依存条件の下で誤差境界を支持するため、新しいランダム行列理論の結果と理論的議論に依拠する。

実験結果

リサーチクエスチョン

• RQ1 凸的で正則化された推定量は、分位数固有の不均一性を示す大規模パネルデータモデルにおいて、係数と低ランクインタラクティブ固定効果を一貫して推定できるか？
• RQ2 核ノルムペナルティは、要因数の数を事前に指定せずに、固定効果行列の低ランク構造を効果的に回復できるか？
• RQ3 反復的最適化を要する非凸代替手法と比較して、有限標本における本推定量の性能はいかがなものか？特に局所最適解に陥りやすい非凸手法と比較して、どのような利点があるか？
• RQ4 提案されたフレームワークを用いて、任意の分位数レベルでインタラクティブ固定効果の数を一貫して推定できるか？
• RQ5 すべての分位数レベルにわたる推定量の均一な誤差境界は何か？また、それらは最適レートにどの程度近いか？

主な発見

• 提案された核ノルムペナルティ付き推定量は、あらゆる分位数レベルにおいて、係数および固定効果の両方を一様に一貫して推定でき、低ランク成分の誤差境界はほぼ最適に近い。
• モンテカルロシミュレーションの結果、非凸反復的代替手法と比較して、計算時間が著しく短縮され、大規模パネルでは最大10倍の高速化が達成された。
• 推定量はインタラクティブ固定効果の数を一貫して推定でき、正しいモデル選択率はサンプルサイズが増加するにつれて上昇する（例：$u=0.5$ において $N=T=500$ 時に95％）。
• 重い尾を示す誤差（例：自由度2の $t$ 分布）の下でも、バイアスと平均二乗誤差が低く保たれ、$u=0.8$ の下で $N=T=200$ のとき $\text{MSE}_L=44.7$ から $N=T=500$ 時に $43.4$ に減少した。
• 弱い依存性の下で誤差境界は $O_p(\sqrt{\log(NT)/NT})$ のスケーリングを示し、低ランク成分の近似的最適収束レートを示している。
• 高次元の共変量に対しても本手法はロバストであり、共変量の数が $N$ および $T$ と共にゆっくりと増加しても許容される。