[論文レビュー] Learning non-smooth models: instrumental variable quantile regressions and related problems

Yinchu Zhu|arXiv (Cornell University)|May 17, 2018

Statistical Methods and Inference参考文献 62被引用数 4

ひとこと要約

本稿では、NP-hardなGMM定式化を解かずに漸近的に有効な推定を達成できる、計算的に効率的なkステップ補正手法を、工具変数分位回帰（IVQR）に対して提案する。混合整数線形計画法（MILP）を用いた高速で一貫性のない初期推定量と、チューニングの必要なヤコビ行列推定量を組み合わせることで、多数の内生的説明変数を含む状況でも、異質的処置効果のスケーラブルな推論を可能にする。

ABSTRACT

This paper proposes computationally efficient methods that can be used for instrumental variable quantile regressions (IVQR) and related methods with statistical guarantees. This is much needed when we investigate heterogenous treatment effects since interactions between the endogenous treatment and control variables lead to an increased number of endogenous covariates. We prove that the GMM formulation of IVQR is NP-hard and finding an approximate solution is also NP-hard. Hence, solving the problem from a purely computational perspective seems unlikely. Instead, we aim to obtain an estimate that has good statistical properties and is not necessarily the global solution of any optimization problem. The proposal consists of employing $k$-step correction on an initial estimate. The initial estimate exploits the latest advances in mixed integer linear programming and can be computed within seconds. One theoretical contribution is that such initial estimators and Jacobian of the moment condition used in the k-step correction need not be even consistent and merely $k=4\log n$ fast iterations are needed to obtain an efficient estimator. The overall proposal scales well to handle extremely large sample sizes because lack of consistency requirement allows one to use a very small subsample to obtain the initial estimate and the k-step iterations on the full sample can be implemented efficiently. Another contribution that is of independent interest is to propose a tuning-free estimation for the Jacobian matrix, whose definition nvolves conditional densities. This Jacobian estimator generalizes bootstrap quantile standard errors and can be efficiently computed via closed-end solutions. We evaluate the performance of the proposal in simulations and an empirical example on the heterogeneous treatment effect of Job Training Partnership Act.

研究の動機と目的

• 交互作用項から生じる複数の内生的説明変数が存在する際、標準的なGMMベースのIVQR推定における計算的非実行可能性に対処すること。
• IVQR GMM最適化のNP-hard性を克服し、効率的なグローバル解の探索を可能にすること。
• 計算最適性よりも統計的有効性を重視する手法を開発し、大標本におけるスケーラブルな推論を可能にすること。
• 条件付き密度を含む非滑らかGMMモデルにおけるヤコビ行列のチューニング不要推定量を構築すること。
• 政策評価などの大規模な計量経済学的応用において、異質的処置効果の実用的推定と推論を可能にすること。

提案手法

• 混合整数線形計画法（MILP）を用いて得られる初期推定量から始めるkステップ補正手順を採用し、これは数秒で計算可能である。
• 初期推定量は一貫性を必要としないため、計算を高速化するための非常に小さなサブサンプルを用いることができる。
• 全サンプルに対してk = 4 log n回の補正反復を実行することで、初期推定量が一貫でない場合でも漸近的有効性を達成する。
• 閉形式解を用いて計算可能なチューニング不要のヤコビ行列推定量を提案し、ブートストラップ分位回帰標準誤差を一般化する。
• 条件付き分位回帰を含むモーメント条件を用いてIVQR問題を定式化し、元のNP-hard最適化を解かずにGMM風の推論を実施する。
• Wald統計量とt統計量を用いてモデルパラメータの推論を行い、分散・共分散行列は提案されたヤコビ行列推定量で推定する。

実験結果

リサーチクエスチョン

• RQ1 IVQRのGMM定式化は計算的に実行可能か、それともNP-hardか？
• RQ2 NP-hardなGMM最適化問題を解かずに、IVQRで漸近的に有効な推定を達成できるか？
• RQ3 条件付き密度を含む非滑らかGMMモデルにおけるヤコビ行列のチューニング不要推定量を構築できるか？
• RQ4 提案されたkステップ補正法は、統計的有効性と計算スケーラビリティの観点でどの程度の性能を示すか？
• RQ5 処置と共変量の間の交互作用項は、現実の政策評価において、どの程度異質的処置効果を明らかにするか？

主な発見

• IVQRのGMM定式化がNP-hardであることが証明され、定数要因内での近似解の探索すらNP-hardであることが示され、本質的な計算的非実行性が確立された。
• 提案されたkステップ補正法は、初期推定量が一貫でない場合でも、k = 4 log n回の反復で漸近的有効性を達成する。
• 初期推定量が極めて小さなサブサンプルで計算可能であり、全サンプルの反復が計算的に軽量であるため、大規模なサンプルへのスケーラビリティが確保される。
• 提案されたチューニング不要のヤコビ行列推定量は、ブートストラップ標準誤差を一般化し、閉形式解を用いて効率的に計算可能である。
• JTPAの実応用において、すべての分位点で処置効果の非均一性の帰無仮説（θ_j(τ) = 0）が強く棄却され、τ = 0.85のときWald統計量は90を上回った。
• 結果から、結婚済みの個人は収入水準が高いほどJTPAの効果をより大きく享受しており、以前の就労状態は高収入層でのみ処置効果に影響を与えることが明らかになった。