[论文解读] Learning non-smooth models: instrumental variable quantile regressions and related problems

Yinchu Zhu|arXiv (Cornell University)|May 17, 2018

Statistical Methods and Inference参考文献 62被引用 4

一句话总结

本文提出了一种计算高效的k步校正方法，用于工具变量分位数回归（IVQR），该方法在无需求解NP难的GMM公式化问题的情况下实现了渐近效率估计。通过使用基于混合整数线性规划（MILP）的快速但不一致的初始估计器，以及无需调参的Jacobian估计器，该方法即使在存在大量内生回归变量时，也能实现对异质处理效应的可扩展推断。

ABSTRACT

This paper proposes computationally efficient methods that can be used for instrumental variable quantile regressions (IVQR) and related methods with statistical guarantees. This is much needed when we investigate heterogenous treatment effects since interactions between the endogenous treatment and control variables lead to an increased number of endogenous covariates. We prove that the GMM formulation of IVQR is NP-hard and finding an approximate solution is also NP-hard. Hence, solving the problem from a purely computational perspective seems unlikely. Instead, we aim to obtain an estimate that has good statistical properties and is not necessarily the global solution of any optimization problem. The proposal consists of employing $k$-step correction on an initial estimate. The initial estimate exploits the latest advances in mixed integer linear programming and can be computed within seconds. One theoretical contribution is that such initial estimators and Jacobian of the moment condition used in the k-step correction need not be even consistent and merely $k=4\log n$ fast iterations are needed to obtain an efficient estimator. The overall proposal scales well to handle extremely large sample sizes because lack of consistency requirement allows one to use a very small subsample to obtain the initial estimate and the k-step iterations on the full sample can be implemented efficiently. Another contribution that is of independent interest is to propose a tuning-free estimation for the Jacobian matrix, whose definition nvolves conditional densities. This Jacobian estimator generalizes bootstrap quantile standard errors and can be efficiently computed via closed-end solutions. We evaluate the performance of the proposal in simulations and an empirical example on the heterogeneous treatment effect of Job Training Partnership Act.

研究动机与目标

• 解决当交互项产生多个内生回归变量时，标准基于GMM的IVQR估计的计算不可行性问题。
• 克服IVQR GMM优化的NP难性质，该性质阻碍了高效全局解的寻找。
• 开发一种优先考虑统计效率而非计算最优性的方法，从而实现在大样本中的可扩展推断。
• 为涉及条件密度的非光滑GMM模型中的Jacobian矩阵构建无需调参的估计器。
• 在大规模计量经济学应用（如政策评估）中，实现对异质处理效应的实际估计与推断。

提出的方法

• 采用从通过混合整数线性规划（MILP）获得的初始估计器出发的k步校正程序，该估计器可在数秒内计算完成。
• 初始估计器无需一致性，从而可使用极小的子样本以加快计算速度。
• 在全样本上执行k = 4 log n轮校正迭代，即使初始估计器不一致，也能实现渐近效率。
• 提出一种无需调参的Jacobian估计器，其推广了自助法分位数标准误，并通过闭式解计算。
• 使用涉及条件分位数的矩条件来表述IVQR问题，并采用GMM风格推断，而无需求解原始的NP难优化问题。
• 利用Wald统计量和t统计量进行模型参数的推断，其方差-协方差矩阵通过所提出的Jacobian估计器进行估计。

实验结果

研究问题

• RQ1 IVQR的GMM公式化是否具有计算可行性，还是其为NP难问题？
• RQ2 我们能否在不求解NP难的GMM优化问题的情况下，实现IVQR的渐近效率估计？
• RQ3 我们能否为涉及条件密度的非光滑GMM模型中的Jacobian矩阵构建无需调参的估计器？
• RQ4 所提出的k步校正方法在统计效率和计算可扩展性方面表现如何？
• RQ5 在现实世界政策评估中，处理变量与协变量之间的交互项在多大程度上揭示了异质处理效应？

主要发现

• 证明了IVQR的GMM公式化为NP难问题，且在常数因子内寻找近似解同样为NP难，确立了其固有的计算不可行性。
• 所提出的k步校正方法仅需k = 4 log n轮迭代即可实现渐近效率，即使初始估计器不一致亦成立。
• 该方法能高效扩展至大样本，因为初始估计器可在极小子样本上计算，且全样本迭代计算量轻便。
• 所提出的无需调参的Jacobian估计器推广了自助法标准误，并可通过闭式解实现高效计算。
• 在JTPA实证应用中，所有分位点上处理效应无异质性的原假设（θ_j(τ) = 0）均被强烈拒绝，τ = 0.85时Wald统计量超过90。
• 结果表明存在显著异质性：已婚个体在较高收入水平下从JTPA中获益更多，且先前就业状态仅对高收入者影响处理效应。