[논문 리뷰] High Dimensional Linear GMM

Mehmet Caner, Anders Kock|arXiv (Cornell University)|2018. 11. 21.

Spatial and Panel Data Analysis참고 문헌 18인용 수 8

한 줄 요약

이 논문은 표본 수보다 더 많은 내생적 설명변수를 가진 고차원 선형 모형에 대해, 도구변수의 흐림성 또는 서브-구형 데이터 가정 없이 조건부 이방성에 대해 균일하게 타당한 추론을 가능하게 하는 고차원 GMM 추정량을 제안한다. 이 방법은 이중 단계 Lasso-GMM 추정량을 보정하여 점근적으로 정규분포를 따르는 추정량을 도출함으로써 고차원 모수 공간 전역에서 균일한 타당성을 확보한다.

ABSTRACT

This paper proposes a desparsified GMM estimator for estimating high-dimensional regression models allowing for, but not requiring, many more endogenous regressors than observations. We provide finite sample upper bounds on the estimation error of our estimator and show how asymptotically uniformly valid inference can be conducted in the presence of conditionally heteroskedastic error terms. We do not require the projection of the endogenous variables onto the linear span of the instruments to be sparse; that is we do not impose the instruments to be sparse for our inferential procedure to be asymptotically valid. Furthermore, the variables of the model are not required to be sub-gaussian and we also explain how our results carry over to the classic linear dynamic panel data model. Simulations show that our estimator has a low mean square error and does well in terms of size and power of the tests constructed based on the estimator.

연구 동기 및 목표

• 표본 수를 초월하는 내생적 설명변수를 가진 고차원 GMM 추정량을 개발하여, 표본 수를 초월하는 경우에도 타당한 추론이 가능하도록 하는 것.
• 도구변수의 흐림성 조건 없이 조건부 이방성 오차가 존재하는 상황에서도 균일하게 타당한 추론을 가능하게 하는 것.
• 고차원 IV 문헌에서 흔히 사용되는 서브-구형 데이터 가정을 완화하기 위해 Chernozhukov 등(2017)의 농도 부등식을 활용하는 것.
• 일반화된 차분화를 통해 동적 패널 데이터 모형으로의 프레임워크 확장을 수행하는 것.
• 조정 파rameter 없이 넓은 범위의 고차원 모형에 대해 균일하게 타당한 신뢰구간과 가설검정을 구성하는 것.

제안 방법

• 이중 단계 Lasso-GMM 추정량의 초기 추정치를 보정하기 위해, 특이 행렬의 역행렬로부터 유도된 보정 행렬을 사용하여 비희박화된 이중 단계 Lasso-GMM 추정량을 제안한다.
• 고차원 설정에서의 추정 편향을 보정하기 위해 이중 보정 메커니즘을 활용하여 추정량의 점근적 정규성을 보장한다.
• Chernozhukov 등(2017)의 농도 부등식을 사용하여 서브-구형 오차 분포가 아닌 경우에도 처리 가능하게 하여 강한 모멘트 조건을 회피한다.
• 보정된 추정량 기반의 강력한 샌드위치 유형 추정량을 사용하여 추정량의 점근적 분산을 추정함으로써 균일한 신뢰구간을 구성한다.
• GMM 프레임워크 내에서 이방성과 고차원 설계 행렬에 적응하는 데이터 기반 가중행렬을 구현한다.
• 유한 표본에서 추정 오차의 상한을 유도하고, 구조적 모수에 대한 약한 흐림성 가정을 포함한 약한 정규성 조건 하에서 점근적 정규성을 확립한다.

실험 결과

연구 질문

• RQ1 표본 수를 초월하는 내생적 설명변수를 가진 고차원 선형 GMM 모형에서 균일하게 타당한 추론을 수행할 수 있는가?
• RQ2 제안된 추정량이 서브-구형 또는 타원형 데이터 가정 없이 조건부 이방성 하에서도 점근적으로 정규분포를 따르는가?
• RQ3 많은 도구변수를 사용하더라도 도구변수에 흐림성 조건을 부과하지 않아도 추론이 여전히 균일하게 타당한가?
• RQ4 일반화된 차분화 이후 동적 패널 데이터 모형에서 추정량의 성능은 어떠한가?
• RQ5 조정 파rameter 없이 넓은 범위의 고차원 모형에서 균일하게 타당한 신뢰구간을 구성할 수 있는가?

주요 결과

• 제안된 비희박화 GMM 추정량은 표본 수를 초월하는 내생적 설명변수를 가진 상황에서도 모든 계수에 대해 점근적으로 균일한 정규분포를 따르며, 균일한 정규성을 확보한다.
• 추정량은 균일하게 타당한 신뢰구간과 가설검정을 제공하며, 모수 공간 전역에서 유의수준에 대해 균일하게 수렴하는 커버리지 확률을 보인다.
• 유한 표본에서 추정 오차의 상한이 도출되었으며, 이는 고차원 설정에서도 일관된 성능을 보임을 시사한다.
• 이 방법은 도구변수가 흐림성이 아니거나 데이터가 서브-구형이 아니어도 적용 가능하므로 실제 경제 데이터에 대한 적용 범위를 넓힌다.
• 시뮬레이션 결과, 추정량 기반의 검정은 낮은 평균제곱오차와 양호한 크기 및 검정력 성질을 보였다.
• 이론적 프레임워크는 일반화된 차분화를 통해 동적 패널 데이터 모형으로 확장되었으며, 동일한 조건 하에서 균일한 추론 타당성을 유지한다.