[논문 리뷰] Square-root nuclear norm penalized estimator for panel data models with approximately low-rank unobserved heterogeneity

Jad Beyhum, Éric Gautier|arXiv (Cornell University)|2019. 04. 19.

Spatial and Panel Data Analysis인용 수 4

한 줄 요약

이 논문은 근사적으로 낮은 질서의 관측되지 않는 이질성이 있는 패널 데이터 모형을 위한 제곱근 핵심노름 페널티 추정량을 제안하며, 오차 분산에 대한 사전 지식 없이도 일致된 추정이 가능하다. 이 방법은 볼록 최적화 문제를 해결하며, 두 단계 절차를 통해 점근적 정규성을 달성하고, 증가하는 표본 크기 하에서 강건한 질서 추정과 수렴 속도를 제공한다.

ABSTRACT

This paper considers a nuclear norm penalized estimator for panel data models with interactive effects. The low-rank interactive effects can be an approximate model and the rank of the best approximation unknown and grow with sample size. The estimator is solution of a well-structured convex optimization problem and can be solved in polynomial-time. We derive rates of convergence, study the low-rank properties of the estimator, estimation of the rank and of annihilator matrices when the number of time periods grows with the sample size. Two-stage estimators can be asymptotically normal. None of the procedures require knowledge of the variance of the errors.

연구 동기 및 목표

• 근사적으로 낮은 질서의 관측되지 않는 이질성이 있는 패널 데이터 모형을 위한 볼록적이고 분산이 없는 추정량을 개발하는 것.
• 모르는 증가하는 질서 하에서 추정량의 수렴 속도와 낮은 질서 성질을 확립하는 것.
• 오차 분산 지식 없이도 점근적 정규성을 달성하는 두 단계 추정량을 제안하는 것.
• 기본 추정량을 반복 알고리즘의 초기화로 사용할 수 있도록 하는 것.
• 크기 있는 차원 설정에서 진짜 질서와 소거행렬을 일致되게 추정하는 것.

제안 방법

• 추정량은 관측되지 않는 이질성 행렬에 대해 제곱근 핵심노름 페널티를 최소화하며, 볼록 최적화 문제로 공식화된다.
• 이 방법은 두 단계 절차를 사용한다: 먼저 핵심노름 페널라이제이션을 통해 낮은 질서 성분을 추정하고, 그 다음 회귀 계수 추정량을 정밀화한다.
• 추정량은 최소제곱 추정량을 사용하여 초기화되며, 이는 일관성이 없을지라도 강건하다.
• 스케일 불변 추정을 보장하기 위해 오차 분산을 모르는 상황에서도 제곱근 손실을 사용한다.
• 개인 및 시간 효과를 제거하기 위해 내부 변환을 통합하여 유한 표본 성능을 향상시킨다.
• 질서 추정을 향상시키기 위해 추정된 행렬의 특이값에 하드 임계처리를 적용한다.

실험 결과

연구 질문

• RQ1 근사적으로 낮은 질서의 관측되지 않는 이질성이 있는 패널 데이터 모형을 위한 볼록적이고 분산이 없는 추정량을 개발할 수 있는가?
• RQ2 증가하는 표본 크기 하에서 제곱근 핵심노름 페널라이제이션 추정량의 수렴 속도와 낮은 질서 성질은 무엇인가?
• RQ3 오차 분산 지식 없이도 두 단계 추정량이 점근적 정규성을 달성하는가?
• RQ4 유한 표본에서 추정량은 관측되지 않는 이질성 행렬의 진짜 질서를 얼마나 잘 복원하는가?
• RQ5 기본 추정량은 이 맥락에서 반복 알고리즘의 신뢰할 수 있는 초기화로 사용될 수 있는가?

주요 결과

• N=T=150일 때, 두 단계 추정량 $\widetilde{\beta}^{(2)}$의 MSE는 1×10⁻⁵에 도달하여 높은 정밀도를 보였다.
• N=T=150인 큰 표본에서 $\widetilde{\beta}^{(2)}$의 95% 신뢰구간의 포함 확률은 95%에 도달하여 점근적 정규성을 확인했다.
• 소규모 표본(N=T=50)에서 $\widehat{\beta}_{pt}$의 MSE는 5×10⁻⁴이었으며, 최소제곱 추정량(MSE=0.053)보다 성능 향상을 보였다.
• 내부 변환된 형태는 질서 복원을 향상시켰다: N=T=150일 때 $\mathrm{rank}(\widehat{\Pi}_1^t)$는 모든 경우에서 2로 정확히 추정되었다.
• 내부 변환된 경우, 관측되지 않는 이질성 행렬의 진짜 질서를 일관되게 추정하였으며, N=T=50일 때 정확도는 89%, N=T=150일 때는 100%였다.
• 두 단계 추정량 $\widetilde{\beta}^{(2)}$는 큰 표본에서 편향이 10⁻⁴ 이하로 유지되어 높은 일致성을 보였다.