[논문 리뷰] Ridge Estimation of High Dimensional Two-Way Fixed Effect Regression

Junnan He, Jean-Marc Robin|arXiv (Cornell University)|2026. 01. 07.

Spatial and Panel Data Analysis인용 수 0

한 줄 요약

이 논문은 희소 이분 그래프를 갖는 고차원 양방 고정 효과 모델에 대한 ridge 추정기를 개발하고, 차수 보정된 확률 블록 모델 하에서 편향과 분산의 결정론적 등가를 도출하며, 시뮬레이션 및 임금 기반의 고용주-피고용자 적용으로 검증한다.

ABSTRACT

We study a ridge estimator for the high-dimensional two-way fixed effect regression model with a sparse bipartite network. We develop concentration inequalities showing that when the ridge parameters increase as the log of the network size, the bias, and the variance-covariance matrix of the vector of estimated fixed effects converge to deterministic equivalents that depend only on the expected network. We provide simulations and an application using administrative data on wages for worker-firm matches.

연구 동기 및 목표

• 전통적인 OLS 식별이 약한 고차원, 희소 이분 네트워크에서 양방 고정 효과 추정을 동기화한다.
• 두 개의 고정 효과를 각각 정규화하는 ridge 회귀 프레임워크를 개발하여 안정적인 추정을 얻는다.
• 네트워크의 차수 보정된 확률 블록 모델 하에서 ridge 추정기의 편향과 분산에 대한 결정론적 등가를 도출한다.
• OLS에 비해 ridge 정규화가 고정 효과 분포 복원력을 향상시키는지 시뮬레이션으로 보여준다.
• 노동자-기업 매칭(DADS 패널)에서 임금 적용을 통해 경험적 중요성을 입증한다.

제안 방법

• 둘 다의 고정 효과 모델 y_ijs = μ_i + φ_j + u_ijs를 희소 이분 그래프 매칭으로 정의한다.
• 노동자 λ_w와 기업 λ_f에 대해 서로 다른 벌점 penalty를 갖는 ridge 추정기를 도입하고 추정기의 블록 역(inverse) 형태를 제시한다.
• 정규화된 고유값이 양수이고 가능하도록 정규화된 Laplacian과 정규화된 인접 행렬을 구성한다(λ_w, λ_f > 0).
• 네트워크의 커뮤니티 구조와 희소성을 포착하기 위해 노동자와 기업에 대한 차수 보정된 SBM( Degree-Corrected SBM)을 도입한다.
• 벌점이 log(n+p) 규모로 증가할 때 편향과 분산이 기대 네트워크를 기반으로 한 결정론적 등가로 수렴하는 집중 결과를 도출한다.
• 모의 실험과 노동자-기업 임금 구성 분해의 경험적 적용을 통해 성능을 고찰한다.

실험 결과

연구 질문

• RQ1 희소 이분 네트워크에서 고차원 양방 고정 효과에 대한 ridge 추정기의 점근적 거동은 어떠한가?
• RQ2 벌점이 네트워크 크기의 로그로 커질 때 ridge 추정기의 편향과 분산은 어떻게 동작하는가?
• RQ3 기대 네트워크를 기반으로 한 결정론적 등가가 추정된 고정 효과의 분포를 정확히 특성화하는가?
• RQ4 희소 네트워크에서 OLS에 비해 ridge 정규화가 고정 효과 분포 회복 및 분해의 정확성을 향상시키는가?
• RQ5 실제 임금 데이터(DADS 패널)에서 이 방법들이 어떤 성능을 보이는가?

주요 결과

• log(n+p) 수준으로 증가하는 ridge 벌점은 편향과 분산이 기대 네트워크에 의존하는 결정론적 등가로 수렴한다.
• 양의 벌점에서 정규화된 Laplacian은 고유값이 0에서 벗어나도록 하여 ridge 추정기가 가능하다.
• 모의 실험에서 ridge 정규화가 OLS에 비해 고정 효과 분포의 회복을 상당히 향상시킨다.
• 임금의 분산 구성에서 로그 임금의 분산은 매우 희소한 네트워크에서 ridge에 의해 이득을 얻고 등분산 편향 보정은 실패한다.
• 프랑스 임금 데이터(DADS 패널)에 대한 실증 적용은 OLS 기반 분해에 비해 노동자/기업의 분산 비중이 더 합리적이고 공분산 기여가 양수인 경우를 보인다.