[논문 리뷰] Dealing with Logs and Zeros in Regression Models

David Benatia, Christophe Bellégo외 1명|arXiv (Cornell University)|2022. 03. 22.

Statistical Methods and Inference인용 수 46

한 줄 요약

이 논문은 종속 변수의 0 값을 다루는 로그-선형 모델에서 로그(0) 문제를 해결하고, log(Y+1)와 Poisson 접근법을 하나로 통합하는 새로운 iOLS 계열 추정기(i2SLS는 내생 설정용)를 도입하며, 데이터 기반의 모델 선택 테스트를 제공합니다.

ABSTRACT

The log transformation is widely used in linear regression, mainly because coefficients are interpretable as proportional effects. Yet this practice has fundamental limitations, most notably that the log is undefined at zero, creating an identification problem. We propose a new estimator, iterated OLS (iOLS), which targets the normalized average treatment effect, preserving the percentage-change interpretation while addressing these limitations. Our procedure is the theoretically justified analogue of the ad-hoc log(1+Y) transformation and delivers a consistent and asymptotically normal estimator of the parameters of the exponential conditional mean model. iOLS is computationally efficient, globally convergent, and free of the incidental-parameter bias, while extending naturally to endogenous regressors through iterated 2SLS. We illustrate the methods with simulations and revisit three influential publications.

연구 동기 및 목표

• 로그-선형 및 로그-로그 회귀에서 로그(0) 문제를 명확히 하고, 기존 접근법과 그 한계들을 검토한다.
• 로그-선형 및 포아송 모델을 포함하는 유연하고 반복적인 OLS 기반 추정기(iOLS) 계열을 제안한다.
• 내생 확장(i2SLS)을 개발하고 모멘트 조건들 중에서 선택하는 모델 선택 절차를 제공한다.
• 일관성 및 점근적 정규성 같은 이론적 특성과 시뮬레이션 및 복제 연구를 통한 실용적 성능을 보여준다.

제안 방법

• 로그 변환 안에 Y와 exp(X'β)를 가중하는 하이퍼파라미터 δ를 통해 모델의 연속체를 도입한다.
• 변환된 종속 변수 tilde{Y}_i(β, δ) = log(Y_i + δ exp(X_i'β)) - c(β, δ)로 정의하고 고정점 반복(iOLS)으로 β를 추정한다.
• 초기 β_0에서 시작하여 beta_{t+1} = (X'X)^{-1} X' tilde{Y}(β_t)을 풀어 베타를 반복적으로 업데이트한다.
• 특수한 경우가 로그-선형(delta → 0) 및 포아송(delta → ∞) 모델로 수렴함을 보여준다.
• 전외성 가정하에서 식별을 제공하고 견고한 분산을 가진 점근 분포를 도출한다.

실험 결과

연구 질문

• RQ1 일관된 추정치를 얻기 위해 로그-선형/로그-로그 모델에서 종속 변수의 0 값을 어떻게 처리해야 하는가?
• RQ2 로그-선형과 포아송 모델을 포함하고 다수의 고정 효과를 처리하는 통합적이고 계산 친화적인 추정기를 만들 수 있는가?
• RQ3 δ 매개변수에 의해 유도된 서로 다른 모멘트 조건들 간의 모델 선택을 어떻게 수행할 수 있는가?
• RQ4 외생 및 내생 설정에서 iOLS 추정기의 점근적 특성(일관성, 정규성)은 무엇인가?

주요 결과

• iOLS 계열은 특수한 경우로서 로그-선형 및 포아송 모델을 포함하는 일관되고 점근적으로 정규적인 추정기를 제공한다.
• δ 매개변수는 모델의 연속체를 만들고, δ → 0은 로그-선형을 회수하고 δ → ∞은 곱적 포아송 프레임워크를 산출한다.
• 추정기는 계산적으로 빠르며 단일 X'X 역행렬과 β의 반복적 업데이트만 필요하다.
• 다수의 고정 효과가 있는 도구변수 맥락을 다루기 위해 엔드생(extension) i2SLS를 개발했다.
• 관찰된 0에 대해 모델의 외적 타당성을 평가하기 위한 사양 테스트를 제안한다.