[논문 리뷰] Sampling-based vs. Design-based Uncertainty in Regression Analysis

Alberto Abadie, Susan Athey외 2명|arXiv (Cornell University)|2017. 06. 06.

Advanced Causal Inference Techniques참고 문헌 37인용 수 11

한 줄 요약

이 논문은 표본 추출 기반 표준 오차에만 의존하는 것과는 달리 잠재적 개입으로 인한 불확실성을 고려하는 설계 기반 추론 프레임워크를 제안한다. 전체 유한 모집단이 관측된 경우(예: 주 수준 또는 웹사이트 방문 데이터와 같이) 일반적으로 더 작고 타당한 표준 오차를 도출하며, 이러한 설정에서 전통적인 표본 추출 기반 추론보다 더 적절한 대안을 제공한다.

ABSTRACT

Consider a researcher estimating the parameters of a regression function based on data for all 50 states in the United States or on data for all visits to a website. What is the interpretation of the estimated parameters and the standard errors? In practice, researchers typically assume that the sample is randomly drawn from a large population of interest and report standard errors that are designed to capture sampling variation. This is common even in applications where it is difficult to articulate what that population of interest is, and how it differs from the sample. In this article, we explore an alternative approach to inference, which is partly design-based. In a design-based setting, the values of some of the regressors can be manipulated, perhaps through a policy intervention. Design-based uncertainty emanates from lack of knowledge about the values that the regression outcome would have taken under alternative interventions. We derive standard errors that account for design-based uncertainty instead of, or in addition to, sampling-based uncertainty. We show that our standard errors in general are smaller than the usual infinite-population sampling-based standard errors and provide conditions under which they coincide.

연구 동기 및 목표

• 모든 50개 미국 주 또는 모든 웹사이트 방문과 같이 전체 유한 모집단이 관측된 설정에서 표본 추출 기반 추론의 오용 문제를 해결하기 위해.
• 잠재적 결과가 반사적 개입 하에서 발생할 수 있도록 고려하는 설계 기반 불확실성 프레임워크를 체계화하기 위해.
• 표본 추출 기반 및 설계 기반 불확실성 양쪽 모두에서 유효한 표준 오차를 도출하여, 특히 유한 모집단 설정에서의 적용을 위해.
• 표본 크기가 모집단에 비해 클수록 설계 기반 표준 오차가 기존 표본 추출 기반 표준 오차보다 일반적으로 작아지는 것을 보여주기 위해.
• 랜덤 표본 추출 가정이 자연스럽지 않거나 적용되지 않는 관찰 연구 및 회귀 분석에서 추론의 이론적 기반을 마련하기 위해.

제안 방법

• 모집단을 고정된 것으로 간주하고, 불확실성의 원천을 랜덤 표본 추출이 아니라 다양한 개입 하에서의 잠재 결과로 간주하는 프레임워크를 개발한다.
• 가상의 개입 하에서의 추정 대비의 분산을 기반으로 한 설계 기반 표준 오차를 도입한다.
• 잠재 결과 프레임워크(예: Y_i(1), Y_i(0))를 사용하여 추정량을 정의하고 설계 기반 추론 하에서 점근적 분산 추정량을 유도한다.
• 설계 기반 이방성과 이방성에 강건한 추론을 고려하는 강건한 분산 추정량(예: EHW 유형)을 도출한다.
• 마팅게일 및 경험 과정의 추론을 사용하여 약한 모멘트 조건 및 모멘트 조건 하에서 추정량의 점근 정규성과 일致성(consistency)을 확립한다.
• 규칙성 조건 하에서 분산 추정량(예: Δ̂_n^Z)이 그들의 모집단 한계값으로 수렴함을 보이며, 이는 타당한 추론을 보장한다.

실험 결과

연구 질문

• RQ1 모든 유한 모집단이 관측된 경우(예: 미국의 모든 50개 주), 회귀 분석에서 표준 오차의 올바른 해석은 무엇인가?
• RQ2 모집단이 유한한 설정에서 설계 기반 표준 오차는 기존 표본 추출 기반 표준 오차와 어떻게 비교되는가?
• RQ3 설계 기반 표준 오차와 표본 추출 기반 표준 오차가 일치하는 조건은 무엇인가?
• RQ4 강건한 분산 추정량은 설계 기반 불확실성을 고려하기 위해 어떻게 적응시킬 수 있는가?
• RQ5 모집단이 고정되어 있고 잠재 결과의 일부만 관측되는 경우 설계 기반 추론 하에서 추정량의 점근적 성질은 무엇인가?

주요 결과

• 표본 크기가 모집단에 비해 클수록 설계 기반 표준 오차는 일반적으로 기존 표본 추출 기반 표준 오차보다 작다.
• 제안된 설계 기반 표준 오차는 주 수준 또는 웹사이트 방문 데이터와 같이 전체 유한 모집단이 관측된 경우에도 유효하다.
• 이 프레임워크는 표본 추출 기반 및 설계 기반 불확실성을 통합하여, 양쪽의 변동성을 모두 반영한 추론을 가능하게 한다.
• 규칙성 조건 하에서 제안된 분산 추정량(예: Δ̂_n^Z)은 일致성(consistency)을 보이며, 그들의 모집단 한계값으로 확률 수렴한다.
• 행렬 부등식 Δ^cond ≤ Δ^Z ≤ Δ^ehw 가 극한에서 성립하여, 설계 기반 조정이 이방성에 강건한 추정량보다 분산을 줄임을 보여준다.
• 이 논문은 모집단이 고정되어 있고 개입 하에서의 잠재 결과만 관심 대상인 경우에도 설계 기반 추론이 점근적으로 타당하다는 것을 입증한다.