[논문 리뷰] Probability and Non-Probability Samples: Improving Regression Modeling by Using Data from Different Sources

Gerhard Tutz|arXiv (Cornell University)|2022. 04. 03.

Forecasting Techniques and Applications인용 수 5

한 줄 요약

이 논문은 비확률 표본 데이터를 확률 표본에 통합하여 회귀 계수 추정을 향상시키는 방법을 제안한다. 비확률 표본 관측치가 목표 집단에서 유래할 가능성이 높은지를 식별하고 포함하기 위해 잔차를 활용한다. 진단 잔차와 적응형 부트스트랩 기법을 활용함으로써 표준 오차를 감소시키고 추정 정확도를 향상시키며, 특히 인접 국가와 같은 유사 집단의 데이터를 통합할 경우에 효과적이다.

ABSTRACT

Non-probability sampling, for example in the form of online panels, has become a fast and cheap method to collect data. While reliable inference tools are available for classical probability samples, non-probability samples can yield strongly biased estimates since the selection mechanism is typically unknown. We propose a general method how to improve statistical inference when in addition to a probability sample data from other sources, which have to be considered non-probability samples, are available. The method uses specifically tailored regression residuals to enlarge the original data set by including observations from other sources that can be considered as stemming from the target population. Measures of accuracy of estimates are obtained by adapted bootstrap techniques. It is demonstrated that the method can improve estimates in a wide range of scenarios. For illustrative purposes, the proposed method is applied to two data sets.

연구 동기 및 목표

• 모르게 선택된 메커니즘이 존재하는 비확률 표본으로 인한 편향된 추정을 해결하기 위해.
• 대표성 있는 확률 표본이 확보된 상황에서 비확률 자료원에서의 데이터를 통합함으로써 회귀 계수 추정을 향상시키는 방법을 개발하기 위해.
• 적응형 부트스트랩 기법을 활용해 표준 오차를 신뢰할 수 있는 프레임워크로 추정하기 위해.
• 다양한 데이터 시나리오, 특히 국경을 초월한 설문 조사 데이터에서 이 방법의 효과성을 입증하기 위해.

제안 방법

• 확률 표본에서 산출된 잔차를 활용해 비확률 표본 관측치가 목표 집단과 얼마나 유사한지를 평가한다.
• 라벨이 부여된 학습 세트가 필요 없이 잔차 패턴을 기반으로 비확률 표본 관측치를 목표 집단에서 유래할 가능성이 있는 것으로 분류한다.
• 확률 표본의 분포와 일치하는 잔차를 보이는 관측치만 선택하고 포함시킨다.
• 확률 표본과 선택된 비확률 관측치를 통합한 데이터셋에 대해 최소제곱 회귀를 적용한다.
• 표준 오차와 신뢰구간을 추정하기 위해 재스케일링된 부트스트랩 절차를 사용한다.
• 적절한 잔차 정의를 사용해, 정규화된 추정기와 일반선형 및 가속모형 등 더 넓은 모델 유형으로 이 방법을 확장한다.

실험 결과

연구 질문

• RQ1 확률 표본이 확보된 상황에서 비확률 표본 데이터를 안정적으로 회귀 모델에 통합할 수 있는가?
• RQ2 어떻게 회귀 잔차를 활용해 목표 집단과 유사한 비확률 표본 관측치를 식별할 수 있는가?
• RQ3 유사 집단(예: 인접 국가)의 데이터를 통합할 경우 회귀 추정 정확도와 표준 오차 감소에 어떤 영향을 미치는가?
• RQ4 확률 표본과 비확률 표본을 통합할 경우 표준 오차를 안정적으로 추정할 수 있는가?
• RQ5 이 방법은 감소 추정기와 일반선형 모형과 같은 확장된 모형으로 일반화될 수 있는가?

주요 결과

• 바이어른의 데이터셋에서 빌런트라인과 헤세와 같은 인접국의 데이터를 통합함으로써 회귀 계수의 표준 오차가 감소하였으며, 특히 한 개의 인접국 데이터를 추가했을 때 가장 뚜렷한 향상이 관찰되었다.
• 바이어른의 경우, 연령과 성별 계수의 표준 오차는 바이어른 데이터만 사용했을 때 0.005와 0.193에서 바이어른-뷔르템베르크 데이터를 추가한 후 0.004와 0.166로 감소하였다.
• 베를린을 목표 집단으로 삼았을 때, 성별과 연령 계수의 표준 오차는 브란덴부르크 데이터를 통합한 후 각각 0.452와 0.011에서 0.429와 0.010으로 감소하였다.
• 강화된 추정치는 인접국 데이터를 통합할 경우 더 높은 안정성을 보였으며, 다양한 모델 사양에서도 파ameter 추정치가 일관되게 유지되었다.
• 확률 표본에서 이상치를 제거한 경우에도 계수 추정치가 일관되게 유지되어 데이터 품질 변동에 대한 강건성을 입증하였다.
• 부트스트랩 기반 표준 오차 추정은 신뢰할 수 있는 추론을 제공하였으며, 시뮬레이션 및 실증 설정 모두에서 분산 추정치의 왜곡이 최소화되었다.