[논문 리뷰] Bayesian Logistic Regression for Small Areas with Numerous Households

Balgobin Nandram, Lu Chen외 2명|arXiv (Cornell University)|2018. 06. 01.

Statistical Methods and Bayesian Inference참고 문헌 22인용 수 6

한 줄 요약

이 논문은 대규모 가구 데이터에서 소면적 추정을 위한 확장 가능한 베이지안 로지스틱 회귀 방법을 제안한다. 통합 내재 정규 근사(INNA)를 활용한 빠른 초모수 추론과 랜덤 효과에 대한 병렬 처리된 정확한 조건부 사후 분포 샘플링을 결합함으로써, 계산 부담을 줄이고 과도한 수축을 방지함으로써 네팔 생활수준 조사와 같은 설문조사에서 가구 수준의 건강 비율을 효율적이고 정확하게 추정할 수 있다.

ABSTRACT

We analyze binary data, available for a relatively large number (big data) of families (or households), which are within small areas, from a population-based survey. Inference is required for the finite population proportion of individuals with a specific character for each area. To accommodate the binary data and important features of all sampled individuals, we use a hierarchical Bayesian logistic regression model with each family (not area) having its own random effect. This modeling helps to correct for overshrinkage so common in small area estimation. Because there are numerous families, the computational time on the joint posterior density using standard Markov chain Monte Carlo (MCMC) methods is prohibitive. Therefore, the joint posterior density of the hyper-parameters is approximated using an integrated nested normal approximation (INNA) via the multiplication rule. This approach provides a sampling-based method that permits fast computation, thereby avoiding very time-consuming MCMC methods. Then, the random effects are obtained from the exact conditional posterior density using parallel computing. The unknown nonsample features and household sizes are obtained using a nested Bayesian bootstrap that can be done using parallel computing as well. For relatively small data sets (e.g., 5000 families), we compare our method with a MCMC method to show that our approach is reasonable. We discuss an example on health severity using the Nepal Living Standards Survey (NLSS).

연구 동기 및 목표

• 수많은 가구와 이진 결과를 가진 설문 데이터에서 소면적 비율을 추정하는 도전 과제를 해결한다.
• 수많은 랜덤 효과를 포함한 계층적 베이지안 로지스틱 회귀 모델을 적합할 때 표준 MCMC 방법의 계산 비가용성을 극복한다.
• 각 가구에 개별 랜덤 효과를 부여함으로써 소면적 추정에서의 과도한 수축을 줄인다.
• 시간이 오래 걸리는 MCMC 샘플링을 피하면서도 정확성을 유지하는 빠른 샘플링 기반 추론 방법을 개발한다.
• 병렬 처리를 통한 중첩 베이지안 부트스트랩을 활용해 샘플링된 가구와 비샘플링된 가구의 특성 모두를 추정할 수 있도록 한다.

제안 방법

• 가구 수준의 랜덤 효과를 포함한 계층적 베이지안 로지스틱 회귀 모델을 사용하여 내부 및 가구 간 변동성을 포착한다.
• 확률의 곱셈 법칙을 통해 초모수의 공동 사후 밀도를 통합 내재 정규 근사(INNA)로 근사한다.
• 전체 MCMC 샘플링을 피하기 위해 INNA에 샘플링 기반 접근법을 적용하여 계산 시간을 크게 단축시킨다.
• 병렬 처리를 통해 랜덤 효과의 정확한 조건부 사후 분포를 계산함으로써 추정 정확도를 유지한다.
• 비샘플링된 가구의 특성과 크기를 추정하기 위해 병렬 처리된 중첩 베이지안 부트스트랩을 사용한다.
• 표본 비율이 극단적일 경우(예: 1 또는 0) 사후 모드 추정에서 수치적 불안정성을 방지하기 위해 경험적 로지스틱 변환(ELT) 조정을 통합한다.

실험 결과

연구 질문

• RQ1 대규모 가구 수를 가진 소면적 설문 데이터에 대해 베이지안 로지스틱 회귀를 효율적으로 적용할 수 있는 방법은 무엇인가?
• RQ2 통합 내재 정규 근사(INNA)는 계층적 로지스틱 모델에서 초모수 추론에 있어 MCMC의 계산 가능 대안이 될 수 있는가?
• RQ3 각 가구에 개별 랜덤 효과를 부여함으로써 지역 수준의 랜덤 효과보다 소면적 추정에서 과도한 수축을 어떻게 줄일 수 있는가?
• RQ4 제안된 방법은 전체 MCMC에 비해 가구 수준의 비율 추정에서 정확성과 정밀도를 어느 정도 유지하는가?
• RQ5 대규모 설문 데이터에서 랜덤 효과 및 비샘플링된 가구 특성의 추정을 가속화하기 위해 병렬 처리를 효과적으로 활용할 수 있는가?

주요 결과

• 제안된 INNA 기반 방법은 대규모 가구를 포함한 계층적 베이지안 로지스틱 회귀 모델에서 초모수 추론에 있어 MCMC에 대한 계산적으로 효율적인 대안을 제공한다.
• 각 가구에 개별 랜덤 효과를 할당함으로써 과도한 수축을 성공적으로 방지하여 소면적 추정 정확도를 향상시킨다.
• 상대적으로 작은 데이터셋(예: 5,000가구)에 대해서도 제안된 방법이 전체 MCMC와 유사한 추정치와 표준오차를 생성하여 그 타당성을 입증한다.
• 병렬 처리를 통해 랜덤 효과의 정확한 조건부 사후 분포와 비샘플링 특성에 대한 중첩 베이지안 부트스트랩을 신속하게 계산할 수 있어 방법의 확장 가능성을 확보한다.
• 경험적 로지스틱 변환(ELT) 조정을 통해 표본 비율이 1 또는 0일 경우 사후 모드 추정에서 수치적 불안정성을 방지한다.
• 실제 네팔 생활수준 조사(NLSS) 데이터를 활용한 사례에서 이 방법이 가구 수준의 건강 비율을 효과적으로 추정할 수 있음을 입증하였다.