[논문 리뷰] Robust Bayesian Modeling of Counts with Zero inflation and Outliers: Theoretical Robustness and Efficient Computation

Yasuyuki Hamura, Kaoru Irie외 1명|arXiv (Cornell University)|2021. 06. 19.

Advanced Statistical Methods and Models참고 문헌 33인용 수 6

한 줄 요약

이 논문은 극단치와 과잉 제로를 포함한 카운트 데이터에 대해 새로운 스케일링된 베타(RSB) 분포를 사용하여 극단치와 과잉 제로의 영향을 흡수하는 강건한 베이지안 프레임워크를 제안한다. 이 방법은 효율적인 깁스 샘플링을 가능하게 하며, 이론적으로 사후 분포의 강건성을 확보하여, 그 메커니즘을 명시적으로 모델링하지 않더라도 이상치와 과잉 제로 관측치를 자동으로 가중치를 낮추며, 계층 모델에서 더 신뢰할 수 있는 추론을 가능하게 한다.

ABSTRACT

Count data with zero inflation and large outliers are ubiquitous in many scientific applications. However, posterior analysis under a standard statistical model, such as Poisson or negative binomial distribution, is sensitive to such contamination. This study introduces a novel framework for Bayesian modeling of counts that is robust to both zero inflation and large outliers. In doing so, we introduce rescaled beta distribution and adopt it to absorb undesirable effects from zero and outlying counts. The proposed approach has two appealing features: the efficiency of the posterior computation via a custom Gibbs sampling algorithm and a theoretically guaranteed posterior robustness, where extreme outliers are automatically removed from the posterior distribution. We demonstrate the usefulness of the proposed method by applying it to trend filtering and spatial modeling using predictive Gaussian processes.

연구 동기 및 목표

• 과잉 제로와 큰 이상치의 영향을 받는 카운트 데이터에 대해 강건한 통계 모델의 부족을 해결하기 위해.
• 극단치와 과잉 제로의 오염에도 정확성을 유지할 수 있는 계산적으로 효율적인 베이지안 방법을 개발하기 위해.
• 이론적으로 사후 강건성을 확보하여, 이상치가 모델 평균에서 더 멀어질수록 그 영향력이 감소하도록 하기 위해.
• 과잉 제로 또는 이상치 생성 메커니즘의 명시적 구조적 모델링을 피함으로써 통합된 모델링 접근법을 제공하기 위해.
• 데이터 오염 상황에서도 계층 모델(예: 공간 모델 및 혼합효과 회귀 모델)에서 신뢰할 수 있는 추론을 가능하게 하기 위해.

제안 방법

• 과잉 제로와 이상치의 영향을 흡수하기 위해, 포isson 비율 파라미터에 대한 탄력적이고 조건부 공액 사전분포로 스케일링된 베타(RSB) 분포를 도입한다.
• RSB 분포를 비율 파라미터의 강건한 사전분포로 사용하는 계층적 혼합 모델을 사용하며, 기존의 감마 또는 지수 분포 대신 표준 사전분포로 활용한다.
• 공간 모델 및 회귀 모델을 포함한 다양한 모델에서 효율적인 사후 계산을 가능하게 하는 맞춤형 깁스 샘플링 알고리즘을 개발한다.
• 잠재 변수 표현을 사용하여 혼합 비율 s를 모델링함으로써, 이상치 및 과잉 제로 관측치의 자동 식별을 가능하게 한다.
• 이론적으로 사후 강건성을 확립하기 위해, 극단적인 이상치의 영향력이 사후 분포에서 渐진적으로 소멸됨을 증명한다.
• 카운트 회귀, 국소 적응형 스무딩, 공간 포isson 회귀에 RSB 모델을 적용하여 광범위한 적용 가능성을 입증한다.

실험 결과

연구 질문

• RQ1 명시적인 오염 메커니즘 모델링 없이도, 단일 베이지안 모델이 과잉 제로와 과분산 카운트 데이터를 동시에 강건하게 다룰 수 있는가?
• RQ2 과잉 제로와 이상치가 존재하는 상황에서 계층 모델의 효율적인 사후 계산은 어떻게 달성할 수 있는가?
• RQ3 제안된 방법은 이상치가 점점 더 극단적이질수록 사후 추론이 안정성을 유지하는 등 이론적 강건성을 보여주는가?
• RQ4 오염 상황에서 표준 포isson 모델 및 음이이항모델에 비해 RSB 모델은 모델 적합도와 파라미터 추정에서 얼마나 뛰어난 성능을 보이는가?
• RQ5 사전 지식 없이도 모델이 이상치 및 과잉 제로 관측치를 자동으로 식별하고 가중치를 낮출 수 있는가?

주요 결과

• RSB 모델은 표준 포isson 모델의 DIC 13505보다 훨씬 낮은 DIC 8733을 기록하여 모델 적합도가 상당히 향상됨을 나타낸다.
• ηi > 10인 사후 중앙값은 12개의 위치를 극단적으로 이상치로 식별하였으며, 이는 포isson 모델이 포착하지 못했고, 공간 효과 추정치에 편향을 유발하였다.
• RSB 모델에서 공간 대역폭 파라미터 h의 사후 평균은 1.126이었고, 포isson 모델의 0.289보다 높아, 이상치 영향력 감소로 인해 더 매끄러운 공간 효과를 나타냈다.
• 포isson 모델에서 β1의 사후 신뢰구간은 0을 포함하였지만, RSB 모델에서는 0에서 벗어난 구간에 위치하여 추론의 핵심적인 차이를 보였다.
• β5의 사후 평균은 RSB 모델에서는 음수였지만, 포isson 모델에서는 양수였으며, 이는 이상치 민감도로 인한 추론의 상반된 결과를 보여주었다.
• RSB 모델의 혼합 비율 s의 트레이스 플롯은 수렴을 확인하였고, 데이터에 과잉 제로와 이상치가 존재함을 확인시켜 주었다.