[논문 리뷰] Regression approaches for Approximate Bayesian Computation

Michaël G. B. Blum|arXiv (Cornell University)|2017. 07. 05.

Markov Chains and Monte Carlo Methods참고 문헌 17인용 수 4

한 줄 요약

이 논문은 근사 베이지안 계산(ABC)을 위한 회귀 방법을 평가하며, 선형이고 등분산(homoscedastic)인 회귀 조정이 신뢰구간을 좁히고 사후 평균을 더 생물학적으로 타당한 값으로 이동시켜 사후 추정을 크게 향상시킨다는 것을 입증한다. 특히 나비의 SNP 데이터를 이용한 혼합 유전자 분석에서 그러한 효과가 두드러지며, 교차 검증을 통해 거절 기반 방법이나 비선형 방법에 비해 최적의 조정 전략을 선별할 수 있다.

ABSTRACT

This book chapter introduces regression approaches and regression adjustment for Approximate Bayesian Computation (ABC). Regression adjustment adjusts parameter values after rejection sampling in order to account for the imperfect match between simulations and observations. Imperfect match between simulations and observations can be more pronounced when there are many summary statistics, a phenomenon coined as the curse of dimensionality. Because of this imperfect match, credibility intervals obtained with regression approaches can be inflated compared to true credibility intervals. The chapter presents the main concepts underlying regression adjustment. A theorem that compares theoretical properties of posterior distributions obtained with and without regression adjustment is presented. Last, a practical application of regression adjustment in population genetics shows that regression adjustment shrinks posterior distributions compared to rejection approaches, which is a solution to avoid inflated credibility intervals.

연구 동기 및 목표

• 거절 기반 ABC에서 흔히 발생하는 넓은 신뢰구간 문제를 완화함으로써 근사 베이지안 계산(ABC)에서 사후 추정을 향상시키기 위해.
• 특히 선형 및 등분산 조정이 표준 거절 기반 ABC에 비해 더 나은 사후 추정치를 제공하는지 평가하기 위해.
• 핵심 방법과 분位수 회귀 숲과 같은 고급 회귀 기법이 ABC에서 어떻게 성능을 발휘하는지 평가하기 위해.
• 교차 검증 오차 기준을 활용해 ABC 사용자가 최적의 회귀 조정을 선택할 수 있도록 안내하기 위해.
• 회귀 조정이 사후 추정치를 의미적으로 이동시켜 기존 생물학적 발견과 일치시킬 수 있음을 입증하기 위해.

제안 방법

• 관측된 요약 통계량을 바탕으로 매개변수를 추정하는 데 있어 예측 오차를 기준으로 회귀 조정 전략을 교차 검증을 통해 평가하고 선택한다.
• 모의 시뮬레이션된 매개변수를 요약 통계량으로 매핑하기 위해 선형 회귀 조정을 적용하며, 관측된 요약 통계량의 선형 함수로 사후 평균을 추정한다.
• 재생 핵심 힐버트 공간에서 비선형 회귀를 수행하기 위해 커널 방법을 활용하며, 관측된 요약 통계량과 모의 요약 통계량을 비교하는 데 핵심 함수를 사용한다.
• 정규화되지 않은 허용 오차를 필요로 하지 않는 분위수 회귀 숲을 활용하여 사후 분포 전체를 추정하며, 랜덤 포레스트 가중치를 이용해 사후 분위수를 추론한다.
• 등분산과 이분산 조정을 비교함으로써 분산 이질성 모델링이 성능 향상에 기여하는지 평가한다.
• 실제 나비 종 복합체의 SNP 데이터를 활용해 혼합 비율을 추정하기 위해 회귀 조정 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 표준 거절 기반 ABC에 비해 ABC에서의 회귀 조정이 사후 불확실성을 줄이고 추정 정확도를 향상시키는가?
• RQ2 선형, 비선형, 등분산, 이분산 등 다양한 회귀 조정 방법이 교차 검증 오차와 사후 성능 측면에서 어떻게 비교되는가?
• RQ3 고차원 요약 통계량 환경에서는 커널 기반 회귀 방법이 선형 회귀보다 뛰어난 성능을 보일 수 있는가?
• RQ4 회귀 조정이 거절 기반 결과에서 사후 추정치를 얼마나 많이 이동시키며, 그 이동이 외부 생물학적 증거와 일치하는가?
• RQ5 ABC에서 회귀 조정을 선택하는 데 있어 일반적인 최적 실천 방법이 존재하는가, 아니면 모델 및 데이터 구조에 따라 달라지는가?

주요 결과

• 선형 등분산 회귀 조정은 거절 기반 ABC에 비해 교차 검증 오차를 크게 감소시켜 예측 성능 향상을 시사한다.
• 혼합 비율 $p$에 대한 사후 평균은 거절 기반의 0.51에서 선형 등분산 조정 시 0.93으로 이동하였으며, 95% 신뢰구간은 (0.86, 0.98)로, C. arcania의 기여도에 대한 강력한 지지를 나타낸다.
• 비선형 등분산 조정은 사후 평균 0.84(95% C.I. = (0.69, 0.93))를 기록하여 선형 조정보다 다소 낮지만 여전히 상당한 기여도를 반영한다.
• 회귀 조정은 신뢰구간을 좁히는 것 외에도 사후 추정치를 기존 연구 결과와 일치하는 값으로 이동시켜 생물학적 타당성을 높였다.
• 고차원 요약 통계량 환경에서는 커널 ABC가 회귀 조정을 능가했으며, 동일한 정확도를 확보하기 위해 필요한 시뮬레이션 수가 적었다.
• 분위수 회귀 숲은 허용 오차 설정이 필요로 하지 않으며, 공통 모델 시뮬레이션에서 회귀 조정에 비해 과도한 수축 현상이 적어 분포 추정에 있어 뛰어난 내성성을 보였다.