[논문 리뷰] Gaussian process modeling in approximate Bayesian computation to estimate horizontal gene transfer in bacteria

Marko Järvenpää, Michael U. Gutmann외 2명|arXiv (Cornell University)|2016. 10. 20.

Gaussian Processes and Bayesian Inference참고 문헌 49인용 수 4

한 줄 요약

이 논문은 계산 비용이 높고 제한된 모델 평가가 가능한 약간의 모델 평가로도 사후 추정 정확도를 향상시키기 위해 약간의 베이지안 계산(ABC)에서 오차 측정치의 가우시안 프로세스(GP) 모델링을 제안한다. 다양한 GP 설정—변환과 입력에 의존하는 노이즈를 포함—을 비교함으로써, 모델 선택이 정확도에 결정적인 영향을 미치며, 특히 로그 변환된 오차 측정치와 입력에 의존하는 GP가 박테리아의 수평적 유전자 이행 모델에서 가장 신뢰할 수 있는 결과를 도출함을 입증한다.

ABSTRACT

Approximate Bayesian computation (ABC) can be used for model fitting when the likelihood function is intractable but simulating from the model is feasible. However, even a single evaluation of a complex model may take several hours, limiting the number of model evaluations available. Modelling the discrepancy between the simulated and observed data using a Gaussian process (GP) can be used to reduce the number of model evaluations required by ABC, but the sensitivity of this approach to a specific GP formulation has not yet been thoroughly investigated. We begin with a comprehensive empirical evaluation of using GPs in ABC, including various transformations of the discrepancies and two novel GP formulations. Our results indicate the choice of GP may significantly affect the accuracy of the estimated posterior distribution. Selection of an appropriate GP model is thus important. We formulate expected utility to measure the accuracy of classifying discrepancies below or above the ABC threshold, and show that it can be used to automate the GP model selection step. Finally, based on the understanding gained with toy examples, we fit a population genetic model for bacteria, providing insight into horizontal gene transfer events within the population and from external origins.

연구 동기 및 목표

• 모델 평가가 계산적으로 비용이 많이 들고 희소한 상황에서 ABC에서 정확한 사후 추정을 달성하는 데 도전한다.
• 제한된 데이터 하에서 다양한 가우시안 프로세스 설정이 ABC 추론 정확도에 미치는 영향을 조사한다.
• GP 기반 ABC에 대한 체계적인 모델 선택 도구를 개발하고 평가하여 최적의 오차 모델링 접근 방식을 자동으로 선택할 수 있도록 한다.
• 이 방법을 박테리아에서의 수평적 유전자 이행에 대한 현실적인 인구 유전 모델에 적용하여 핵심 진화적 매개변수를 추정한다.
• 적은 수의 시뮬레이션으로도 근사 오차를 최소화할 수 있는 GP 모델 및 변환 선택에 대한 경험적 지침을 제공한다.

제안 방법

• 모델링된 데이터와 관측된 데이터 간의 오차를 가우시안 프로세스로 모델링하여, 정보가 풍부한 매개변수 평가를 효율적으로 선택하기 위해 베이지안 최적화를 적용한다.
• 표준 GP, 입력에 의존하는 노이즈 GP, 분류기 기반 GP 등 다양한 GP 설정을 평가하여, 오차의 비상수 분산과 비정규성에 대응한다.
• 오차 값에 제곱근, 로그, 제곱 변환을 적용하여 GP 피팅을 향상시키고 왜도 또는 이방산성(이종분산성)을 감소시킨다.
• 오차가 ABC 임계값 기준으로 분류 정확도에 따라 최적의 GP 모델을 객관적으로 선택하기 위해 기대 효용을 지표로 사용한다.
• 선택된 GP 모델을 ABC에 통합하여 반복적인 고비용 시뮬레이션 없이도 사후 분포를 해석적으로 계산한다.
• Marttinen 등(2015)의 연구에서 얻은 실제 박테리아 인구 유전 모델을 사용하여 접근 방식을 검증한다.

실험 결과

연구 질문

• RQ1 표준 GP 대비 입력에 의존하는 노이즈를 가진 GP 설정의 선택이 ABC 사후 추정 정확도에 어떤 영향을 미치는가?
• RQ2 오차에 대한 변환(예: 로그, 제곱근, 제곱) 중 어느 것이 ABC에서 가장 정확한 GP 근사치를 제공하는가?
• RQ3 기대 효용은 ABC 추론에서 최적의 GP 모델을 자동으로 선택하는 신뢰할 수 있는 기준으로 사용될 수 있는가?
• RQ4 비정규성과 이방산성(이종분산성)을 보이는 오차가 GP 기반 ABC에 어떤 영향을 미치며, 이러한 문제를 완화하기 위한 모델링 전략은 무엇인가?
• RQ5 1,000번 이하의 모델 평가로도 GP 향상된 ABC를 통해 수평적 유전자 이행 동역학에 대한 신뢰할 수 있는 통찰을 얻을 수 있는가?

주요 결과

• 오차의 분산이 매개변수 공간 전반에서 이방산성(이종분산성)을 보일 경우, 입력에 의존하는 GP 모델이 표준 GP에 비해 사후 추정 정확도를 크게 향상시킨다.
• 로그 변환된 오차는 다른 변환보다 일관되게 뛰어난 성능을 보였으며, 제곱근 변환 역시 강력한 결과를 도출했고, 제곱 변환은 비정규성과 분산 의존성으로 인해 악화된 GP 피팅을 초래했다.
• 어느 한 GP 설정도 항상 다른 설정보다 뛰어나지 않았으며, 성능은 데이터 특성에 따라 달라졌고, 이는 모델 선택의 필요성을 강조한다.
• 기대 효용은 최적의 GP 모델을 선택하는 데 있어 신뢰할 수 있고 자동화된 방법을 제공했으며, 시뮬레이션 수가 증가할수록 정확도가 향상되었다.
• 박테리아 수평적 유전자 이행 모델에서, 이 방법은 삭제보다 훨씬 더 많은 유전자 획득 수를 유의미하게 추정했으며, 게놈 확장을 제한하는 선택 압력이 있음을 시사한다.
• 이 연구는 처음으로 시뮬레이션 기반 추정치를 통해 인구 내부와 외부의 유전자 이행 사건 비율을 산정했으며, 대부분의 이행이 서로 가까운 계통 간에 발생한다는 경험적 기대를 뒷받침한다.