[논문 리뷰] Great Expectations: EM Algorithms for Discretely Observed Linear Birth-Death-Immigration Processes

Charles R. Doss, Marc A. Suchard외 3명|arXiv (Cornell University)|2010. 09. 05.

Evolution and Genetic Dynamics참고 문헌 32인용 수 1

한 줄 요약

이 논문은 이산 시간, 비정규 간격으로 관측되는 선형 생애-사멸-이민 과정의 파라미터 추정을 위한 두 가지 새로운 EM 알고리즘을 제안한다. 생애 또는 이민 비율이 제약 조건이 있을 경우(영이거나 생애 비율에 비례할 경우), 켄달의 생성함수를 사용하여 E단계를 일변량 적분으로 줄여 빠르고 정확한 추정을 가능하게 한다; 일반적인 경우는 유한 상태 마르코프 체인을 위한 직접 샘플러를 사용하는 몬테카를로 EM 방법을 적용하며, 시뮬레이션 데이터에서 검증되었고, 미세박테리아 흑색균(Mycobacterium tuberculosis) 내 전위성 요소의 동역학에 적용되었다.

ABSTRACT

Abstract Estimating parameters of continuous-time linear birth-death-immigration processes, observed discretely at unevenly spaced time points, is a recurring theme in statistical analyses of population dynamics. Viewing this task as a missing data problem, we develop two novel expectation-maximization (EM) algorithms. When birth rate is zero or immigration rate is either zero or proportional to the birth rate, we use Kendall’s generating function method to reduce the E-step of the EM algorithm, as well as calculation of the Fisher information, to one dimensional integration. This reduction results in a simple and fast implementation of the EM algorithm. To tackle the unconstrained birth and immigration rates, we extend a direct sampler for finite-state Markov chains and use this sampling procedure to develop a Monte Carlo EM algorithm. We test our algorithms on simulated data and then use our new methods to explore the birth and death rates of a transposable element in the genome of Mycobacterium tuberculosis, the causative agent of tuberculosis.

연구 동기 및 목표

• 관측이 이산적이고 비정규 간격일 경우 연속 시간 선형 생애-사멸-이민 과정의 파라미터 추정 문제를 해결하기 위해.
• 파라미터 추정 문제를 EM 알고리즘적 해법이 가능한 누락된 자료 문제로 재구성하기 위해.
• 이민 비율이 영이거나 생애 비율에 비례하는 특정 제약 조건 하에서 켄달의 생성함수 방법을 사용하여 계산 효율성이 높은 EM 알고리즘을 개발하기 위해.
• 생애 및 이민 비율이 제약 없이 일반적인 경우를 다루기 위해 유한 상태 마르코프 체인을 위한 직접 샘플러를 사용하는 방법을 확장하기 위해.
• 시뮬레이션 데이터에서 방법을 검증하고, 실제로 미세박테리아 흑색균(Mycobacterium tuberculosis)의 게놈 데이터에 적용하기 위해.

제안 방법

• 관측 시간 간의 미관측된 과정 경로를 고려하여 생애, 사멸, 이민 비율의 추정을 누락된 자료 문제로 설정하고, EM 알고리즘을 사용하여 처리하기 위해.
• 생애 비율이 0이거나 이민 비율이 0이거나 생애 비율에 비례하는 경우, 켄달의 생성함수를 적용하여 E단계를 일변량 적분으로 단순화한다.
• 동일한 생성함수 접근법을 사용하여 일변량 적분을 통해 피셔 정보 행렬을 효율적으로 계산한다.
• 일반적인 생애 및 이민 비율이 제약 없이 존재하는 비제약 케이스의 경우, 유한 상태 연속 시간 마르코프 체인을 위한 직접 샘플링 절차를 사용하는 몬테카를로 EM 알고리즘을 구현한다.
• 관측점 사이의 잠재 경로를 거부 기반 직접 샘플러를 사용하여 샘플링하여, EM 알고리즘의 E단계에서의 확률적 근사치를 가능하게 한다.
• 수렴할 때까지 E단계(샘플된 경로 하에 예상 완전 데이터 로그우도)와 M단계(기대 로그우도의 최대화)를 반복한다.

실험 결과

연구 질문

• RQ1 생애 또는 이민 비율이 생애 비율에 비례하거나 0으로 제약될 경우, EM 알고리즘의 E단계를 단순화할 수 있는가?
• RQ2 켄달의 생성함수를 통한 일변량 적분을 어떻게 활용하여 생애-사멸-이민 과정에서의 EM 계산 속도를 향상시킬 수 있는가?
• RQ3 생애 및 이민 비율이 모두 제약 없이 일반적인 경우에 E단계를 위한 효과적인 몬테카를로 근사 전략은 무엇인가?
• RQ4 비정규 관측 간격을 가진 시뮬레이션 데이터에서 제안된 EM 알고리즘이 정확도와 계산 속도 측면에서 어떻게 성능을 내는가?
• RQ5 제안된 방법은 실제로 미세박테리아 흑색균(Mycobacterium tuberculosis)의 게놈 데이터에서 의미 있는 생물학적 동역학, 예를 들어 전위성 요소의 증식을 탐지할 수 있는가?

주요 결과

• 켄달의 생성함수를 사용한 EM 알고리즘은 특정 비율 제약 조건 하에서 E단계를 일변량 적분으로 줄여 계산 효율성을 크게 향상시킨다.
• 동일한 일변량 적분을 통해 피셔 정보 행렬을 효율적으로 계산할 수 있으며, 표준 오차 추정이 가능해진다.
• 유한 상태 마르코프 체인을 위한 직접 샘플러를 사용하는 몬테카를로 EM 알고리즘은 일반적인 생애 및 이민 비율이 존재하는 비제약 케이스에 대한 견고한 해결책을 제공한다.
• 시뮬레이션 결과로 제안된 알고리즘이 빠른 수렴과 낮은 계산 오버헤드를 동반하여 정확한 파라미터 추정을 달성함을 입증하였다.
• 미세박테리아 흑색균 데이터에 적용한 결과, 게놈 내 전위성 요소의 동역학에 대해 비트리비얼한 생애 및 사멸 과정이 존재함을 시사하였다.