[논문 리뷰] A reversible infinite HMM using normalised random measures

Konstantina Palla, David A. Knowles외 1명|arXiv (Cornell University)|2014. 03. 17.

Bayesian Methods and Mixture Models참고 문헌 13인용 수 5

한 줄 요약

이 논문은 비모수적 사전분포를 사용하여 가역 마코프 체인에 대해 제안하며, 특히 감마 과정을 이용해 가산 무한한 대칭 전이 행렬을 구성함으로써 세부 균형 조건을 보장한다. 이 방법은 생물학적 및 물리적 시스템에서의 시간 역행 동역학을 고려한 효율적인 MCMC 추론을 가능하게 하여, 에피제놈 및 이온 채널 데이터셋에서 비가역적이고 표준 iHMM 모델보다 뛰어난 성능을 보인다.

ABSTRACT

We present a nonparametric prior over reversible Markov chains. We use completely random measures, specifically gamma processes, to construct a countably infinite graph with weighted edges. By enforcing symmetry to make the edges undirected we define a prior over random walks on graphs that results in a reversible Markov chain. The resulting prior over infinite transition matrices is closely related to the hierarchical Dirichlet process but enforces reversibility. A reinforcement scheme has recently been proposed with similar properties, but the de Finetti measure is not well characterised. We take the alternative approach of explicitly constructing the mixing measure, which allows more straightforward and efficient inference at the cost of no longer having a closed form predictive distribution. We use our process to construct a reversible infinite HMM which we apply to two real datasets, one from epigenomics and one ion channel recording.

연구 동기 및 목표

• 물리적 및 생물학적 시스템에서 시간 역행 역학을 고려한 가역 마코프 체인에 대한 비모수적 사전분포를 개발한다.
• 세부 균형을 명시적으로 강제하는 무한 전이 행렬에 대한 사전분포를 구성하여, 점근적 또는 히우리스틱 강화 기법에 의존하지 않고도 가역성을 보장한다.
• 기존 모델에서의 폐형 예측 분포의 한계를 극복하고, 가역 무한 HMM에서 효율적인 베이지안 추론을 가능하게 하는 MCMC를 제공한다.
• 이온 채널 기록 및 에피제놈 데이터처럼 가역성이 알려진 물리적 제약 조건이 존재하는 실제 데이터셋에서 모델을 검증한다.
• 가역성을 사전 제약 조건으로 포함시킬 경우 예측 성능 향상과 모델 캘리브레이션 향상이 이루어지는지 입증한다.

제안 방법

• 감마 과정을 사용하여 무향 그래프 위에서 가산 무한한 상태와 간선 가중치를 생성함으로써 전이 확률의 대칭성을 보장한다.
• 간선 가중치를 정규화하여 세부 균형 조건을 만족하는 가역 전이 행렬을 구성한다.
• 기저 측도로 르베그 측도를 사용하고, 레비 측도를 멱법 강도로 정의하여 무한 지지도를 확보하는 계층적 구성 방식을 적용한다.
• 결과로 도출된 사전분포를 은닉 마코프 모델(HMM)에 적용하며, 연속형 및 이산형 데이터에 대한 상태 의존 관측 모델을 사용한다.
• 잠재 상태 및 파라미터 갱신을 위해 게이블스 샘플링과 HMC 또는 NUTS를 결합하여 효율적인 사후 탐색을 가능하게 한다.
• 프로세스의 교환 가능성을 특성화하고 전이 행렬에 대한 교환 가능 사전분포의 정당성을 제시하기 위해 데 피네티 표현을 사용한다.

실험 결과

연구 질문

• RQ1 정규화된 무작위 측도를 사용하여 무한하고 가역적인 마코프 체인에 대해 명시적인 비모수적 사전분포를 구성할 수 있는가?
• RQ2 사전분포에서 가역성을 강제할 경우, 시간 역행 역학이 알려진 실제 데이터셋에서 예측 성능이 향상되는가?
• RQ3 기존의 비모수적 HMM, 예를 들어 iHMM 및 간선 강화 랜덤 워크와 비교했을 때, 제안된 방법은 추론 효율성과 모델 적합도 측면에서 어떻게 다른가?
• RQ4 이온 채널 기록과 같은 복잡하고 고주파의 생물학적 시계열에 대해 이 모델을 효과적으로 적용할 수 있는가?
• RQ5 HMC 또는 NUTS의 사용이 가역 HMM 프레임워크 내 사후 추론에 어떤 영향을 미치는가?

주요 결과

• 가역 SHGP-HMM은 테스트 로그우도(2.034 대비 1.970)와 테스트 오차(0.030 대비 0.033)에서 비가역 HGP-HMM을 뛰어넘지만, 유의미한 차이는 아니며 p=0.08이다.
• HMC를 사용할 경우 테스트 로그우도는 2.034 ± 0.058, NUTS를 사용할 경우 2.030 ± 0.062를 기록하여 이온 채널 데이터에서 강력한 예측 캘리브레이션을 보였다.
• 빔 샘플링을 사용한 iHMM는 훈련 오차(0.038 대비 0.023)와 테스트 오차, 로그우도(2.008 대비 2.034) 모두에서 가역 HGP-HMM보다 열 劣하여 명시적 가역성의 이점이 있음을 시사한다.
• 모델은 일반적으로 이온 채널 데이터셋에서 5~7개의 상태를 선택하며, 가장 흔한 전이는 저전류 상태 간에 발생하여 생물학적 기대와 일치한다.
• 누락 영역(-grayscale)에서의 예측 분산이 진짜 신호를 포함하고 있어, 상태 및 관측 분포의 불확실성을 잘 반영하고 있음을 확인하여 모델이 잘 校정되어 있음을 확인했다.
• HMC 또는 NUTS를 사용할 경우 성능에 유의미한 차이가 없어, MCMC 샘플링 방법의 선택에 대해 강건함을 보였다.