[논문 리뷰] Lumpings of Markov chains and entropy rate loss

Bernhard C. Geiger, Christoph Temmel|arXiv (Cornell University)|2012. 12. 18.

Alzheimer's disease research and treatments참고 문헌 21인용 수 3

한 줄 요약

이 논문은 유한 상태 공간 위의 비주기적이고 기약가능한 마르코프 체인의 뭉치에 대한 엔트로피 속도 유지 조건을 사전 이미지 성장률과 복원 정보에 기반한 조합 기준을 사용하여 특성화한다. 양의 전이 행렬을 가진 체인의 비자명한 뭉치는 항상 엔트로피 속도 손실을 초래하며, 희박한 설정에서 엔트로피 속도 유지 및 강한 k-뭉치 가능성의 조건을 제공한다.

ABSTRACT

A lumping of a Markov chain is a coordinate-wise projection of the chain. We characterise the entropy rate preservation of a lumping of an aperiodic and irreducible Markov chain on a finite state space by the random growth rate of the cardinality of the realisable preimage of a finite-length trajectory of the lumped chain and by the information needed to reconstruct original trajectories from their lumped images. Both are purely combinatorial criteria, depending only on the transition graph of the Markov chain and the lumping function. Every non-trivial lumping of a Markov chain with positive transition matrix incurs an entropy rate loss. A lumping is strongly k-lumpable, iff the lumped process is a k-th order Markov chain, for each starting distribution of the original Markov chain. We characterise strongly k-lumpable lumpings via tightness of stationary entropic bounds. In the sparse setting, we give sufficient conditions on the lumping to both preserve the entropy rate and be strongly k-lumpable.

연구 동기 및 목표

• 비주기적이고 기약가능한 마르코프 체인의 유한 상태 공간에서의 뭉치가 엔트로피 속도를 유지하는 조건을 특성화하는 것.
• 엔트로피 속도 유지 조건을 결정하는 조합 기준—사전 이미지의 기수 성장률과 복원 정보—을 규명하는 것.
• 뭉친 과정가 항상 원래 체인의 임의의 초기 분포에 대해 k-차 마르코프 체인이 되는 조건, 즉 강한 k-뭉치 가능성의 조건을 분석하는 것.
• 희박한 설정에서 엔트로피 속도 유지와 강한 k-뭉치 가능성 둘 다를 만족하는 뭉치에 대한 충분한 조건을 설정하는 것.

제안 방법

• 뭉친 체인의 유한 길이 궤적의 사전 이미지 기수의 무작위 성장률을 엔트로피 속도 유지의 조합 기준으로 사용한다.
• 뭉친 이미지로부터 원래 궤적을 복원하기 위해 필요한 정보를 엔트로피 속도 유지의 두 번째 조합 기준으로 도입한다.
• 강한 k-뭉치 가능성은 원래 체인의 임의의 초기 분포에 대해 뭉친 과정가 k-차 마르코프 체인이 되는 성질로 정의한다.
• 정적 엔트로피 경계의 타이트함을 통한 강한 k-뭉치 가능성 뭉치의 특성화를 수립한다.
• 이러한 기준을 희박한 마르코프 체인에 적용하여 엔트로피 속도 유지 및 강한 k-뭉치 가능성에 대한 충분한 조건을 도출한다.

실험 결과

연구 질문

• RQ1 전이 그래프와 뭉치 함수에 대한 어떤 조합 조건이 마르코프 체인의 뭉치에서 엔트로피 속도 유지 조건을 만족하는가?
• RQ2 궤적의 사전 이미지 기수 성장률은 뭉친 마르코프 체인에서 엔트로피 속도 유지와 어떻게 관련되는가?
• RQ3 원래 궤적을 복원하기 위해 필요한 정보는 뭉치에서 엔트로피 속도 손실과 어떤 관계가 있는가?
• RQ4 언제 뭉치가 강한 k-뭉치 가능성이 되며, 희박한 마르코프 체인에서 이 성질을 보장하는 조건은 무엇인가?
• RQ5 양의 전이 행렬을 가진 마르코프 체인의 비자명한 뭉치에서 엔트로피 속도 유지와 강한 k-뭉치 가능성은 동시에 성립할 수 있는가?

주요 결과

• 양의 전이 행렬을 가진 마르코프 체인의 비자명한 뭉치는 모두 엔트로피 속도 손실을 초래한다.
• 엔트로피 속도 유지 조건은 사전 이미지 기수의 기하 평균 성장률과 원래 궤적을 복원하기 위해 필요한 정보라는 순수한 조합 기준으로 특성화된다.
• 강한 k-뭉치 가능성은 정적 엔트로피 경계의 타이트함을 통해 특성화되며, 이는 뭉친 과정에서의 고차 마르코프 행동에 대한 이론적 기초를 제공한다.
• 희박한 설정에서 엔트로피 속도 유지와 강한 k-뭉치 가능성 둘 다를 만족하는 뭉치에 대해 충분한 조건이 도출되었다.
• 엔트로피 속도 유지 조건은 특정 초기 분포에 의존하지 않고 전이 그래프와 뭉치 함수에만 의존한다.