[논문 리뷰] Markov Chain Order Estimation and Relative Entropy

Angel Rodolfo Baigorri, C. R. Gonçalves외 1명|arXiv (Cornell University)|2009. 10. 01.

Markov Chains and Monte Carlo Methods참고 문헌 18인용 수 5

한 줄 요약

이 논문은 χ²-발산 측도를 기반으로 한 새로운 강한 일致성 Markov 체인 순서 추정기법을 제안하며, Markov 체인 샘플의 의존 구조를 포착하기 위해 국소 및 전역 의존 수준 추정기들을 도입한다. 이 방법은 소형 표본 설정에서 AIC, BIC, EDC를 능가하며, 다양한 상태공간 크기와 진짜 순서에서 수치 시뮬레이션을 통해 뛰어난 정확도와 일致성을 보여준다.

ABSTRACT

We use the $f-divergence$ also called relative entropy as a measure of diversity between probability densities and review its basic properties. In the sequence we define a few objects which capture relevant information from the sample of a Markov Chain to be used in the definition of a couple of estimators i.e. the Local Dependency Level and Global Dependency Level for a Markov chain sample. After exploring their properties we propose a new estimator for the Markov chain order. Finally we show a few tables containing numerical simulation results, comparing the performance of the new estimator with the well known and already established AIC and BIC estimators.

연구 동기 및 목표

• 소형 표본 상황에서 기존 방법보다 우수한 성능을 보이는 새로운 강한 일치성 추정기법을 개발하는 것.
• Markov 체인 샘플로부터 관련된 의존 구조를 포착하는 데 목적이 있는 새로운 통계적 객체인 국소 및 전역 의존 수준을 도입하는 것.
• empirical 분포와 모델 분포 간의 이질성 측도로 χ²-발산을 사용하여 순서 추정을 향상시키는 것.
• 기존의 방법들(AIC, BIC, EDC)과의 비교를 통해 광범위한 수치 시뮬레이션을 통해 제안된 추정기의 성능을 평가하는 것.
• 특히 표본 크기가 제한된 경우에 신규 추정기법이 더 높은 정확도와 일치성을 확보할 수 있음을 입증하는 것.

제안 방법

• 이 방법은 Markov 체인 샘플에서 경험적 분포와 모델 분포 간의 이질성 측도로 χ²-발산을 사용한다.
• 표본의 전이 빈도 구조에서 유도된 두 가지 핵심 추정기인 국소 의존 수준과 전역 의존 수준을 정의한다.
• 이러한 의존 수준에 기반하여 관측된 데이터를 충분히 설명할 수 있는 최소 순서를 탐지하는 데 기반한 추정기법을 제안한다.
• 수렴성 및 반복 로그 법칙과 같은 χ²-발산의 이론적 성질을 활용하여 일치성을 보장한다.
• 다양한 상태공간 크기와 진짜 순서에서 몬테카를로 시뮬레이션을 통해 AIC, BIC, EDC와 추정기법을 비교한다.
• 특히 χ²-발산을 포함한 f-발산의 渐近 근사에 기반하여 경험적 발산과 모델 순서를 연결한다.

실험 결과

연구 질문

• RQ1 χ²-발산 기반 추정기법은 Markov 체인 순서 추정에서 강한 일치성을 달성할 수 있는가?
• RQ2 소형 표본에서 AIC, BIC, EDC와 비교해 볼 때 제안된 추정기의 정확도와 일치성은 어떠한가?
• RQ3 국소 및 전역 의존 수준 추정기들이 Markov 체인 샘플에서 관련된 의존 구조를 얼마나 잘 포착하는가?
• RQ4 AIC가 소형 표본에서 일치성이 없음을 알고 있음에도 불구하고, 새로운 추정기법이 AIC를 능가하는가?
• RQ5 상태공간 크기가 증가함에 따라 기존 방법들과 비교해 볼 때 제안된 추정기의 성능은 어떻게 변화하는가?

주요 결과

• |E| = 3 및 κ = 2 인 경우, 제안된 GDL 추정기는 n = 5,000일 때 80.5%의 정확도를 기록하여 AIC(45.5%)와 BIC(2%)를 능가했다.
• |E| = 3 및 κ = 3 인 경우, GDL 추정기는 n = 5,000일 때 98.5%의 정확도를 기록하여 AIC(16.5%)와 BIC(7%)를 크게 앞섰다.
• |E| = 4 및 κ = 0 인 경우, GDL 추정기는 n = 5,000일 때 100%의 경우에서 진짜 순서를 정확히 식별했으며, BIC는 과도한 페널티로 99%의 경우에서 순서를 과소평가했다.
• |E| = 4 및 κ = 3 인 경우, GDL 추정기는 n = 5,000일 때 96%의 정확도를 기록하여 BIC(1%)와 EDC(4%)를 능가했다.
• 제안된 추정기법은 모든 테스트 설정에서 강한 일치성을 보이며 특히 AIC와 BIC가 실패하는 소형 표본 영역에서 뛰어난 성능을 보였다.
• 수치 시뮬레이션은 GDL 추정기법이 표본 크가 증가함에 따라 진짜 순서로 빠르게 수렴하는 것으로 확인되었으며, 더 큰 상태공간을 가진 복잡한 설정에서 특히 그러했다.