[논문 리뷰] Two new Markov order estimators

Yuval Peres, Paul C. Shields|ArXiv.org|2005. 06. 04.

Algorithms and Data Compression참고 문헌 18인용 수 18

한 줄 요약

이 논문은 유한 알파벳 확률과정의 마르코프 차수를 추정하기 위해 경험 엔트로피와 조건부 확률 변동성을 이용한 두 가지 새로운 일致 추정기들을 제안한다. 엔트로피 추정기에서는 경험 엔트로피가 안정화되는 시점을 탐지하기 위해 재귀 시간을 사용하며, 최대 변동 방법은 조건부 확률 차이의 정성적 감소를 탐지함으로써 차수를 식별한다; 두 방법 모두 표본 크기가 증가함에 따라 거의 확실히 일致함을 증명한다.

ABSTRACT

We present two new methods for estimating the order (memory depth) of a finite alphabet Markov chain from observation of a sample path. One method is based on entropy estimation via recurrence times of patterns, and the other relies on a comparison of empirical conditional probabilities. The key to both methods is a qualitative change that occurs when a parameter (a candidate for the order) passes the true order. We also present extensions to order estimation for Markov random fields.

연구 동기 및 목표

• 단일 샘플 경로로부터 마르코프 과정의 기억 깊이(마르코프 차수)에 대한 일치 추정기 개발.
• 진짜 차수에 대한 사전 지식이 없고, 최대 가능한 차수에 대한 상한이 없는 상황에서도 차수 추정 문제 해결.
• 진짜 차수에서 행동의 정성적 변화를 탐지하는 방법 제안; 경험 엔트로피와 조건부 확률의 渐近 수렴 성질을 활용.
• 제안된 추정기를 마르코프 무작위장으로 확장하여 i.i.d. 또는 마르코프 체인 모델을 초월한 적용 가능성 넓힘.

제안 방법

• 엔트로피 추정기 방법은 경험 k단계 조건부 엔트로피 $\widehat{h}_k(n)$ 와 재귀 기반 엔트로피 추정기 $[\ell(n)]^{-1} \log n + 2(\log n)^{-1/4}$ 를 비교한다. 여기서 $\ell(n)$ 은 가장 긴 반복 초기 블록의 길이다.
• 추정기 $M_n^*$ 는 $\widehat{h}_k(n)$ 이 임계값 이하로 떨어지는 최소 $k$ 로 정의되며, 이는 $\widehat{h}_k(n)$ 이 진짜 차수 $M$ 에서 안정화됨을 이용한다.
• 최대 변동 방법은 길이 $m$ 의 슬라이딩 윈도우에서 경험 조건부 확률의 최대 편차를 측정하는 테스트 함수 $\phi_m(x_{1}^{n})$ 를 사용하며, 블록 빈도로 스케일링된다.
• 추정기 $M_n^\#$ 는 $\phi_m(x_{1}^{n}) < n^{3/4}$ 를 만족하는 최소 $m$ 으로 정의되며, $f(n) = \log \log n$ 이 테스트하는 $m$ 값의 범위를 제어한다.
• 두 방법 모두 진짜 차수에서 행동의 정성적 변화에 기반한다: 엔트로피는 안정화되고, 변동은 $k$ 가 $M$ 에 도달할 때 급격히 감소한다.
• 이론적 일치성은 에르고딕 정리, 큰편차 이론, 경험 엔트로피 수렴에 대한 반복 로그 한계를 이용해 확립된다.

실험 결과

연구 질문

• RQ1 진짜 차수에 대한 사전 상한이 없는 조건에서 일치 마르코프 차수 추정기를 구성할 수 있는가?
• RQ2 경험 엔트로피와 조건부 확률 변동성을 어떻게 활용하여 마르코프 과정의 진짜 기억 깊이를 탐지할 수 있는가?
• RQ3 후보 차수 $k$ 가 진짜 차수 $M$ 보다 작거나 같거나 더 클 경우 경험 엔트로피와 조건부 확률 차이의 행동은 어떻게 되는가?
• RQ4 제안된 추정기는 마르코프 무작위장으로 확장될 수 있으며, 그 설정에서 어떤 이론적 보장이 성립하는가?
• RQ5 BIC와 MDL와 같은 기존 방법과 비교해 볼 때, 제안된 추정기의 일치성과 수렴 행동은 어떻게 되는가?

주요 결과

• 엔트로피 추정기 $M_n^*$ 는 거의 확실히 일치한다: 임의의 마르코프 과정의 차수 $M$ 에 대해 $\lim_{n \to \infty} M_n^*(x_1^n) = M$ 이다.
• 최대 변동 추정기 $M_n^\#$ 도 거의 확실히 일치하며, 핵심 통찰은 $m < M$ 일 경우 $\phi_m(x_{1}^{n})$ 이 $n$ 에 대해 선형으로 증가하지만 $m = M$ 일 경우는 다항식보다 작은 정도로 유지된다는 것이다.
• $k < M$ 일 경우, $\widehat{h}_k(n)$ 은 거의 확실히 $H_k > H$ 로 수렴하며, $\widehat{h}_M(n)$ 은 $H$ 로 수렴하므로, 임계값 설정 접근법이 타당하다.
• $\phi_m(x_{1}^{n})$ 을 사용하는 방법은 $k < M-1$ 인 경우 $H_k = H_{k+1}$ 로 인해 조기 정지가 발생하는 '평탄한 부위' 문제를 피한다.
• 두 추정기의 일치성은 경험 엔트로피의 수렴 속도와 반복 로그 법칙에 의존하며, $\sqrt{\log \log n / n}$ 을 포함한 명시적 경계가 있다.
• 이들 추정기는 모형 오류에 강건하며, 알파벳 크기나 진짜 차수에 대한 사전 지식이 필요 없어 비모수 설정에 적합하다.