[논문 리뷰] Consistently Estimating Markov Chains with Noisy Aggregate Data

Garrett Bernstein, Daniel Sheldon|arXiv (Cornell University)|2016. 04. 14.

Bayesian Modeling and Causal Inference참고 문헌 15인용 수 4

한 줄 요약

이 논문은 개인정보 보호 제약 또는 관측 한계로 인해 개별 상태에 속한 인구의 총합 데이터만 관측 가능한 노이즈 있는 집합적 인구 수준 데이터로부터 시간 동일성 마르코프 체인 전이 확률을 일관적으로 추정하는 새로운 방법의 모멘트(MoM) 추정기 방법을 제안한다. 전통적인 조건부 최소 제곱법(CLS) 추정기와 달리, 노이즈가 존재할 경우 실패하는 반면, 새로운 MoM 추정기는 관측 변동성을 고려하여 일관성과 $\mathcal{O}(1/TK)$의 제곱 오차 감쇠 속도를 달성하며, 넓은 노이즈 모델 하에서 이론적 보장을 제공한다. 이는 시간 평균 및 집단 평균 설정 모두에서 성립한다.

ABSTRACT

We address the problem of estimating the parameters of a time-homogeneous Markov chain given only noisy, aggregate data. This arises when a population of individuals behave independently according to a Markov chain, but individual sample paths cannot be observed due to limitations of the observation process or the need to protect privacy. Instead, only population-level counts of the number of individuals in each state at each time step are available. When these counts are exact, a conditional least squares (CLS) estimator is known to be consistent and asymptotically normal. We initiate the study of method of moments estimators for this problem to handle the more realistic case when observations are additionally corrupted by noise. We show that CLS can be interpreted as a simple "plug-in" method of moments estimator. However, when observations are noisy, it is not consistent because it fails to account for additional variance introduced by the noise. We develop a new, simpler method of moments estimator that bypasses this problem and is consistent under noisy observations.

연구 동기 및 목표

• 개인정보 보호 제약 또는 관측 한계로 인해 정확한 개별 데이터가 아닌 노이즈 있는 집합적 인구 수준의 카운트만 이용 가능한 상황에서 마르코프 체인 전이 확률을 추정하는 문제를 다루기 위해.
• 정확한 데이터에서는 일관성 있는 전통적인 조건부 최소 제곱법(CLS) 추정기가 노이즈 있는 관측치에서는 왜 실패하는지 규명하기 위해.
• 관측치가 노이즈에 오염되어도 여전히 일관성 있는 새로운 방법의 모멘트 추정기를 개발하여 문헌에서의 핵심적 공백을 메우기 위해.
• 시간 평균($T\to\infty$) 및 집단 평균($K\to\infty$) 설정 모두에서 일관성과 수렴 속도에 대한 이론적 보장을 제공하기 위해.
• 정적 과정에서 노이즈 있는 관측치 하에서 새로운 추정기와 CLS 및 LIMLE를 실증적으로 비교하여 뛰어난 성능을 입증하기 위해.

제안 방법

• CLS를 정확한 관측 하에서의 플러그인 방법의 모멘트 추정기로 해석함으로써, 노이즈가 존재할 경우 간과된 분산으로 인해 실패하는 원인를 드러냄.
• 관측된 카운트의 일차 및 이차 모멘트를 모델링하여, 모멘트 조건에 노이즈 분산을 명시적으로 반영함으로써 새로운 방법의 모멘트 추정기를 구성함.
• 집합적 카운트의 조건부 기대값과 분산에서 유도된 추정 방정식 시스템을 사용하여, 경험적 모멘트와 일치하는 전이 확률을 구함.
• 이론적 분석을 통해 이중 노이즈 분포 클래스(이항 및 낮은 분산의 정규 노이즈 포함) 하에서 $T\to\infty$ 및 $K\to\infty$ 극한에서 일관성을 입증함.
• 반복 최적화 기법(예: EM 알고리즘)을 피하는 등 계산적으로 단순한 설계를 하였으며, 노이즈 수준의 변화에 대해 뛰어난 내성성을 입증함.
• 다양한 노이즈 모델과 파rameter 설정에서 평균 제곱오차를 주요 평가 지표로 사용하여, 새로운 MoM 추정기와 CLS 및 LIMLE를 실증적으로 비교함.

실험 결과

연구 질문

• RQ1 노이즈 있는 집합적 인구 수준의 카운트로부터 마르코프 체인 전이 확률의 일관성 있는 추정이 가능할 수 있는가?
• RQ2 정확한 데이터에서는 일관성 있는 고전적 조건부 최소 제곱법(CLS) 추정기가 노이즈 있는 관측치에서는 왜 실패하는가?
• RQ3 노이즈 있는 집합적 관측치 하에서도 여전히 일관성 있는 방법의 모멘트 추정기가 존재하는가, 그리고 이론적 보장이 가능한가?
• RQ4 시간 단계 수 $T$와 독립적인 실현 수 $K$에 대해 제안된 추정기의 수렴 속도는 어떠한가?
• RQ5 집합적 데이터로부터의 추정 성능은 개인 수준 데이터와 비교해 어떻게 되며, 집합화의 비용은 무엇인가?

주요 결과

• 제안된 방법의 모멘트(MoM) 추정기는 노이즈 있는 관측치 하에서도 시간 평균($T\to\infty$) 및 집단 평균($K\to\infty$) 극한에서 일관성 있음.
• 이항 및 저분산 정규 노이즈 하에서 MoM 추정기의 제곱 오차는 $\mathcal{O}(1/TK)$ 속도로 감쇠되며, 논문에서 유도한 이론적 속도와 일치함.
• 조건부 최소 제곱법(CLS)은 노이즈 있는 관측치 하에서 일관성이 없으며, $T\times K$가 증가함에 따라 추정 오차가 수렴하여 더 이상 감소하지 않음. 이는 간과된 노이즈 분산으로 인한 것임.
• 모집단 크기 $N$은 추정 오차에 거의 영향을 주지 않으며, $N=1$에서 $N=10^6$까지의 변화에 대해 정확도 손실가 없음.
• 제한 정보 최대우도 추정기(LIMLE)는 정적 설정에서는 일관성이 없으며, 동일한 정적 분포를 가진 모델을 구분할 수 없고, 단순한 i.i.d. 기준선보다도 성능이 열 劣함.
• MoM은 진짜 전이 행렬 $P$를 일관되게 추정하지만, LIMLE는 올바른 정적 분포 $\boldsymbol{\pi}$로 수렴하지만 $P$를 복원하지 못함으로써 정적 과정에서의 근본적 한계를 확인함.