[论文解读] Consistently Estimating Markov Chains with Noisy Aggregate Data

Garrett Bernstein, Daniel Sheldon|arXiv (Cornell University)|Apr 14, 2016

Bayesian Modeling and Causal Inference参考文献 15被引用 4

一句话总结

该论文提出了一种新颖的矩估计法（MoM）估计器，用于从噪声性、聚合的群体水平数据中一致地估计时齐马尔可夫链的转移概率——其中仅可观测到每个时间步长下各状态的个体数量。与传统条件最小二乘法（CLS）估计器在噪声下失效不同，新提出的MoM估计器考虑了观测方差，在广泛的噪声模型下实现了相合性，并且平方误差衰减速率为 $\mathcal{O}(1/TK)$，在时间平均和集合平均两种设定下均具有理论保证。

ABSTRACT

We address the problem of estimating the parameters of a time-homogeneous Markov chain given only noisy, aggregate data. This arises when a population of individuals behave independently according to a Markov chain, but individual sample paths cannot be observed due to limitations of the observation process or the need to protect privacy. Instead, only population-level counts of the number of individuals in each state at each time step are available. When these counts are exact, a conditional least squares (CLS) estimator is known to be consistent and asymptotically normal. We initiate the study of method of moments estimators for this problem to handle the more realistic case when observations are additionally corrupted by noise. We show that CLS can be interpreted as a simple "plug-in" method of moments estimator. However, when observations are noisy, it is not consistent because it fails to account for additional variance introduced by the noise. We develop a new, simpler method of moments estimator that bypasses this problem and is consistent under noisy observations.

研究动机与目标

• 解决在因隐私限制或观测限制而仅能获得噪声性、聚合群体计数时，估计马尔可夫链转移概率的挑战。
• 阐明尽管在精确数据上表现一致，传统条件最小二乘法（CLS）估计器为何在噪声观测下会失效。
• 开发一种即使在观测数据受噪声污染时仍保持一致的新矩估计器，填补文献中的关键空白。
• 在时间平均（$T\to\infty$）和集合平均（$K\to\infty$）两种设定下，为一致性和收敛速率提供理论保证。
• 通过与CLS和LIMLE的实证比较，展示在平稳过程下噪声观测中该估计器的优越性能。

提出的方法

• 将CLS解释为在精确观测下的插值矩估计器，揭示其在噪声下失效的原因在于未考虑方差。
• 通过建模观测计数的一阶与二阶矩，显式在矩条件中纳入噪声方差，构建新的矩估计器。
• 利用基于聚合计数条件期望与方差的估计方程系统，求解与经验矩匹配的转移概率。
• 理论分析表明，在包括二项分布和高斯噪声在内的广泛噪声分布类下，该估计器在 $T\to\infty$ 和 $K\to\infty$ 极限下均具有一致性。
• 该估计器设计计算简单，避免了类似EM算法的迭代优化，并在不同噪声水平下表现出鲁棒性。
• 通过均方误差作为主要指标，在多种噪声模型和参数设置下，对新MoM估计器与CLS和LIMLE进行了实证评估。

实验结果

研究问题

• RQ1 能否从噪声性、聚合的群体计数中实现马尔可夫链转移概率的一致估计？
• RQ2 为何经典条件最小二乘法（CLS）估计器在噪声观测下会失效，尽管其在精确数据上具有一致性？
• RQ3 是否存在一种矩估计器，在噪声聚合观测下仍保持一致并提供理论保证？
• RQ4 所提出的估计器在时间步长 $T$ 和独立实现次数 $K$ 方面的收敛速率如何？
• RQ5 从聚合数据中获得的估计质量与个体水平数据相比如何？聚合带来的代价是什么？

主要发现

• 所提出的矩估计法（MoM）估计器在时间平均（$T\to\infty$）和集合平均（$K\to\infty$）极限下均具有一致性，即使在存在噪声观测时亦然。
• 在二项分布和低方差高斯噪声下，MoM估计器的平方误差衰减速率为 $\mathcal{O}(1/TK)$，与论文中推导的理论速率一致。
• 条件最小二乘法（CLS）在噪声观测下无法保持一致，其估计误差随 $T\times K$ 增大而趋于平缓，原因在于未考虑噪声方差。
• 群体规模 $N$ 对估计误差的影响可忽略不计，表明即使在 $N=1$ 与 $N=10^6$ 之间，群体规模增大也不会导致精度损失。
• 有限信息最大似然估计器（LIMLE）在平稳设定下不具有一致性，因其无法区分具有相同平稳分布的模型，且表现劣于朴素的i.i.d.基线方法。
• MoM能一致地估计真实转移矩阵 $P$，而LIMLE虽收敛于正确的平稳分布 $\boldsymbol{\pi}$，却无法恢复 $P$，从而证实其在平稳过程中的根本局限性。