[論文レビュー] Consistently Estimating Markov Chains with Noisy Aggregate Data

Garrett Bernstein, Daniel Sheldon|arXiv (Cornell University)|Apr 14, 2016

Bayesian Modeling and Causal Inference参考文献 15被引用数 4

ひとこと要約

本稿では、プライバシー制約や観測制限により、個々の個体の状態ではなく、各時刻における各状態に属する個体数の合計値しか観測できないノイズのある集計データから、時間定常なマーカフ連鎖の遷移確率を一貫して推定する、新しいモーメント法（MoM）推定量を提案する。従来の条件付き最小二乗法（CLS）推定量はノイズ下で失敗するが、新しいMoM推定量は観測分散を考慮し、広範なノイズモデル下で一貫性を示し、$\mathcal{O}(1/TK)$ の二乗誤差の減少率を達成する。理論的保証は、時間平均的およびアンサンブル平均的設定の両方で与えられる。

ABSTRACT

We address the problem of estimating the parameters of a time-homogeneous Markov chain given only noisy, aggregate data. This arises when a population of individuals behave independently according to a Markov chain, but individual sample paths cannot be observed due to limitations of the observation process or the need to protect privacy. Instead, only population-level counts of the number of individuals in each state at each time step are available. When these counts are exact, a conditional least squares (CLS) estimator is known to be consistent and asymptotically normal. We initiate the study of method of moments estimators for this problem to handle the more realistic case when observations are additionally corrupted by noise. We show that CLS can be interpreted as a simple "plug-in" method of moments estimator. However, when observations are noisy, it is not consistent because it fails to account for additional variance introduced by the noise. We develop a new, simpler method of moments estimator that bypasses this problem and is consistent under noisy observations.

研究の動機と目的

• プライバシー制約や観測制限により、個体レベルのデータが得られない状況で、ノイズのある集計データからマーカフ連鎖の遷移確率を推定する課題に対処すること。
• 従来の条件付き最小二乗法（CLS）推定量が、正確なデータでは一貫性を示すが、ノイズのある観測下ではなぜ失敗するかを特定すること。
• 観測がノイズで汚されている場合でも一貫性を示す新しいモーメント法推定量を開発し、文献における重要な空白を埋めること。
• 時間平均的（$T\to\infty$）およびアンサンブル平均的（$K\to\infty$）設定の両方で、一貫性および収束速度に関する理論的保証を提供すること。
• 定常過程におけるノイズのある観測下で、新しい推定量をCLSおよびLIMLEと比較し、優れた性能を示す実証的評価を行うこと。

提案手法

• CLSを正確な観測下でのプラグイン型モーメント法推定量として解釈することで、ノイズ下で失敗する理由（無視された分散）を明らかにする。
• 観測された個体数の一次モーメントおよび二次モーメントをモデル化し、モーメント条件に明示的にノイズ分散を組み込むことで、新しいモーメント法推定量を構築する。
• 集計個体数の条件付き期待値および分散に基づく推定方程式系を用い、実現されたモーメントと一致する遷移確率を解く。
• 理論的分析により、二項分布および低分散ガウス分布を含む広範なノイズ分布クラス下で、$T\to\infty$ および $K\to\infty$ の極限において一貫性が保証されることを示す。
• 反復最適化（例：EM法）を避ける計算的に単純な設計であり、ノイズレベルの変動に対してもロバストであることが示された。
• 平均二乗誤差を主な指標として用い、複数のノイズモデルおよびパrameter設定において、新しいMoM推定量をCLSおよびLIMLEと比較する実証的評価が行われた。

実験結果

リサーチクエスチョン

• RQ1 ノイズのある集計個体数から、マーカフ連鎖の遷移確率の一貫した推定が可能か？
• RQ2 古典的条件付き最小二乗法（CLS）推定量が、正確なデータでは一貫性を示すが、ノイズのある観測下ではなぜ失敗するのか？
• RQ3 ノイズのある集計観測下でも一貫性を示し、理論的保証を備えたモーメント法推定量が存在するか？
• RQ4 提案された推定量の収束速度は、時間ステップ数 $T$ および独立実現数 $K$ の観点でどのようになるか？
• RQ5 集計データからの推定品質は、個体レベルデータと比べてどの程度劣るのか？また、集計化のコストは何か？

主な発見

• 提案されたモーメント法（MoM）推定量は、ノイズのある観測下でも、時間平均的（$T\to\infty$）およびアンサンブル平均的（$K\to\infty$）極限の両方で一貫性を示す。
• 二項分布および低分散ガウス分布下では、MoM推定量の二乗誤差は $\mathcal{O}(1/TK)$ の割合で減少し、本稿で導出された理論的減少率と一致する。
• 条件付き最小二乗法（CLS）はノイズのある観測下では一貫性を示さず、$T\times K$ が増加しても推定誤差が収束して平坦化する。これは、無視されたノイズ分散が原因である。
• 集計個体数 $N$ は推定誤差にほとんど影響を及ぼさない。これは、集計個体数が増大しても精度が低下しないことを示し、$N=1$ と $N=10^6$ の間で差がないことを意味する。
• 限られた情報最尤推定量（LIMLE）は定常状態において一貫性を示さない。同じ定常分布を持つモデルを区別できないためであり、無作為なi.i.d.ベースラインよりも性能が劣る。
• MoMは真の遷移行列 $P$ を一貫して推定するが、LIMLEは正しい定常分布 $\boldsymbol{\pi}$ に収束するものの、$P$ を回復できない。これは、定常過程におけるLIMLEの根本的な限界を確認するものである。