[論文レビュー] Markov Chain Order Estimation and Relative Entropy

Angel Rodolfo Baigorri, C. R. Gonçalves+1 more|arXiv (Cornell University)|Oct 1, 2009

Markov Chains and Monte Carlo Methods参考文献 18被引用数 5

ひとこと要約

本稿では、カイ二乗発散尺度に基づく新しい強一貫的マルコフ連鎖のオーダー推定法を提案する。局所的およびグローバル的依存度推定器を導入し、マルコフ連鎖のサンプルにおける依存構造を捉える。小標本設定において、AIC、BIC、EDCを上回る性能を示し、さまざまな状態空間のサイズと真のオーダーにおいて、数値シミュレーションで優れた精度と一貫性を確認した。

ABSTRACT

We use the $f-divergence$ also called relative entropy as a measure of diversity between probability densities and review its basic properties. In the sequence we define a few objects which capture relevant information from the sample of a Markov Chain to be used in the definition of a couple of estimators i.e. the Local Dependency Level and Global Dependency Level for a Markov chain sample. After exploring their properties we propose a new estimator for the Markov chain order. Finally we show a few tables containing numerical simulation results, comparing the performance of the new estimator with the well known and already established AIC and BIC estimators.

研究の動機と目的

• 小標本状況において既存手法を上回る性能を示す、新たな強一貫的マルコフ連鎖オーダー推定法の開発。
• マルコフ連鎖のサンプルから関連する依存構造を捉える、新規の統計的対象物（局所的依存度レベルおよびグローバル的依存度レベル）の導入。
• 推定の精度向上を図るため、実証的分布とモデル分布の乖離を測る指標としてカイ二乗発散を用いる。
• AIC、BIC、EDCといった既存手法と比較して、広範な数値シミュレーションを通じて提案推定法の性能を評価する。
• 提案推定法が、特に標本サイズが限られた状況において、より高い精度と一貫性を達成することを示す。

提案手法

• 本手法は、マルコフ連鎖のサンプルにおける実証的分布とモデル分布の乖離を測る指標として、カイ二乗発散を用いる。
• サンプルの遷移頻度構造に基づき、2つの主要な推定器（局所的依存度レベルおよびグローバル的依存度レベル）を定義する。
• これらの依存度レベルに基づいて、観測データを適切に説明できる最小のオーダーを同定する推定器を構築する。
• 収束性およびiterated logarithmの法則を含む、カイ二乗発散の理論的性質を活用し、一貫性を保証する。
• 異なる状態空間のサイズと真のオーダーにおいて、モンテカルロシミュレーションを用いてAIC、BIC、EDCと推定器を比較する。
• 特にカイ二乗発散を含むf発散の漸近的近似に依存し、実証的発散とモデルオーダーを結びつける。

実験結果

リサーチクエスチョン

• RQ1 カイ二乗発散に基づく推定器は、マルコフ連鎖のオーダー推定において強一貫性を達成できるか？
• RQ2 小標本において、提案推定器はAIC、BIC、EDCと比較して、精度と一貫性の面で優れているか？
• RQ3 局所的およびグローバル的依存度レベル推定器は、マルコフ連鎖のサンプルにおける関連する依存構造をどの程度適切に捉えているか？
• RQ4 AICが不一貫性を示すとされる小標本状況において、新しい推定器はAICを上回る性能を示すか？
• RQ5 状態空間のサイズが増加すると、提案推定器の性能は既存手法と比較してどの程度変化するか？

主な発見

• |E| = 3 および κ = 2 の場合、提案されたGDL推定器は n = 5,000 で80.5%の精度を達成し、真のオーダーを正しく特定した。これはAIC（45.5%）およびBIC（2%）を上回る。
• |E| = 3 および κ = 3 の場合、GDL推定器は n = 5,000 で98.5%の精度に達し、AIC（16.5%）およびBIC（7%）を著しく上回った。
• |E| = 4 および κ = 0 の場合、GDL推定器は n = 5,000 で100%の正答率を示した。一方、BICは過剰なペナルティにより99%の確率でオーダーを過小評価した。
• |E| = 4 および κ = 3 の場合、GDL推定器は n = 5,000 で96%の精度に達し、BIC（1%）およびEDC（4%）を上回った。
• 提案推定器は、すべてのテスト設定において強一貫性を示し、特にAICやBICが失敗する小標本領域で優れた性能を発揮した。
• 数値シミュレーションにより、GDL推定器が標本サイズの増加に伴い、特に大きな状態空間を有する複雑な設定においても、真のオーダーに迅速に収束することが確認された。