[論文レビュー] Maximum likelihood estimation in the two-state Markovian arrival process

Emilio Carrizosa, Pepa Ramírez‐Cobo|arXiv (Cornell University)|Jan 14, 2014

Advanced Queuing Theory Analysis参考文献 21被引用数 5

ひとこと要約

本稿は、2状態のマルコフ連続生起過程（MAP₂）のパラメータ非同定性問題を解消するため、標準的でない6パラメータ表現を避ける正準パラメータ化に基づく最尤推定（MLE）フレームワークを提案する。EMアルゴリズムとその数値的不安定性を回避して、正準形での尤度関数を直接最大化することで、より正確で安定したパラメータ推定が達成され、実験的結果では冗長なパラメータ化よりも顕著に低いカルバック・ライバラー情報量発散が得られた。

ABSTRACT

The Markovian arrival process (MAP) has proven a versatile model for fitting dependent and non-exponential interarrival times, with a number of applications to queueing, teletraffic, reliability or finance. Despite theoretical properties of MAPs and models involving MAPs are well studied, their estimation remains less explored. This paper examines maximum likelihood estimation of the second-order MAP using a recently obtained parameterization of the two-state MAPs.

研究の動機と目的

• 2状態のMAP₂の標準的6パラメータ表現における長年のパラメータ非同定性問題を解決すること。
• EMアルゴリズムの初期値依存性および局所最適解への収束という問題を回避する直接的最尤推定法を開発すること。
• カルバック・ライバラー発散度と対数尤度を評価基準として用いて、推定器の性能を比較すること。
• 正準パラメータ化が冗長なパラメータ化よりもより正確で数値的に安定した推定をもたらすことを示すこと。

提案手法

• 率行列 $ D_0 $ および $ D_1 $ を用いたMAP₂の正準パラメータ化を採用し、一意的かつ同定可能なモデル表現を保証する。
• EMアルゴリズムを避けるために、尤度関数の直接最大化を実装し、計算負荷を軽減するとともに、劣悪な局所最適解への収束を回避する。
• 最適化中の数値的安定性を向上させるために、再スケーリングされた目的関数を適用する。
• 最適化アルゴリズムの収束性を向上させるために、モーメントマッチングを初期値として用いる。
• 異なるパラメータ化における推定器の品質を比較するために、カルバック・ライバラー発散度と対数尤度を用いる。
• 100個のランダムに生成されたMAP₂プロセスを用いたモンテカルロシミュレーションを実施し、正準MLEと冗長MLEを実証的に比較する。

実験結果

リサーチクエスチョン

• RQ1 MAP₂の正準形における直接的最尤推定は、標準的6パラメータ表現に内在する数値的問題と同定性問題を克服できるか？
• RQ2 カルバック・ライバラー発散度と対数尤度の観点から、正準形におけるMLEの性能は冗長パラメータ化におけるものと比べてどうか？
• RQ3 冗長パラメータ化における尤度関数の評価に伴う数値的課題は何か？正準形はそれらをどのように緩和するか？
• RQ4 正準パラメータ化は、複数のシミュレートされたMAP₂インスタンスにおいて一貫してより安定的かつ正確な推定をもたらすか？

主な発見

• 正準パラメータ化により、無限に存在する同等のパラメータ化を1つの一意的表現に削減し、同定性問題を解決した。
• 正準形における直接MLEは、対数尤度 -3023.4を達成したのに対し、冗長パラメータ化では -3051.7にとどまった。
• 正準推定のカルバック・ライバラー発散度は84.0645であり、冗長推定の123.1234よりも顕著に低く、より優れた精度を示している。
• 100件のシミュレーションのうち18件では、冗長パラメータ化におけるMLEが数値的不整合により収束しなかったが、正準手法は安定したままであった。
• KL発散度比（冗長対正準）のヒストグラムから、正準推定が真のパラメータに一貫して近いことが明らかになった。
• 本手法はMATLABツールボックスとして公開されており、再現可能性の高い研究と実用的応用を支援する。