[論文レビュー] Dual $\phi$-divergences estimation in normal models

Mohamed Cherfi|arXiv (Cornell University)|Aug 15, 2011

Advanced Statistical Methods and Models参考文献 16被引用数 4

ひとこと要約

本稿では、バンド幅選択および非パラメトリック密度推定を回避するため、φ-発散の二重表現を活用した正規位置モデルにおける二重φ-発散推定子（DφDEs）を提案する。この手法は真のモデルにおいて完全な漸近的効率性を達成するとともに、汚染下でも強いロバスト性を示し、特にγ = 2（カイ二乗発散）の状況において、MLEおよびHuber M-推定子を上回る性能を発揮する。

ABSTRACT

A class of robust estimators which are obtained from dual representation of $\phi$-divergences, are studied empirically for the normal location model. Members of this class of estimators are compared, and it is found that they are efficient at the true model and offer an attractive alternative to the maximum likelihood, in term of robustness .

研究の動機と目的

• 二重φ-発散推定子（DφDEs）の正規位置モデルにおける性能を評価すること。
• エスコートパラメータが推定子の効率性およびロバスト性に与える影響を調査すること。
• DφDEsが同時に高い効率性とロバスト性を達成できるかどうかを評価すること。
• モデルの汚染下におけるDφDEsと最尤推定子およびHuber M-推定子の比較を行うこと。
• 実応用におけるエスコートパラメータの選択に関する実用的ガイドラインを提供すること。

提案手法

• DφDEsはφ-発散の二重表現に基づいて定義され、非パラメトリック密度推定およびバンド幅選択を回避する。
• 推定子は真のパラメータの近傍で双対目的関数を最大化することによって得られる。
• 双対発散のスコア関数から導かれる推定方程式が使用され、一貫性および漸近正規性が保証される。
• φ(x) = −log x + x −1 のとき（修正KL発散）、このクラスはMLEを特別な場合として含む。
• ロバスト性は、標準的影響関数よりも汚染下での挙動をより適切に捉えることができるϵ影響関数を用いて評価される。
• シミュレーションスタディでは、真のモデルおよび汚染データ（5%、10%、20%、25%の汚染）下で、さまざまなγ値（0、0.5、1、2）におけるMSEを比較する。

実験結果

リサーチクエスチョン

• RQ1 真の正規モデル下で、DφDEsの効率性およびロバスト性はどのように評価されるか？
• RQ2 エスコートパラメータ（γ）が推定子の性能に与える影響は何か？
• RQ3 DφDEsは、MLEおよびHuber M-推定子と比較して、高い効率性を維持しながら優れたロバスト性を示せるか？
• RQ4 DφDEsは汚染下で影響関数が有界であると示されるか？標準的影響関数と比較してどうなるか？
• RQ5 中央値が実応用におけるエスコートパラメータの選択として実用的価値を有するか？

主な発見

• 真のモデル下では、DφDEsは完全な漸近的効率性を達成し、MSE値はMLEとほぼ同一である（例：n=200のときγ=0,1,2でMSE ≈ 0.0055）。
• 小標本（n=25）下では、γ=0.5およびγ=1のDφDEsが10%汚染下で最小のMSE（それぞれ0.1509および0.0780）を示し、MLEおよびHuber M-推定子を上回る。
• 20%汚染下では、γ=2のDφDEsが最も低いMSE（n=200で0.1812）を示し、MLE（3.3328）およびHuber M-推定子（0.6220）を著しく上回る。
• 25%汚染下では、γ=2のDφDEsが最も低いMSE（n=200で0.2980）を維持するが、MLEおよびHuber M-推定子は顕著な性能低下を示す（MSE > 3.3）。
• ϵ影響関数解析により、DφDEsは汚染下でもロバストであり、影響関数が有界であることが明らかになり、標準的影響関数が無限大に発散する懸念を解消する。
• 中央値が実務的かつ効果的なエスコートパラメータの選択であることが示された。