[論文レビュー] Several Applications of Divergence Criteria in Continuous Families

Michel Broniatowski, Igor Vajda|ArXiv.org|Nov 4, 2009

Advanced Statistical Methods and Models参考文献 12被引用数 32

ひとこと要約

本稿では、連続指数型分布族における4つの発散ベース推定量—パワー・スーパー発散、部分発散、擬距離、およびRényi擬距離推定量—を導入し、比較している。主な貢献は、正規スケールに対するRényi擬距離推定量がロバストであることを証明したことである。その影響関数は有界であり、無限遠点で0に減少する。これは、汚染モデルにおいて他の推定量を上回る性能を示す。

ABSTRACT

This paper deals with four types of point estimators based on minimization of information-theoretic divergences between hypothetical and empirical distributions. These were introduced (i) by Liese & Vajda (2006) and independently Broniatowski & Keziou (2006), called here power superdivergence estimators, (ii) by Broniatowski & Keziou (2009), called here power subdivergence estimators, (iii) by Basu et al. (1998), called here power pseudodistance estimators, and (iv) by Vajda (2008) called here Renyi pseudodistance estimators. The paper studies and compares general properties of these estimators such as consistency and influence curves, and illustrates these properties by detailed analysis of the applications to the estimation of normal location and scale.

研究の動機と目的

• 連続統計的族における4つの発散ベース推定量の一般的性質—一貫性および影響関数—を分析・比較すること。
• これらの推定量のロバスト性、特にモデルの汚染下での挙動を調査すること。
• 正規位置・スケール族におけるそれらの挙動を詳細に分析すること。
• 理論的およびシミュレーション的証明を通じて、Rényi擬距離推定量が外れ値に対して優れたロバスト性を示すことを示すこと。

提案手法

• 厳密に凸である関数 φ ∈ Φ で φ(1) = 0 かつ t = 0 での連続拡張を持つ関数を用いて、φ-発散およびパワー発散を定義する。
• 双対性 φ* = tφ(1/t) を用いて、Dφ(Q,P) = Dφ*(P,Q) の非対称性の性質を導出する。
• 4つの推定量タイプ—パワー・スーパー発散、部分発散、擬距離、Rényi擬距離推定量—を、経験分布とモデル分布間の発散の最小化によって定義する。
• 関数的δ法および陰関数定理を用いて影響関数を導出し、真の分布での評価を行う。
• 正規スケールモデルにおけるRényi推定量の影響関数を明示的に計算し、そのαおよびσに依存する性質を示す。
• Fisherの一貫性および測度変換技術（pσα(x) を用いる）を用いて、影響関数式における積分を評価する。

実験結果

リサーチクエスチョン

• RQ1 パワー・スーパー発散、部分発散、擬距離、Rényi擬距離推定量の影響関数は、ロバスト性および尾部挙動の観点からどのように比較できるか？
• RQ2 正規スケールパラメータに対するRényi擬距離推定量は、有界で減少する影響関数によって示されるようにロバストであるか？
• RQ3 正規位置・スケール族におけるRényi擬距離推定量の影響関数の解析的形は何か？
• RQ4 Rényi推定量の影響関数は |x| → ∞ のときどのように振る舞い、これは外れ値耐性に何を意味するか？
• RQ5 シミュレーションにより、汚染正規モデル (1−ε)Pσ + εQσ（Q ∈ {P₃, P₁₀, Logistic, Cauchy}）において、理論的ロバスト性の優位性がRényi推定量によって確認できるか？

主な発見

• 正規スケールに対するRényi擬距離推定量の影響関数は、IF(x; Tα, Pσ) = (1+α)^{5/2}σ/2 × [(x/σ)^2 − 1/(1+α)] × exp(−αx²/(2σ²)) で与えられる。
• 影響関数は |x| → ∞ のとき0に減少するため、極端な外れ値の影響が徐々に小さくなる。
• すべての α > 0 に対して影響関数が有界であるため、Rényi擬距離推定量のロバスト性が確認される。
• 積分 Υα(Pσ) は σ に依存せず −2/(1+α)^{5/2} に評価される。これにより影響関数式が簡略化される。
• Rényi推定量の影響関数は α → 0 の極限でMLEと一致するため、古典的推定との一貫性が確認される。
• MSc学生Radim Demutの支援を得たシミュレーションにより、(1−ε)Pσ + εQσ（Q ∈ {P₃, P₁₀, Logistic, Cauchy}）のような汚染モデルにおいて、Rényi推定量の理論的ロバスト性が確認された。