[論文レビュー] Neighborhoods as Nuisance Parameters? Robustness vs. Semiparametrics

Helmut Rieder|arXiv (Cornell University)|Dec 4, 2014

Advanced Statistical Methods and Models参考文献 18被引用数 3

ひとこと要約

本稿は、無限次元のノイズパラメータとしてモデル化されるモデルのずれがある状況において、半パラメトリック手法—特にスコア関数を接空間に射影する手法—が最適にロバストな推定量をもたらすかを調査する。その結果、ハレルリンク近傍では半パラメトリックな影響関数が最適にロバストな関数と一致するが、全変動距離近傍およびコントァミネーション近傍では、クリッピング効果が現れるものの、ミニマックス平均二乗誤差の最適性は完全に達成されないことが示された。

ABSTRACT

Deviations from the center within a robust neighborhood of a parametric model distribution may naturally be considered an infinite dimensional nuisance parameter. Thus, the semiparametric method may be tried, which is to compute the scores function for the main parameter minus its orthogonal projection on the closed linear tangent space for the nuisance parameter, and then rescale for Fisher consistency. In this paper, we derive such a semiparametric influence curve by nonlinear projection on the tangent balls arising in robust statistics. This semiparametric influence curve is then compared with the optimally robust influence curve that minimizes maximum weighted mean square error of the corresponding asymptotically linear estimators over infinitesimal neighborhoods. For Hellinger balls, the two coincide (with the classical one). In the total variation model, the semiparametric IC solves the robust MSE problem for a particular bias weight. In the case of contamination neighborhoods, the semiparametric IC is bounded only from above. Due to an interchange of truncation and linear combination, the discrepancy increases with the dimension. While there is coincidence for Hellinger balls, at least clipping is achieved for total variation and contamination neighborhoods, but the semiparametric method in general falls short to solve the minimax MSE estimation problem for the gross error models. The semiparametric approach is carried further to testing contaminated hypotheses. In the one-sided case, for testing hypotheses defined by any two closed convex sets of tangents, a saddle point is furnished by projection on the set of differences of these sets. For total variation and contamination neighborhoods, we thus recover the robust asymptotic tests based on least favorable pairs. So the two approaches agree in the testing context.

研究の動機と目的

• モデルのずれが無限次元のノイズパラメータとして作用するロバスト近傍モデルに、半パラメトリック手法を適用できるかを検討すること。
• スコア関数をノイズパラメータの閉じた線形接空間に直交射影するという半パラメトリックな手法が、最大加重平均二乗誤差を最小化する意味で最適な推定量をもたらすかを評価すること。
• ハレルリンク、全変動距離、コントァミネーション近傍といった異なる種類の近傍モデルにおいて、半パラメトリックな影響関数と最適にロバストな影響関数との関係を調査すること。
• 特にコントァミネートされたモデルにおける片側仮説検定を含めた、ロバストな検定への半パラメトリックフレームワークの拡張を試みること。
• 半パラメトリック手法が、全変動距離およびコントァミネーション近傍における最小不利ペアに基づく既知のロバスト漸近的検定を回復できるかを同定すること。

提案手法

• ロバスト統計における接球から生じる非線形射影を用いて、スコア関数の半パラメトリックな影響関数を導出する。線形接空間ではなく、球体上の非線形射影を用いる。
• 標準的な半パラメトリックな手続きを適用する：主パラメータのスコア関数を計算し、ノイズパラメータの閉じた線形接空間への直交射影を差し引いた後、フィッシャー整合性を満たすようにスケーリングする。
• ノイズ接集合が線形空間でない場合を検討し、接球（例：ハレルリンク、全変動距離、コントァミネーション球）への直接的な非線形射影が生じる。
• Cramér–Raoの下界および漸近ミニマックス理論を用いて、半パラメトリックな影響関数と最大加重平均二乗誤差を最小化する最適にロバストな影響関数との性能を比較する。
• 仮説検定への応用として、2つの閉じた凸集合の接錐の差集合への射影を用いて鞍点を構成する。
• 全変動距離およびコントァミネーション近傍では、得られる半パラメトリックな影響関数がスコア関数のクリッピング版であることが示された。これはハンペル＝クラスカーの影響関数に類似している。

実験結果

リサーチクエスチョン

• RQ1 接空間への射影に基づく半パラメトリック手法が、近傍モデルに対して最適にロバストな影響関数を生成できるか？
• RQ2 半パラメトリックな影響関数が、最大加重平均二乗誤差を最小化する最適にロバストな影響関数と一致するのはどのような条件下か？
• RQ3 半パラメトリック手法が、コントァミネーションおよび全変動距離近傍における最小不利ペアに基づく既知のロバスト漸近的検定を回復できるか？
• RQ4 ノイズ接集合が線形空間ではなく閉じた球体である場合、半パラメトリックな影響関数はどのように変化するか？
• RQ5 半パラメトリック手法は、大誤差モデルにおけるミニマックス平均二乗誤差推定問題を十分に解けるか？

主な発見

• ハレルリンク近傍では、非線形射影による半パラメトリックな影響関数が、古典的に最適な影響関数と完全に一致する。
• 全変動距離およびコントァミネーション近傍では、半パラメトリックな影響関数はスコア関数のクリッピング版であり、最適にロバストな影響関数の本質的特徴を捉えている。
• クリッピングが生じるものの、半パラメトリック手法は大誤差モデルにおいてミニマックス平均二乗誤差の最適性を完全に達成しないことが判明し、根本的な制限が示された。
• 半パラメトリックアプローチは、全変動距離およびコントァミネーション近傍における最小不利ペアに基づくロバスト漸近的検定を回復しており、特に接錐の差集合への射影によって実現されている。
• 接球への非線形射影によって得られた影響関数は、フィッシャー整合性を満たし、漸近的に線形であるため、正規性条件のもとで有効な推論が可能である。
• コントァミネーションおよび全変動距離近傍では、最小不利接点ペアの一意性が示され、標本サイズが増加するにつれて、任意の最小不利確率ペア間の極限的ハレルリンク距離が0に収束することが示された。