[論文レビュー] Estimating nonparametric functionals efficiently under one-sided errors

Markus Reiß, Leonie Selk|arXiv (Cornell University)|Jul 16, 2014

Statistical Methods and Inference被引用数 1

ひとこと要約

本稿では、片側誤差のもとで回帰関数の線形汎関数を推定するための効率的で非パラメトリックな最尤推定量を提案する。形状制約（単調性やホルダー条件など）を活用し、非漸近的UMVU効率性と、ホルダー空間上での自動的最適レート性を達成する。マーティングール停止の議論と点過程幾何学を用いる。

ABSTRACT

For nonparametric regression with one-sided errors and a related continuous-time model for Poisson point processes we consider the problem of efficient estimation for linear functionals of the regression function. The optimal rate is obtained by an unbiased estimation method which never-theless depends on a Hölder condition or monotonicity assumption for the underlying regression function. We first construct a simple blockwise estimator and then build up a nonparametric maximum-likelihood approach for exponential noise vari-ables and the point process model. In that approach also non-asymptotic efficiency is obtained (UMVU: uniformly minimum variance among all un-biased estimators). In addition, under monotonicity the estimator is auto-matically rate-optimal and adaptive over Hölder classes. The proofs rely essentially on martingale stopping arguments for counting processes and the point process geometry. The estimators are easily computable and a small simulation study confirms their applicability. Key words and Phrases: frontier estimation, support estimation, Poisson point process, sufficiency, completeness, UMVU, nonparametric MLE, shape constraint, monotone

研究の動機と目的

• 片側誤差のもとで回帰関数に形状制約が課された状況下での、回帰関数の線形汎関数の効率的推定量の開発。
• 連続時間のポアソン点過程モデル下で、非漸近的効率性（UMVU）を達成する推定。
• 単調性制約下でホルダー空間上でのレート最適性と適応性を保証すること。
• ブロックワイズおよび非パラメトリック最尤推定法を用いて、計算可能である推定量の構築。

提案手法

• 片側誤差のもとで回帰関数を近似するための予備的ステップとして、ブロックワイズ推定量を構築する。
• 指数分布ノイズとポアソン点過程モデルに対して、非パラメトリック最尤法を展開し、不偏推定を保証する。
• 計数過程のダイナミクスを解析し、効率性の性質を導出するために、マーティングール停止の議論を用いる。
• 指数型分布族における統計量の十分性と完全性を活用し、UMVU効率性を達成する。
• 形状制約下での尤度のサポートと構造を特徴付けるために、点過程幾何学を活用する。
• 単調性下で自動的最適レート性を保証し、ホルダー空間上での適応性を確保する。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリック回帰において片側誤差が存在する場合、不偏推定量が非漸近的UMVU効率性を達成できるか？
• RQ2 単調性やホルダー連続性といった形状制約は、推定の効率性と適応性をどのように向上させるか？
• RQ3 ポアソン点過程の幾何学的性質は、フロンティア推定のための効率的推定量の構築において、どのような役割を果たすか？
• RQ4 滑らかさクラスに関する事前知識なしに、非パラメトリック最尤法がレート最適性を達成できるか？
• RQ5 マーティングール停止技法は、推定量の効率性に関する理論的裏付けをどのように強化するか？

主な発見

• 提案された推定量は非漸近的UMVU効率性を達成しており、すべての不偏推定量の中で分散が一様に最小である。
• 単調性下では、調整パラメータを必要とせず、ホルダー空間上での自動的最適レート性と適応性が保証される。
• ブロックワイズ推定量は、全非パラメトリック最尤推定の構築を支援する計算可能で実用的な初期近似を提供する。
• マーティングール停止の議論を用いることで、ポアソン点過程モデルの背後にある計数過程の有限標本解析が厳密に可能になる。
• 推定量の効率性は、指数型分布族の枠組みにおける完全性と十分性の議論によって確立される。
• 小さなシミュレーションスタディにより、推定量の実用的適用可能性と有限標本性能が確認された。