[論文レビュー] Limit properties of the monotone rearrangement for density and regression function estimation

Dragi Anevski, Anne‐Laure Fougères|ArXiv.org|Oct 25, 2007

Bayesian Methods and Mixture Models参考文献 11被引用数 9

ひとこと要約

本稿では、核ベースの推定器（例：カーネル推定）などの事前非単調推定器に対して単調再配分を適用することにより、単調密度関数や単調回帰関数などの単調関数を推定する一般枠組みを提案する。弱い依存および長距離依存データのもとで一様一貫性および点별極限定理を確立し、再配分推定器が元の推定器の漸近的バイアスおよび分布的性質を、単調再配分写像によって調整された形で継承することを示す。

ABSTRACT

The monotone rearrrangement algorithm was introduced by Hardy, Littlewood and Pólya as a sorting device for functions. Assuming that $x$ is a monotone function and that an estimate $x_n$ of $x$ is given, consider the monotone rearrangement $\hat{x}_n$ of $x_n$. This new estimator is shown to be uniformly consistent. Under suitable assumptions, pointwise limit distribution results for $\hat{x}_n$ are obtained. The framework is general and allows for weakly dependent and long range dependent stationary data. Applications in monotone density and regression function estimation are detailed.

研究の動機と目的

• 事前推定器の単調再配分を用いた、単調関数を推定する一般統計枠組みの構築。
• 一般的な依存構造のもとで再配分推定器の一致性および点別極限定理の確立。
• 等高線回帰および単調密度推定の既存結果を、弱い依存および長距離依存データへと拡張する。
• 単調再配分推定器の有限標本的挙動を、カーネルスムージングに続いて単調化を行うなどの代替手法と比較する。
• 本手法が密度推定、回帰、スペクトル密度推定など、さまざまな非パラメトリック推定問題への適用可能性を示す。

提案手法

• 事前推定器の値の累積分布関数の一般化逆関数として単調再配分写像を定義する。
• 固定点 $ t_0 $ における再配分推定器の挙動を分析するため、局所化および制限技術を用いる。
• 理論的補題および定理を用いて、再配分写像の不変性（定数シフト下での不変性）、連続性、局所化性を確立する。
• 極限定理として、$ \tilde{x}_n(t_0) $ の分布を $ d_n^{-1}[ ilde{x}_n(t_0) - x(t_0)] \xrightarrow{\mathcal{L}} T(A \cdot + \tilde{v}(\cdot; t_0))(0) + \Delta $ の形に導出する。ここで $ T $ は再配分写像、$ \Delta $ は漸近的局所バイアス、$ \tilde{v} $ は正規化された確率的揺らぎを表す。
• 定 stationarity の仮定の下で、単調密度および単調回帰関数のカーネルベース事前推定器に本枠組みを適用する。
• 有界でない区間への拡張を行い、長距離依存データにおける影響を議論する。この場合、極限過程は確率変数にスケーリングされた決定的関数となる。

実験結果

リサーチクエスチョン

• RQ1 事前推定器の単調再配分が、どのような条件下で一様一貫性を示すか。
• RQ2 弱い依存および長距離依存データのもとで、再配分推定器の極限定理が元の事前推定器の極限定理とどのように関係するか。
• RQ3 有限標本において、$ L^2 $-射影やスムージングに基づくアプローチなどの代替単調化手法に比べ、単調再配分の何が優れているか。
• RQ4 再配分手順が最終推定器のバイアスおよび分散構造にどのように影響するか。
• RQ5 本枠組みは、密度および回帰を越えて、スペクトル密度やデコンボリューションなどの他の非パラメトリック推定問題へも拡張可能か。

主な発見

• 事前推定器およびその背後にある関数にやや弱い正則性条件が課されれば、単調再配分推定器 $ \hat{x}_n $ は一様一貫性を示す。
• 弱い依存データの下では、$ \hat{x}_n(t_0) $ の極限定理は $ T(A \cdot + \tilde{v}(\cdot; t_0))(0) + \Delta $ で与えられ、ここで $ \tilde{v} $ は事前推定器の正規化された確率的揺らぎを表す。
• 長距離依存データの場合は、経験過程が確率変数にスケーリングされた決定的関数に退化するため、再配分推定器の極限定理は元の事前推定器の極限定理と一致する。
• 滑らかな事前推定器（例：カーネル推定器）に適用した場合、本手法は $ L^2 $-射影法の非滑らかさの問題を回避する。
• 本手法は依存性に対してロバストである。定 stationarity が成り立ち、事前推定器が適切な漸近的微分可能性およびモーメント条件を満たしていれば、弱い依存および長距離依存の定 stationarity 列に適用可能である。
• 本枠組みは一般性に富み、カーネル推定器に限らず、ウェーブレットやスプラインに基づく手法にも適用可能である。ただし、事前推定器が仮定1および2（バイアスおよび確率的揺らぎの挙動）を満たしている必要がある。