[論文レビュー] Spectral cut-off regularisation for density estimation under multiplicative measurement errors

Sergio Brenner Miguel, Fabienne Comte+1 more|arXiv (Cornell University)|Sep 22, 2020

Statistical Methods and Inference参考文献 15被引用数 11

ひとこと要約

本稿では、乗法的測定誤差下における非パラメトリック密度推定に対して、デコンボリューション問題を解くためにメリン変換を用いた、完全にデータ駆動型のスペクトルカットオフ正則化法を提案する。主な貢献は、オракル不等式と鋭い下界を用いて、メリン＝ソボレフ空間上での推定量のミニマックス最適性と適応性を確立したことである。

ABSTRACT

We study the non-parametric estimation of an unknown density f with support on R+ based on an i.i.d. sample with multiplicative measurement errors. The proposed fully data driven procedure is based on the estimation of the Mellin transform of the density f , a regularisation of the inverse of the Mellin transform by a spectral cut-off and a data-driven model selection in order to deal with the upcoming bias-variance trade-off. We introduce and discuss further Mellin-Sobolev spaces which characterize the regularity of the unknown density f through the decay of its Mellin transform. Additionally, we show minimax-optimality over Mellin-Sobolev spaces of the data-driven density estimator and hence its adaptivity.

研究の動機と目的

• 独立同一分布に従う観測値が乗法的測定誤差によって汚染される非パラメトリック密度推定問題に対処すること。
• 未知の滑らかさに適応可能な完全にデータ駆動型の推定量を開発すること。
• 未知の密度の正則性をメリン＝ソボレフ空間を用いて特徴付け、それらをメリン変換の解析的性質と関連付けること。
• 広範な誤差密度と滑らかさクラスに対して、提案された推定量のミニマックス最適性を確立すること。
• 単純な対数変換アプローチの限界を克服するため、メリン変換の逆問題にスペクトルカットオフを適用すること。

提案手法

• 密度のメリン変換に基づく手法であり、乗法性定理 $\mathcal{M}[f_Y] = \mathcal{M}[f] \cdot \mathcal{M}[g]$ を活用する。
• 高周波成分による不安定性を防ぐために、逆メリン変換の安定化のためのスペクトルカットオフ正則化を適用する。
• カットオフレベルはデータ駆動型のモデル選択により選択され、カットオフによって定義される有限次元部分空間への射影により推定量が構成される。
• リスクは $\mathbb{R}^+$ 上の重み付き $L^2$-ノルムで測定され、乗法的誤差構造を反映している。
• 理論的分析では、メリン＝ソボレフ空間の性質を用いて滑らかさクラスを定義し、バイアスとバリアンスのトレードオフを導出する。
• データ駆動型推定量に対してオラクル不等式が導出され、その性能が最適なカットオフ選択に近いことが示された。

実験結果

リサーチクエスチョン

• RQ1 完全にデータ駆動型のスペクトルカットオフ推定量は、乗法的測定誤差下の密度推定においてミニマックス最適性を達成できるか？
• RQ2 乗法的デコンボリューションの文脈において、メリン＝ソボレフ空間を用いて未知密度の正則性をどのように特徴付けられるか？
• RQ3 提案された推定量がミニマックス最適性を達成するための誤差密度 $g$ に必要な条件は何か？
• RQ4 理論的保証と解釈可能性の観点から、スペクトルカットオフ法は単純な対数変換アプローチと比べてどのように異なるか？
• RQ5 事前の知識なしに、密度の未知の滑らかさに適応できるか？

主な発見

• 提案された完全にデータ駆動型のスペクトルカットオフ推定量は、広範な誤差密度 $g$ のクラスに対して、メリン＝ソボレフ空間上でのミニマックス最適性を達成する。
• オラクル不等式が確立され、推定量の平均重み付き統合二乗誤差が、定数倍の最適リスクにログペナルティを加えたもので上から抑えられることを示した。
• 推定リスクのミニマックス下界が、推定量の上界とログ因子を除いて一致しており、適応性が確認された。
• 未知密度 $f$ の正則性は、メリン＝ソボレフ空間によって特徴付けられ、$f$ のメリン変換の減衰率を制御する。
• $\log X$ に関する正則性条件の解釈の難しさを避けるために、直接メリン領域で解析を行うことで、この問題を回避した。
• 解析により、誤差密度 $g$ がゼロから一様に離れているとは限らない場合でも、弱い可積分性条件の下で、スペクトルカットオフ法がロバストで効果的であることが確認された。