[論文レビュー] Estimation of a k-monotone density, part 1: characterizations consistency, and minimax lower bounds

Fadoua Balabdaoui, Jon A. Wellner|ArXiv.org|Sep 4, 2005

Statistical Methods and Inference被引用数 4

ひとこと要約

本稿は、非パラメトリック最尤推定量および最小二乗推定量を用いたk単調密度の推定に関する基礎的性質を確立する。存在性の証明、推定量が単純なノットを持つk次スプラインとして特徴づけられることの特定、一貫性の確立、およびk次の導関数に正則性条件を課した固定点における密度およびその導関数の点別推定のミニマックス下界の導出を行う。

ABSTRACT

Shape constrained densities are encountered in many nonparametric estimation problems. The classes of monotone or convex (and monotone) densities can be viewed as special cases of the classes of k-monotone densities. A density g is said to be k-monotone if its successive derivatives up to order k-2 are alternately negative or positive, with the k-2 derivative convex (or concave) according as k is even (or odd) respectively. g is simply nonincreasing if k=1. These classes of shape constrained densities bridge the gap between the classes of monotone (1-monotone) and convex decreasing (2-monotone) densities for which asymptotic results are known, and the class of completely monotone densities with k infinite. In this series of four papers we consider both (nonparametric) Maximum Likelihood estimators and Least Squares estimators of a k-monotone density. In this first part (part 1), we prove existence of the estimators and give characterizations. We also establish consistency properties, and show that the estimators are splines of order k (degree k-1) with simple knots. We further provide asymptotic minimax risk lower bounds for estimating a k-monotone density g_0 (x_0) and its derivatives g_0^{(j)}(x_0), for j=1, ..., k-1, at a fixed point x_0 under the assumption that the k-th derivative of g_0 at x_0 is non-zero.

研究の動機と目的

• k単調密度という、単調および凸減少密度を一般化するクラスの非パラメトリック推定手法の開発。
• k単調密度の最尤推定量および最小二乗推定量の理論的基盤を確立する—存在性、特徴づけ、一貫性。
• 滑らかさの条件の下で、固定点における密度およびその導関数の推定のミニマックス下界を導出する。
• 今後のシリーズの一部で特に制限過程H_kに関連する漸近分布理論の基盤を築く。
• k単調近似を用いた完全単調密度の推定に関する洞察を提供する。

提案手法

• k ≥ 2のとき、l = 0, ..., k−2に対して(−1)^l g^{(l)}が非負、非増加、かつ凸であるという条件によりk単調密度を特徴づける。
• 変分法および凸解析の道具を用いて、k単調密度の非パラメトリック最尤推定量および最小二乗推定量の存在性を証明する。
• 形状制限付き関数クラスの性質を用いて、両推定量が単純なノットを持つk次スプライン（次数k−1）であることを示す。
• 真の密度g₀にやや弱い正則性条件を課した下で、推定量の一貫性を確立する。
• 固定点x₀におけるg₀(x₀)およびその導関数g₀^{(j)}(x₀)（j = 1, ..., k−1）の推定のミニマックス下界を導出する。この際、(−1)^k g₀^{(k)}(x₀) > 0を仮定する。
• スプライン理論およびヘルメート補間の結果を理論的枠組みの支援に用い、完全な漸近理論は後続のパートに延期する。

実験結果

リサーチクエスチョン

• RQ1 密度がk単調であるための必要十分条件は何か？ そして、単調および凸減少密度にどのように一般化されるか？
• RQ2 k単調密度に対して非パラメトリック最尤推定量および最小二乗推定量は存在するか？ また、それらの構造的性質は何か？
• RQ3 推定量は、一貫性および収束速度の観点からどのように漸近的に振る舞うか？
• RQ4 固定点におけるk単調密度およびその導関数の点別推定のミニマックス下界は何か？
• RQ5 k単調密度の結果は、完全単調密度の推定にどのように寄与するか？

主な発見

• k単調密度の非パラメトリック最尤推定量および最小二乗推定量は、やや弱い正則性条件の下で存在し、一意である。
• 両推定量は単純なノットを持つk次スプライン（すなわち次数k−1の区分的多項式）である。これは、計算および漸近的解析において中心的な構造的性質である。
• 標準的な正則性仮定の下で、推定量は真のk単調密度g₀に対して一貫性を示す。
• g₀(x₀)およびその導関数g₀^{(j)}(x₀)（j = 1, ..., k−1）の推定におけるミニマックス下界が導出され、最適収束速度がkおよびx₀におけるg₀の滑らかさに依存することを示している。
• 下界は(−1)^k g₀^{(k)}(x₀) > 0という条件の下で確立されており、これは非パラメトリック推定に十分な局所的滑らかさを保証する。
• これらの結果は、制限過程H_kに関連する漸近分布理論の今後の発展の理論的基盤を提供する。このH_kは、推定量の弱収束を支配すると予想されている。