[論文レビュー] Unified treatment of the asymptotics of asymmetric kernel density estimators

Till Hoffmann, Nick S. Jones|arXiv (Cornell University)|Dec 10, 2015

Gaussian Processes and Bayesian Inference参考文献 5被引用数 3

ひとこと要約

本稿は、バブルとサンプルスムージング推定量にシフトパラメータを組み込むことで、非対称カーネル密度推定量の漸近的性質を統一的に分析するフレームワークを導入する。バイアス、分散、平均統合二乗誤差の一般式を導出し、ガンマ、対数正規、ビルンバウム＝サウンダース、逆ガウス、逆逆ガウスカーネルの系統的分析を可能にするとともに、正の確率変数のための2つの適切に正規化された新しい推定量と、プラグインバンド幅ルールを提案する。

ABSTRACT

We extend balloon and sample-smoothing estimators, two types of variable-bandwidth kernel density estimators, by a shift parameter and derive their asymptotic properties. Our approach facilitates the unified study of a wide range of density estimators which are subsumed under these two general classes of kernel density estimators. We demonstrate our method by deriving the asymptotic bias, variance, and mean (integrated) squared error of density estimators with gamma, log-normal, Birnbaum-Saunders, inverse Gaussian and reciprocal inverse Gaussian kernels. We propose two new density estimators for positive random variables that yield properly-normalised density estimates. Plugin expressions for bandwidth estimation are provided to facilitate easy exploratory data analysis.

研究の動機と目的

• バブル型およびサンプルスムージング型の変動バンド幅カーネル密度推定量の漸近的解析を、シフトパラメータを導入することで統一する。
• 固定バンド幅 KDE が高密度領域と低密度領域のバイアスと分散のバランスをとるのを制限する点を是正する。
• ガンマ、対数正規、逆ガウスなどの非対称カーネルの適用範囲を拡大し、境界バイアスを低減するとともに、適切な正規化を保証する。
• 実用的な探索的データ解析を可能にするため、プラグインバンド幅選択ルールを導出する。
• 正の確率変数のための2つの新しい密度推定量を提案し、適切に正規化された密度推定値を提供する。

提案手法

• カーネルバンド幅関数にシフトパラメータを組み込むことで、シフト付きバブル型およびサンプルスムージング推定量を導入し、バイアスと分散を制御する。
• 複素解析および留数論を用いて、特に閉曲線積分とローラン級数展開を用いて、バイアス、分散、平均（統合）二乗誤差の一般漸近式を導出する。
• 補題1および補題2を用いて、推定量の一次モーメントおよび二次モーメントをカーネル関数およびバンド幅関数の微分の形で表現する。
• 留数定理を用いて、モーメント生成関数法から生じる閉曲線積分を評価し、バンド幅のべき乗における体系的な展開を可能にする。
• 導出されたバイアスおよび分散の式に基づき、漸近的 MISE を最小化することで、プラグインバンド幅ルールを導出する。
• フレームワークの有効性を検証するため、ガンマ、対数正規、ビルンバウム＝サウンダース、逆ガウス、逆逆ガウスの5つの特定の非対称カーネルに適用する。

実験結果

リサーチクエスチョン

• RQ1 広範な非対称カーネル密度推定量のクラスにわたって、漸近的バイアス、分散、平均統合二乗誤差を一貫して導出する方法は何か？
• RQ2 シフトパラメータの導入が、バブル型およびサンプルスムージング推定量のバイアスおよび正規化特性に与える影響は何か？
• RQ3 非対称カーネルを用いたバブル型およびサンプルスムージング推定量の分析を統一する1つのフレームワークを構築可能か？
• RQ4 MISE を最小化するように、さまざまな非対称カーネルに一貫してプラグインバンド幅ルールを導出する方法は何か？
• RQ5 この統一的フレームワークを用いて、正の確率変数のための新しい適切に正規化された密度推定量をどのように構築できるか？

主な発見

• 統一的フレームワークにより、ガンマ、対数正規、ビルンバウム＝サウンダース、逆ガウス、逆逆ガウスカーネルを含む広範な非対称カーネル推定量の漸近的バイアス、分散、MISEを一貫して導出可能である。
• シフト付きサンプルスムージング推定量の漸近的分散は $ \frac{f(x)\kappa}{nh(x)} + o(n^{-1}h^{-1}(x)) $ である。ここで $ \kappa $ はカーネルの二乗積分である。
• シフト付きサンプルスムージング推定量の一次モーメントは $ \left\langle \hat{f}(x) \right\rangle = B_0(x) + B_p(x) + o(h^p(x)) $ である。ここで $ B_k(x) $ は密度関数およびバンド幅関数の高階微分を用いて定義される。
• このフレームワークにより、正の確率変数のための2つの新しい密度推定量が得られ、$ \int \hat{f}(x) \, dx = 1 $ を満たす適切な正規化が保証される。
• 各カーネルタイプに対してプラグインバンド幅ルールが導出され、実用的実装および探索的データ解析を容易にする。
• 本手法により、ガンマおよび逆ガウスなどの非対称カーネルが正の半直線上で境界バイアスを排除し、統一的フレームワーク下でも良好な漸近的性質を維持することが確認された。