[논문 리뷰] Unified treatment of the asymptotics of asymmetric kernel density estimators

Till Hoffmann, Nick S. Jones|arXiv (Cornell University)|2015. 12. 10.

Gaussian Processes and Bayesian Inference참고 문헌 5인용 수 3

한 줄 요약

이 논문은 이동 파rameter를 도입하여 발풍형 및 샘플 스무딩 추정기의 범위를 확장함으로써 비대칭 커널 밀도 추정기의 渐近적 성질을 분석하는 통합 프레임워크를 제안한다. 편향, 분산, 평균 통합 제곱오차의 일반적 표현식을 유도하여 감마, 로그정규, 비르누이엠-사이어너스, 역가우시안, 역가우시안-역가우시안 커널을 포함한 체계적인 연구를 가능하게 하며, 양의 랜덤 변수에 대한 두 가지 적절히 정규화된 새로운 추정기와 플러그인 대역폭 규칙을 제안한다.

ABSTRACT

We extend balloon and sample-smoothing estimators, two types of variable-bandwidth kernel density estimators, by a shift parameter and derive their asymptotic properties. Our approach facilitates the unified study of a wide range of density estimators which are subsumed under these two general classes of kernel density estimators. We demonstrate our method by deriving the asymptotic bias, variance, and mean (integrated) squared error of density estimators with gamma, log-normal, Birnbaum-Saunders, inverse Gaussian and reciprocal inverse Gaussian kernels. We propose two new density estimators for positive random variables that yield properly-normalised density estimates. Plugin expressions for bandwidth estimation are provided to facilitate easy exploratory data analysis.

연구 동기 및 목표

• 이동 파ram터를 도입하여 변수 대역폭 커널 밀도 추정기, 특히 발풍형 및 샘플 스무딩 유형의 渐近적 분석을 통합한다.
• 고밀도 및 저밀도 영역에서 편향과 분산의 균형을 맞추는 데에 한계를 보이는 고정 대역폭 KDE의 문제점을 해결한다.
• 감마, 로그정규, 역가우시안 등의 비대칭 커널의 적용 범위를 확장하여 경계 편향을 개선하고 적절한 정규화를 보장한다.
• 실용적인 탐색적 데이터 분석을 위해 플러그인 대역폭 선택 규칙을 도출한다.
• 양의 랜덤 변수에 대한 두 가지 새로운 밀도 추정기를 제안하여 적절히 정규화된 밀도 추정치를 제공한다.

제안 방법

• 커널 대역폭 함수에 이동 파ram터를 통합하여 이동된 발풍형 및 샘플 스무딩 추정기를 도입함으로써 편향과 분산을 제어한다.
• 복소해석학 및 잔여 이론을 사용하여, 특히 경로적분과 로렌트 급수 전개를 통해 편향, 분산 및 평균(통합) 제곱오차의 일반적 渐近적 표현식을 도출한다.
• 레마 1과 레마 2를 적용하여 추정기의 일차 및 이차 모멘트를 커널 및 대역폭 함수의 도함수로 표현한다.
• 모멘트 생성 함수 접근법에서 발생하는 경로적분을 잔여 정리로 평가함으로써 대역폭의 거듭제곱으로의 체계적 전개를 가능하게 한다.
• 유도된 편향 및 분산 표현식을 바탕으로 渐近적 MISE를 최소화함으로써 플러그인 대역폭 규칙을 도출한다.
• 감마, 로그정규, 비르누이엠-사이어너스, 역가우시안, 역가우시안-역가우시안의 다섯 가지 특정 비대칭 커널에 대해 프레임워크를 적용하여 검증한다.

실험 결과

연구 질문

• RQ1 어떻게 넓은 범위의 비대칭 커널 밀도 추정기에서 일관된 방식으로 渐近적 편향, 분산, 평균 통합 제곱오차를 유도할 수 있는가?
• RQ2 이동 파ram터의 도입이 발풍형 및 샘플 스무딩 추정기의 편향 및 정규화 성질에 어떤 영향을 미치는가?
• RQ3 한 개의 프레임워크로 발풍형 및 샘플 스무딩 추정기의 비대칭 커널 분석을 통합할 수 있는가?
• RQ4 MISE를 최소화하기 위해 다양한 비대칭 커널 간에 일관된 플러그인 대역폭 규칙을 어떻게 도출할 수 있는가?
• RQ5 이 통합 프레임워크를 사용하여 양의 랜덤 변수에 대한 새로운 적절히 정규화된 밀도 추정기를 어떻게 구성할 수 있는가?

주요 결과

• 통합 프레임워크는 감마, 로그정규, 비르누이엠-사이어너스, 역가우시안, 역가우시안-역가우시안 커널을 포함한 광범위한 비대칭 커널 추정기의 일관된 渐近적 편향, 분산, MISE 유도를 가능하게 한다.
• 이동된 샘플 스무딩 추정기의 渐近적 분산은 $ \frac{f(x)\kappa}{nh(x)} + o(n^{-1}h^{-1}(x)) $ 로 표현되며, 여기서 $ \kappa $ 는 제곱 커널의 적분이다.
• 이동된 샘플 스무딩 추정기의 첫 번째 모멘트는 $ \left\langle \hat{f}(x) \right\rangle = B_0(x) + B_p(x) + o(h^p(x)) $ 로 표현되며, $ B_k(x) $ 는 밀도 및 대역폭 함수의 고차 도함수를 통해 정의된다.
• 이 프레임워크는 양의 랜덤 변수에 대한 두 가지 새로운 밀도 추정기를 도출하여 적절히 정규화되어 $ \int \hat{f}(x) \, dx = 1 $ 를 보장한다.
• 각 커널 유형에 대해 플러그인 대역폭 규칙이 도출되어 실용적 구현과 탐색적 데이터 분석을 용이하게 한다.
• 이 방법은 감마 및 역가우시안 커널이 양의 반직선에서 경계 편향을 제거하면서도 통합 프레임워크 하에서 유리한 渐近적 성질을 유지함을 확인한다.