[논문 리뷰] Kernel Estimator and Bandwidth Selection for Density and its Derivatives: The kedd Package

Arsalane Chouaib Guidoum|arXiv (Cornell University)|2020. 12. 11.

Statistical Methods and Inference참고 문헌 32인용 수 11

한 줄 요약

kedd R 패키지는 커널 밀도 추정 및 그 유도항에 대한 종합적이고 객체 지향적인 프레임워크를 제공하며, AMISE, 교차검증 변형(UCV, BCV, CCV, MCV, TCV)을 포함한 고급 대역폭 선택 방법과 다수의 커널 함수 지원을 제공한다. 이는 S3 모델 객체를 통한 확장성과 시각화 기능을 제공함으로써 정확하고 유연하며 사용자 友好的한 비모수적 밀도 및 도함수 추정을 가능하게 한다.

ABSTRACT

The kedd package providing additional smoothing techniques to the R statistical system. Although various packages on the Comprehensive R Archive Network (CRAN) provide functions useful to nonparametric statistics, kedd aims to serve as a central location for more specifically of a nonparametric functions and data sets. The current feature set of the package can be split in four main categories: compute the convolutions and derivatives of a kernel function, compute the kernel estimators for a density of probability and its derivatives, computing the bandwidth selectors with different methods, displaying the kernel estimators and selection functions of the bandwidth. Moreover, the package follows the general R philosophy of working with model objects. This means that instead of merely returning, say, a kernel estimator of rth derivative of a density, many functions will return an object containing, it's functions are S3 classes (S3method). The object can then be manipulated at one's will using various extraction, summary or plotting functions. Whenever possible, we develop a graphical user interface of the various functions of a coherent whole, to facilitate the use of this package.

연구 동기 및 목표

• 일관된 인터페이스 설계를 갖춘 비모수적 밀도 및 도함수 추정을 위한 통합적이고 사용자 友好的한 R 패키지의 부족을 보완하기 위해.
• 밀도 함수의 r차 도함수를 위한 광범위한 대역폭 선택 방법(AMISE, UCV, BCV, CCV, MCV, TCV)을 구현하기 위해.
• 커널 추정기와 대역폭 선택기의 통합된 S3 객체 지향 프레임워크를 제공하여 일관된 추출, 요약 및 플로팅 작업을 가능하게 하기 위해.
• 가우스, 에파네치니코프, 균일, 삼각형, 트라이웨이트, 트리큐브, 바이웨이트,余弦 등의 다수의 커널 함수를 지원하며, 해석적 도함수와 컨볼루션을 제공하기 위해.
• 그래픽 사용자 인터페이스와 통합된 시각화 도구를 통해 사용성 향상 및 대역폭 선택 함수와 커널 성질의 시각적 분석을 가능하게 하기 위해.

제안 방법

• S3 클래스를 사용하여 커널 추정기와 대역폭 선택기를 캡슐화하여, 추출, 요약, 플로팅 함수를 통한 일관된 객체 지향적 조작을 가능하게 한다.
• 가우스 커널의 경우 헤르미트 다항식을 활용한 해석적 계산을 통해 커널 도함수를 구현하고, 나머지 커널의 경우 수치적 방법을 적용한다.
• 도함수 커널의 곱의 수치적 통합을 통해 컨볼루션을 계산하며, 이는 교차검증 기준에 필수적이다.
• 다양한 대역폭 선택기 적용: AMISE(점근적 평균 제곱오차), UCV(편향 없는 교차검증), BCV(편향 있는 교차검증), CCV(완전한 교차검증), MCV(수정된 교차검증), TCV(자르기 교차검증).
• r차 도함수 커널의 공식 적용: $ K^{(r)}(x) = \frac{d^r}{dx^r} K(x) $ 및 그 컨볼루션: $ K^{(r)} * K^{(r)}(x) = \int_{\mathbb{R}} K^{(r)}(x) K^{(r)}(x-y) dy $.
• TCV 기준 적용: $ \mathrm{TCV}(h,r) = \frac{\mathrm{R}(K^{(r)})}{n h^{2r+1}} + \frac{(-1)^r}{n(n-1)h^{2r+1}} \sum_{i \neq j} \varphi^{(r)}\left(\frac{X_j - X_i}{h}\right) $, 여기서 $ \varphi^{(r)}(c) = \left[K^{(r)} * K^{(r)} - 2K^{(2r)} \cdot 1(|c| > c_n / h^{2r+1}) \right](c) $, $ c_n = 1/n $.

실험 결과

연구 질문

• RQ1 일관된 S3 객체 지향 원칙을 기반으로 한 통합적이고 확장 가능한 R 패키지를 설계하여 커널 밀도 추정 및 그 도함수를 어떻게 지원할 수 있는가?
• RQ2 AMISE, UCV, BCV, CCV, MCV, TCV 등의 대역폭 선택 방법 중 밀도 함수의 r차 도함수 추정에 있어 최적의 성능을 보이는 것은 무엇인가?
• RQ3 가우스, 에파네치니코프, 균일 등 다양한 커널 함수는 밀도 및 도함수 추정기의 정확성과 안정성에 어떤 영향을 미치는가?
• RQ4 대역폭 선택이 다중모달 분포의 경우 밀도 도함수의 시각화 및 해석에 어떤 영향을 미치는가?
• RQ5 그래픽 사용자 인터페이스는 적용 연구자들이 고급 비모수적 밀도 추정 기법의 접근성과 사용성을 어떻게 향상시킬 수 있는가?

주요 결과

• kedd 패키지는 밀도의 r차 도함수를 위한 일곱 가지 대역폭 선택기(AMISE, UCV, BCV, CCV, MCV, TCV, MLCV)를 성공적으로 구현하였으며, 이중 빈도수 분포 데이터의 0차 도함수(밀도)에 대해 h.tcv는 대역폭 0.257을 반환한다.
• 1차 도함수(r=1)의 경우 TCV 방법이 대역폭 0.510을 선택하여, 도함수 추정은 밀도 추정보다 더 높은 스무딩이 필요함을 시사한다.
• 2차 도함수(r=2)는 대역폭 0.656을 선택하고, 3차 도함수(r=3)는 0.745를 선택하여, 고차 도함수의 분산 증가에 따라 기대한 바와 같이 대역폭이 체계적으로 증가하는 경향을 보였다.
• 패키지의 S3 객체 시스템은 대역폭, 추정기, 요약 정보의 원활한 추출을 가능하게 하며, h.mcv 및 h.tcv와 같은 함수는 최적의 대역폭과 최소 기준값을 동시에 반환한다.
• TCV 방법은 3차 도함수의 경우 최소 기준값 -3.962를 기록하여, 자르기 교차검증 기준 하에서 추정 오차를 최소화하는 데 뛰어난 성능을 보였다.
• 패키지는 예를 들어 가우스 커널의 첫 번째 도함수와 그 컨볼루션과 같은 커널 도함수 및 컨볼루션의 시각화를 지원하며, 이는 대역폭 선택기의 행동 이해에 필수적이다.