[논문 리뷰] The Jackknife Estimation Method

Avery McIntosh|arXiv (Cornell University)|2016. 06. 01.

Advanced Statistical Methods and Models참고 문헌 7인용 수 8

한 줄 요약

이 논문은 통계적 추론에서 편향 보정 및 표준 오차 추정을 위한 리샘플링 기법으로 잭나이프 추정 방법을 제시한다. 표본에서 하나의 관측치를 체계적으로 제거하고 추정량을 재계산함으로써 잭나이프는 부트스트랩의 선형 근사에 해당하며, 특정 조건 하에서 부트스트랩과 점차적으로 동일한 분산 추정을 제공한다.

ABSTRACT

Statistical resampling methods have become feasible for parametric estimation, hypothesis testing, and model validation now that the computer is a ubiquitous tool for statisticians. This essay focuses on the resampling technique for parametric estimation known as the Jackknife procedure. To outline the usefulness of the method and its place in the general class of statistical resampling techniques, I will quickly delineate two similar resampling methods: the bootstrap and the permutation test. I then outline the Jackknife method and show an example of its use.

연구 동기 및 목표

• 패러미터 추정에서 편향과 표준 오차를 추정하기 위한 부트스트랩의 실용적 대안으로 잭나이프 방법을 소개하는 것.
• 이론적 분산 공식이 구하기 어려운 경우나 이용할 수 없을 때 잭나이프가 통계적 추론에서 수행하는 역할을 명확히 하는 것.
• 잭나이프와 부트스트랩 간의 이론적 관계를 특히 확률 벡터의 단체에서의 선형 근사에 의해 설정하는 것.
• 복잡한 추정량에 대해 잭나이프가 계산적으로 실현 가능하고 점차적으로 타당한 부트스트랩의 대안이 되는 방법을 보여주는 것.
• 유전자 집합 부화 분석에서 불안정성을 해결하기 위해, 유전자 수가 적은 온토로지 카테고리에 대해 잭나이프 기반의 p값 보정을 적용하는 것.

제안 방법

• 잭나이프는 원본 표본 크기 n에서 하나의 관측치를 순차적으로 제거하여 n개의 고유한 표본을 생성함으로써 n개의 잭나이프 표본을 생성한다.
• 각 잭나이프 표본에 대해 추정량 θ̂가 재계산되어 n개의 복제치 θ̂(i)를 생성하며, 이는 편향과 표준 오차 추정의 기초가 된다.
• 잭나이프 표준 오차는 SE(θ̂)jack = [(n−1)/n × Σ(θ̂(i) − θ̂(⋅))²]¹ᐟ²로 계산되며, 여기서 θ̂(⋅)은 복제치의 평균이다.
• 메서드는 확률 단체 위에서 기능 T(P*)에 대한 선형 근사 T^LIN을 사용하며, 여기서 P*는 경험 분포를 나타낸다.
• 이론적 동등성은 선형 근사 T^LIN의 분산을 통해 입증되며, 이는 잭나이프 분산과 스케일링 인자 외에는 동일하다.
• 잭나이프는 유전자 집합 부화 분석에 적용되어, 하나의 유전자를 제거하고 p값을 재계산함으로써 유전자 수가 적은 카테고리에서의 허위 유의성 문제를 보정한다.

실험 결과

연구 질문

• RQ1 복잡한 추정량에 대해 잭나이프 방법이 부트스트랩과 비교하여 표준 오차와 편향을 어떻게 추정하는가?
• RQ2 잭나이프가 경험 확률 벡터의 단체 전역에서 부트스트랩에 대해 선형 근사로 어떻게 기능하는가?
• RQ3 다항 모수 샘플링 모델 하에서 잭나이프가 부트스트랩과 점차적으로 동일한 이유는 무엇인가?
• RQ4 잭나이프는 작은 또는 불안정한 온토로지 카테고리에서 통계적 추론의 신뢰성을 어떻게 향상시키는가?
• RQ5 잭나이프 기반의 p값 보정이 생물학적 데이터 분석에서 부화 결과의 안정성과 해석 가능성에 어떤 영향을 미치는가?

주요 결과

• 잭나이프는 부트스트랩의 계산적으로 실현 가능한 대안을 제공하며, 특히 복제 수가 지수적으로 증가하여 정확한 부트스트랩 계산이 불가능한 경우에 유용하다.
• 잭나이프 분산 추정은 단체 위에서 기능 T(P*)의 선형 근사에 대해 점차적으로 부트스트랩 분산과 동일하다.
• 잭나이프 표준 오차는 대규모 표본에서 델타 방법과 수학적으로 동일하며, 분석적 분산 공식이 이용 불가능한 경우 강력한 대안을 제공한다.
• 잭나이프 방법은 유전자 수가 적은 카테고리에 대해 페널티를 주어 p값을 안정화시켜 단일 유전자 히트에서 발생하는 거짓 양성 결과를 줄이는 데 효과적이다.
• n=3일 때, 잭나이프 복제치는 부트스트랩 표면을 근사하는 초평면 위에 위치하며, 선형 근사의 분산은 잭나이프 분산과 (n−1)/n 요인 외에는 동일하다.
• 잭나이프 방법은 모든 순열을 고려함으로써 순열 검정에서 유형 I 오류의 과잉 증가 위험을 줄이지만, 일반적으로 큰 n에 대해 몬테카를로 샘플링을 통해 근사화된다.