[논문 리뷰] Inference in Perturbation Models, Finite Mixtures and Scan Statistics: The Volume-of-Tube Formula

Ramani S. Pilla, Catherine Loader|ArXiv.org|2005. 11. 20.

Bayesian Methods and Mixture Models참고 문헌 40인용 수 6

한 줄 요약

이 논문은 국소적 변동을 갖는 근본 모형을 통해 왜곡을 모델링함으로써, 혼합 모형의 차수 검정 및 공간 스캔 통계와 같은 비정규 통계 문제에 대한 통합적 추론 프레임워크를 개발한다. 상한 분포는 튜브의 부피 공식을 사용하여 근사화되며, 경계 파rameter와 특이점이 존재하는 경우에도 정확한 분위수 추정이 가능하다.

ABSTRACT

This research creates a general class of "perturbation models" which are described by an underlying "null" model that accounts for most of the structure in data and a perturbation that accounts for possible small localized departures. The perturbation models encompass finite mixture models and spatial scan process. In this article, (1) we propose a new test statistic to detect the presence of perturbation, including the case where the null model contains a set of nuisance parameters, and show that it is equivalent to the likelihood ratio test; (2) we establish that the asymptotic distribution of the test statistic is equivalent to the supremum of a Gaussian random field over a high-dimensional manifold (e.g., curve, surface etc.) with boundaries and singularities; (3) we derive a technique for approximating the quantiles of the test statistic using the Hotelling-Weyl-Naiman "volume-of-tube formula"; and (4) we solve the long-pending problem of testing for the order of a mixture model; in particular, derive the asymptotic null distribution for a general family of mixture models including the multivariate mixtures. The inferential theory developed in this article is applicable for a class of non-regular statistical problems involving loss of identifiability or when some of the parameters are on the boundary of the parametric space.

연구 동기 및 목표

• 유한 혼합 모형의 차수 검정 문제를 해결하는 데 초점을 맞추며, 특히 귀무가설에서 파rameter가 매개수 공간의 경계에 위치할 경우의 장기적인 과제를 해결한다.
• 귀무 모형이 식별 가능하지만 대립 모형에서 국소적 비정규 왜곡이 도입되는 왜곡 모형에 대한 일반적인 추론 이론을 개발한다.
• 유한 혼합 모형과 공간 스캔 과정과 같은 비정규 설정에서의 상한 통계량에 대한 분위수 근사 문제를 해결한다.
• 고차원, 비틀린 또는 특이한 매개수 공간에서 임계값을 계산하는 데 실용적이고 이론적으로 타당한 방법을 제공한다.
• 튜브의 부피 공식을 경계와 특이점을 가진 다양체로 확장하여 복잡한 모형에서 정확한 추론을 가능하게 한다.

제안 방법

• 귀무 밀도 $ f(x;\boldsymbol{\lambda}) $ 와 왜곡 $ \eta \psi(x;\boldsymbol{\theta}) $ 를 갖는 일반적인 왜곡 모형 클래스를 제안하며, $ \eta \in [0,1] $ 이다. 이는 국소적 변동을 모델링한다.
• 귀무가설 $ \mathcal{H}_0: \eta = 0 $ 대 대립가설 $ \mathcal{H}_1: \eta > 0 $ 에 대한 최대우도비 검정 통계량을 유도하며, 미세한 매끄러움 조건 하에서 표준 LRT와의 등가성을 보인다.
• LRT 통계량의 점근적 귀무분포가 경계와 특이점을 가진 고차원 다양체 위에서 가우스 랜덤 필드의 최대값과 일치함을 증명한다.
• 핫젤링-웨일-나이먼 튜브의 부피 공식을 적용하여, 부피, 경계 길이, 곡률, 모서리 측도와 같은 기하적 양을 계산함으로써 검정 통계량의 꼬리 확률을 근사한다.
• 튜브 부피의 4차항까지의 명시적 표현을 유도하며, 베타 분포 꼬리 확률을 사용하여 경계 및 모서리 보정을 포함한다.
• 차원 $ d=3 $ 까지 구현하며, 기하 계수 $ \kappa_0, \ell_0, \kappa_2, \ell_1, \nu_0, \ell_2, \nu_1, m_0 $ 의 기호 계산을 수행하고, 저차원에서 곡률 항을 단순화하기 위해 오일러-파oin카르에 특성수를 사용한다.

실험 결과

연구 질문

• RQ1 관심 있는 매개수가 매개수 공간의 경계에 위치할 경우, 최대우도비 검정의 점근적 귀무분포는 어떻게 근사할 수 있는가?
• RQ2 경계와 특이점을 가진 다각형 위에서 가우스 랜덤 필드의 최대값 분포에 대한 올바른 기하 근사 방법은 무엇인가?
• RQ3 튜브의 부피 공식은 혼합 모형과 스캔 통계에서 발생하는 비유한, 비볼록, 비틀린 매개수 공간을 다룰 수 있도록 확장될 수 있는가?
• RQ4 경계 및 모서리 효과는 어떻게 체계적으로 튜브 공식에 통합되어 고차원 추론의 정확도를 향상시킬 수 있는가?
• RQ5 다변량 혼합 모형을 포함한, 유한 혼합 모형의 차수에 대한 최대우도비 검정의 정확한 점근적 귀무분포는 무엇인가?

주요 결과

• 왜곡 모형의 최대우도비 검정 통계량의 점근적 귀무분포는 경계와 특이점을 가진 다각형 위에서 가우스 랜덤 필드의 최대값과 동일하다.
• 튜브의 부피 공식은 표준 카이제곱 근사가 실패하는 비정규 설정에서도 검정 통계량의 분위수를 정확하게 근사한다.
• 경계 및 모서리 보정은 경계 부피 $ \ell_0 $, 곡률 $ \kappa_2 $, 그리고 회전 측도 $ \ell_1, \nu_0 $ 를 포함하는 기하 적분을 통해 유도되며, 베타 분포 꼬리 확률로 명시적으로 표현된다.
• $ d=2 $ 인 경우, 오일러-파oin카르에 특성수는 $ \mathcal{E} = 1 $ 일 때 $ \kappa_2, \ell_1, \nu_0 $ 를 직접 계산할 필요 없이 계산을 단순화한다.
• 튜브 부피 전개의 주요 항은 $ \zeta_0^J = \int_{\boldsymbol{\Theta}} \left| \det[\nabla_1 \nabla_2^T \rho_J(\boldsymbol{\theta}, \boldsymbol{\theta})] \right|^{1/2} d\boldsymbol{\theta} $ 이며, 이는 매개수 다각형의 내재 부피를 나타낸다.
• 이 방법은 차원 $ d=3 $ 까지 구현되었으며, 튜브 공식의 모든 기하 항목을 4차 보정까지 포함하는 완전한 소프트웨어 라이브러리가 제공된다.