[논문 리뷰] Multiple Testing in Nonparametric Hidden Markov Models: An Empirical Bayes Approach

Kweku Abraham, Ismaël Castillo외 1명|arXiv (Cornell University)|2021. 01. 11.

Bayesian Methods and Mixture Models참고 문헌 36인용 수 9

한 줄 요약

이 논문은 비모수 숨은 마르코프 모형(HMM)에서 다중 검정을 위한 경험 베이즈 절차를 제안하며, 후행 확률(ℓ-값)의 데이터 기반 임계치 설정을 통해 잘못 발견된 비율(FDR)을 통제하고 진짜 발견 비율(TDR)을 최대화한다. 이 방법은 최소 최대 최적 수렴 속도를 갖는 밀도 방출 밀도의 초상수 노름 추정기법에 기반하여 목표 FDR를 달성하고 최적 TDR를 달성하는 이론적 보장을 제공한다.

ABSTRACT

Given a nonparametric Hidden Markov Model (HMM) with two states, the question of constructing efficient multiple testing procedures is considered, treating one of the states as an unknown null hypothesis. A procedure is introduced, based on nonparametric empirical Bayes ideas, that controls the False Discovery Rate (FDR) at a user--specified level. Guarantees on power are also provided, in the form of a control of the true positive rate. One of the key steps in the construction requires supremum--norm convergence of preliminary estimators of the emission densities of the HMM. We provide the existence of such estimators, with convergence at the optimal minimax rate, for the case of a HMM with $J\ge 2$ states, which is of independent interest.

연구 동기 및 목표

• 사용자가 지정한 수준에서 잘못 발견된 비율(FDR)을 통제하는 비모수 HMM에서의 경험 베이즈 다중 검정 절차를 개발한다.
• FDR 통제 하에 진짜 발견 비율(TDR)을 최대화하여 높은 통계적 검정력을 확보한다.
• 모델 파라미터가 알려져 있지 않고 추정될 경우 FDR 및 TDR 통제에 대한 이론적 보장을 확립한다.
• 다중 검정 프레임워크와 독립적으로, 비모수 HMM에서 방출 밀도의 초상수 노름 추정기법을 구축한다.
• 모수적 모델링 가정이 FDR 및 TDR 성능을 심각하게 악화시킬 수 있음을 보여주며, 비모수 추정의 필요성을 정당화한다.

제안 방법

• 검정 통계량으로 각 상태가 귀무가설(θi = 0)일 확률인 후행 확률(ℓ-값)을 사용한다.
• Müller 등(2004)과 Sun & Cai(2009)의 방법을 따르며, 데이터 기반 임계치를 선택하여 조건부 기대 FDR이 목표 수준 t와 약간 일치하도록 한다.
• 모멘트 행렬 M^x, P, O, V의 경험적 형태를 사용한 모멘트 기반 접근법을 통해 초상수 노름 추정기법을 구성하며, 고유값 분해와 조건수 제어를 통한 정규화를 적용한다.
• 밀도 기저의 선형 독립성을 보장하고 모멘트 행렬의 안정적 역행렬 계산을 가능하게 하는 워치독 함수 집합(h1,…,hL₀)을 도입한다.
• 핵심 기반 스무딩(KL)과 행렬 역행렬 기법을 사용하여 추정기법을 구축하며, 연산자 노름에서 추정 오차의 이론적 경계를 도출한다.
• 초상수 노름에서의 방출 밀도 추정기법의 수렴 성질을 바탕으로, 추정 오차 경계의 전파를 통해 ℓ-값 임계치 설정 절차에서 FDR 및 TDR 통제를 이론적으로 도출한다.

실험 결과

연구 질문

• RQ1 모델 파라미터가 추정될 경우 비모수 HMM 환경에서 경험 베이즈 다중 검정 절차가 점차적으로 잘못 발견된 비율(FDR)을 통제할 수 있는가?
• RQ2 제안된 방법은 FDR 통제 하에 최적의 검정력(진짜 발견 비율(TDR))을 유지하는가?
• RQ3 비모수 HMM에서 J ≥ 2개 상태를 가질 경우, 초상수 노름에서의 방출 밀도 추정의 최적 수렴 속도는 무엇인가?
• RQ4 추정 노름의 선택(초상수 노름 대 L² 노름)이 경험 베이즈 다중 검정 절차의 성능에 어떤 영향을 미치는가?
• RQ5 모수적 HMM에서의 모델 불일치가 FDR 및 TDR 통제에 얼마나 심각하게 악영향을 미치며, 비모수 추정이 이를 완화할 수 있는가?

주요 결과

• 제안된 경험 베이즈 절차는 사용자가 지정한 수준 t에서 잘못 발견된 비율(FDR)을 통제하며, 미약한 규칙성 조건 하에 점차적으로 FDR이 t로 수렴한다.
• FDR 통제 하에 최적의 진짜 발견 비율(TDR)을 달성하며, 이는 다중 검정 관점에서 점차적으로 최적임을 보여준다.
• 비모수 HMM에서의 초상수 노름 추정기법은 이산 관측에서 파라미터 수렴 속도 N⁻¹/²을 달성하고, 정규성 s를 갖는 헬더 스무쓰한 밀도에서는 최소 최대 속도 (N/log N)⁻ˢ/(²ˢ⁺¹)를 달성한다.
• 비모수 HMM에서의 초상수 노름 추정의 최소 최대 속도는 기존의 고전적 i.i.d. 밀도 추정에서 알려진 하한값과 일치하여 최적임이 입증된다.
• 이론적 프레임워크는 초상수 노름 수렴에서 유도된 추정 오차 경계가 ℓ-값 오차 통제로 전파됨을 보여주며, FDR 및 TDR 보장을 가능하게 한다.
• 기존의 벤자민-호커베르그 절차와 달리 알려진 귀무분포가 필요로 하지 않는 점에서 이 방법은 알려지지 않은 귀무분포에 대해 강건하며, 모델 불일치 상황에서 모수적 대안보다 우수한 성능을 보인다.