[논문 리뷰] A Bandit Approach to Multiple Testing with False Discovery Control

Kevin Jamieson, Lalit Jain|arXiv (Cornell University)|2018. 09. 06.

Advanced Bandit Algorithms Research참고 문헌 29인용 수 10

한 줄 요약

이 논문은 다중 가설 검정을 위한 밴딧 유사 적응적 샘플링 알고리즘을 제안하며, 통계적 검정력(Statistical Power)을 극대화하면서도 언제든지 적용 가능한 거짓 발견률(FDR) 제어를 보장한다. 순차적 피드백에 기반해 유망한 가설에 샘플을 동적으로 할당함으로써, 이론적 하한선에 가까운 샘플 복잡도를 달성하고 시뮬레이션에서 균일 샘플링 및 적응형 제거 전략보다 뛰어난 성능을 보인다.

ABSTRACT

We propose an adaptive sampling approach for multiple testing which aims to maximize statistical power while ensuring anytime false discovery control. We consider $n$ distributions whose means are partitioned by whether they are below or equal to a baseline (nulls), versus above the baseline (actual positives). In addition, each distribution can be sequentially and repeatedly sampled. Inspired by the multi-armed bandit literature, we provide an algorithm that takes as few samples as possible to exceed a target true positive proportion (i.e. proportion of actual positives discovered) while giving anytime control of the false discovery proportion (nulls predicted as actual positives). Our sample complexity results match known information theoretic lower bounds and through simulations we show a substantial performance improvement over uniform sampling and an adaptive elimination style algorithm. Given the simplicity of the approach, and its sample efficiency, the method has promise for wide adoption in the biological sciences, clinical testing for drug discovery, and online A/B/n testing problems.

연구 동기 및 목표

• 다중 검정에서 통계적 검정력을 극대화하면서도 언제든지 적용 가능한 거짓 발견률(FDR) 제어를 보장하는 적응적 샘플링 전략을 개발한다.
• 균일 샘플링 및 히우리스틱적 적응 방법의 한계를 해결하며, 하위최적의 검정력이나 통제되지 않은 거짓 발견을 초래할 수 있다.
• 다중 검정에서 FDR 제어를 위한 알려진 정보 이론적 하한선과 일치하는 샘플 복잡도를 달성한다.
• 측정 예산이 제한된 환경(예: 임상 시험, 신약 개발, 온라인 A/B/n 테스트)에서의 실용적 구현을 가능하게 한다.
• 관측된 결과에 기반해 동적으로 샘플을 할당하는 이론적으로 탄탄하고 단순하며 효율적인 알고리즘을 제공한다.

제안 방법

• 알고리즘은 다중 손실 밴딧 프레임워크를 사용하여 평균이 알려지지 않은 n개의 분포(아이템)에서 순차적으로 샘플을 추출하며, 각 아이템은 귀무가설(평균 = μ₀) 또는 실제 양성(평균 > μ₀)일 수 있다.
• 각 시간 단계에서 알고리즘은 추정된 효과 크기 기반으로 아이템을 선택하고, 순차적 신뢰구간에서 유도된 임계값 규칙을 사용하여 발견 항목(예측된 양성) 집합을 유지한다.
• 벤자민-호크베르그 절차에 기반한 동적으로 업데이트되는 기각 임계값을 통해 FDR 제어를 유지하면서도, 더 높은 추정 효과 크기를 가진 아이템을 우선순위로 배정하는 새로운 적응적 샘플링 규칙을 도입한다.
• 집중 불등식(예: 버진스 및 도보레츠키-키퍼-울프스키 불등식)을 사용하여 경험 평균에 대한 시간에 관계없이 적용 가능한 신뢰구간을 구축함으로써 언제든지 FDR 제어를 가능하게 한다.
• 이론적 보장이 있는 바탕으로 총 샘플 수를 최소화하여 목표 진짜 양성 비율을 달성하기 위해 샘플 할당을 동적으로 조정한다.
• 이중 간격에 대한 유니온 바운드와 마틴게일 추론을 활용하여 경험 과정에 대한 고확률 경계를 도출함으로써 모든 시간 단계에서의 강인성을 확보한다.

실험 결과

연구 질문

• RQ1 적응적 샘플링 전략은 다중 검정에서 언제든지 FDR 제어를 유지하면서도 균일 샘플링보다 높은 통계적 검정력을 달성할 수 있는가?
• RQ2 모든 실제 양성 항목의 효과 크기가 동일한 경우에도 적응적 할당이 성능상의 이점을 제공하는가?
• RQ3 FDR 제어를 위한 적응적 다중 검정의 최적 샘플 복잡도는 무엇이며, 정보 이론적 하한선과 일치하는가?
• RQ4 온라인 순차적 검정 환경에서 FDR을 모든 시간 단계에 걸쳐 균일하게 제어할 수 있는가?
• RQ5 단순한 밴딧 유사 알고리즘이 샘플 효율성과 발견 비율 측면에서 거의 최적의 성능을 달성할 수 있는가?

주요 결과

• 제안된 알고리즘은 FDR 제어를 위한 알려진 정보 이론적 하한선과 일치하는 샘플 복잡도를 달성한다.
• 시뮬레이션에서 균일 샘플링 및 적응형 제거 전략보다 뚜렷이 뛰어나며, 더 적은 샘플로 더 높은 진짜 양성 비율을 달성한다.
• 모든 실제 양성 항목의 효과 크기가 동일한 경우에도, 동일한 FDR 제약 조건 하에서 적응적 할당은 균일 샘플링보다 상당한 검정력 우월성을 보인다.
• 알고리즘은 언제든지 FDR 제어를 보장하며, 이는 기저 문제 인스턴스에 관계없이 모든 시간 단계에서 기대 거짓 발견 비율이 δ 이하로 유지됨을 의미한다.
• 이론적 분석을 통해 일반적인 서브가우시안 노이즈 하에서도 FDR 제어가 유지됨을 확인하였으며, 마틴게일 집중 불등식과 시간 간격에 대한 유니온 바운드를 통해 유도된 경계를 제시한다.
• 알고리즘의 단순성과 강력한 이론적 보장은 생물학, 임상 검사, 온라인 A/B/n 실험과 같은 실세계 응용 분야에 매우 적합하다.