[论文解读] Nearly Minimax Mixture Rules for One-sided Sequential Testing

Georgios Fellouris, Alexander G. Tartakovsky|arXiv (Cornell University)|Oct 5, 2011

Advanced Statistical Process Monitoring参考文献 22被引用 5

一句话总结

该论文通过优化混合分布以最小化最大Kullback-Leibler散度，为单边顺序假设检验开发了近乎极小化极大（nearly minimax）的混合规则。对于有限备择假设，构造了特定的混合分布以实现近乎极小化极大的性能；对于连续指数族备择假设，将Pollak的结果扩展至连续混合规则，证明其具有三阶渐近极小化极大性。

ABSTRACT

We study the behavior of mixture stopping rules in the one-sided sequential hypothesis testing problem with a simple null hypothesis and a composite alternative hypothesis. When the alternative hypothesis consists of a finite set of probability measures, we show how to select a par ticular mixing distribution in order to obtain a nearly minimax mixture test in the sense of minimizing the maximal Kullback-Leibler information. When the alternative hypothesis consists of a continuum of probability measures from a one-parameter exponential family, we extend the results of Pollak (1978) showing that there exists a mixing density such that the corresponding continuous mixture rule is not only second-order, but also third-order asympto tically minimax.

研究动机与目标

• 在简单零假设与复合备择假设下，为单边顺序检验开发近乎极小化极大的混合停时规则。
• 当备择假设由有限个概率测度组成时，识别出最优混合分布。
• 将现有关于二阶极小化极大的结果扩展至一参数指数族中连续备择假设的三阶渐近极小化极大性。
• 最小化备择假设空间中最大Kullback-Leibler信息量。

提出的方法

• 通过在备择假设上选择特定混合分布来构造混合停时规则，以最小化最坏情况下的Kullback-Leibler散度。
• 应用顺序分析与信息论技术，分析在最坏备择假设下混合规则的性能。
• 使用渐近分析，将Pollak（1978）针对离散备择假设的框架扩展至连续指数族。
• 利用二阶与三阶渐近展开，刻画连续混合规则的极小化极大行为。
• 证明所选混合密度可产生不仅具有二阶，而且具有三阶渐近极小化极大的规则。

实验结果

研究问题

• RQ1 如何设计混合规则，以在具有有限备择假设的单边顺序检验中实现近乎极小化极大的性能？
• RQ2 在有限备择假设情况下，何种混合分布能最优地最小化最大Kullback-Leibler散度？
• RQ3 混合规则的二阶极小化极大性质能否在连续指数族中扩展至三阶？
• RQ4 在单参数指数族中，是否存在一种连续混合规则，可对连续备择假设集合实现三阶渐近极小化极大性？

主要发现

• 对于有限备择概率测度集合，可选择特定混合分布，使对应的混合检验在最大Kullback-Leibler散度意义下近乎极小化极大。
• 在一参数指数族且备择假设为连续集合的情况下，存在一种混合密度，使得相应的连续混合规则具有三阶渐近极小化极大性。
• 所提出的混合规则通过最小化备择假设空间中最大信息论风险，实现了改进的性能保证。
• 研究结果将Pollak（1978）的二阶极小化极大结果扩展至连续设定下的三阶渐近极小化极大性。