[论文解读] Optimal sequential multiple hypothesis tests

Andrey Novikov|ArXiv.org|Nov 8, 2008

Advanced Statistical Process Monitoring参考文献 7被引用 23

一句话总结

本文在贝叶斯和条件设定下，为离散时间随机过程开发了最优的顺序多重假设检验。通过拉格朗日松弛法刻画了最优停止规则的结构，推导出在误差概率约束下最小化期望样本量的显式形式，关键结果表明最优检验满足基于似然比和先验权重的特定阈值条件。

ABSTRACT

This work deals with a general problem of testing multiple hypotheses about the distribution of a discrete-time stochastic process. Both the Bayesian and the conditional settings are considered. The structure of optimal sequential tests is characterized.

研究动机与目标

• 刻画关于随机过程分布的多重假设最优顺序检验的结构。
• 解决两个优化问题：在个体第一类错误约束下最小化期望样本量（问题 I），以及在总体错误约束下最小化期望样本量（问题 II）。
• 通过最小化各假设下期望样本量的加权平均，将框架扩展至贝叶斯设定。
• 提供一种统一的方法，利用拉格朗日乘子和递归向后推导，推导最优停止规则。
• 建立最优检验唯一且满足基于阈值的停止规则的条件。

提出的方法

• 使用拉格朗日乘子，将约束优化问题（I 和 II）转化为无约束最小化问题。
• 通过在所有可能的决策规则上最小化拉格朗日函数，推导出每个停止时间的最优决策规则。
• 应用向后推导方法，从有限horizon $ N $ 开始递归计算值函数 $ V_r $，并取 $ N \to \infty $ 的极限。
• 将最优停止规则刻画为阈值规则：$ \psi_r = I_{\{l_r \leq \int f_\theta^r d\pi(\theta) + \int V_{r+1} d\mu(x_{r+1})\}} $。
• 使用递归方程 $ V_r^N = \min\{l_r, \int f_\theta^r d\pi(\theta) + \int V_{r+1}^N d\mu(x_{r+1})\} $，其中 $ V_N^N \equiv l_N $。
• 通过比较证明最优性：若某一检验在达到相同错误率和样本量时与最优检验一致，则其必须满足相同的阈值条件。

实验结果

研究问题

• RQ1 在多重假设下，满足个体第一类错误约束时，最小化期望样本量的最优停止规则是什么？
• RQ2 当约束从个体错误改为错误决策的总概率（总体错误）时，最优检验结构如何变化？
• RQ3 能否通过统一贝叶斯与最小最大方法的拉格朗日松弛框架，推导出最优顺序检验？
• RQ4 在存在依赖观测和多重假设的情况下，何种条件可确保停止规则的唯一性和最优性？
• RQ5 如何将解扩展至最小化不同假设下期望样本量的加权平均？

主要发现

• 最优停止规则是基于后验似然比和继续值的阈值规则，其中 $ \psi_r = I_{\{l_r \leq \int f_\theta^r d\pi(\theta) + \int V_{r+1} d\mu(x_{r+1})\}} $。
• 对于问题 I，最优检验满足 $ \psi_r = I_{\{l_r \leq \sum_{i \neq j} \lambda_{ij} f_{\theta_i}^r + \int V_{r+1} d\mu(x_{r+1}) \}} $，其中 $ \lambda_{ij} $ 为拉格朗日乘子。
• 对于问题 II，使用相等的拉格朗日权重 $ \lambda_{ij} = \lambda_i $（对所有 $ j \neq i $），导致基于所有错误假设似然比之和的阈值规则。
• 最优决策规则 $ \phi $ 满足 $ \phi_{nj} \leq I_{\{\sum_{i \neq j} \lambda_i f_{\theta_i}^n = \min_j \sum_{i \neq j} \lambda_i f_{\theta_i}^n \}} $，确保选择加权似然和最小的假设。
• 若某一检验在达到相同错误率和期望样本量时与最优检验一致，则其必须满足相同的阈值条件，从而证明最优停止规则的唯一性。
• 该方法可扩展至贝叶斯情形，通过最小化 $ \int N(\theta; \psi) d\pi(\theta) $，得到最优停止规则 $ \psi_r = I_{\{l_r \leq \int f_\theta^r d\pi(\theta) + \int V_{r+1} d\mu(x_{r+1})\}} $。