[论文解读] Analyzing and provably improving fixed budget ranking and selection algorithms

Di Wu, Enlu Zhou|arXiv (Cornell University)|Nov 26, 2018

Simulation Techniques and Applications参考文献 21被引用 5

一句话总结

本文分析了固定预算排序与选择（R&S）算法的收敛速率，特别聚焦于最优计算预算分配（OCBA）及其变体。研究证明，恒定的初始样本量会导致次指数收敛，提出将初始样本量随总预算线性增加，以实现指数收敛，该结论通过有限样本界和数值实验得到验证。

ABSTRACT

This paper studies the fixed budget formulation of the Ranking and Selection (R&S) problem with independent normal samples, where the goal is to investigate different algorithms' convergence rate in terms of their resulting probability of false selection (PFS). First, we reveal that for the well-known Optimal Computing Budget Allocation (OCBA) algorithm and its two variants, a constant initial sample size (independent of the total budget) only amounts to a sub-exponential (or even polynomial) convergence rate. After that, a modification is proposed to achieve an exponential convergence rate, where the improvement is shown by a finite-sample bound on the PFS as well as numerical results. Finally, we focus on a more tractable two-design case and explicitly characterize the large deviations rate of PFS for some simplified algorithms. Our analysis not only develops insights into the algorithms' properties, but also highlights several useful techniques for analyzing the convergence rate of fixed budget R\&S algorithms.

研究动机与目标

• 严格分析固定预算排序与选择（R&S）算法的收敛速率，特别关注OCBA及其变体。
• 识别现有OCBA类算法收敛性能不佳的根本原因，特别是恒定初始样本量的影响。
• 提出一种改进的OCBA算法，采用线性增长的初始样本量，以实现在错误选择概率（PFS）上的指数收敛。
• 为改进算法推导PFS的有限样本界，并通过数值实验验证其性能。
• 在简化的两设计场景下，刻画PFS的罕见事件衰减速率，以提供对算法行为的理论洞察。

提出的方法

• 使用大偏差理论分析固定预算R&S中错误选择概率（PFS）的渐近衰减速率。
• 为具有线性增长初始样本量的改进OCBA算法，推导PFS的有限样本上界。
• 应用高斯尾部界和一致收敛论证，建立两设计情形下PFS的大偏差速率。
• 采用两阶段采样策略：初始样本按总预算的比例分配，随后进行顺序分配。
• 使用非中心t分布建模设计间性能差异估计值的抽样分布。
• 应用拉普拉斯方法和极值理论，分析在大偏差条件下PFS积分的渐近行为。

实验结果

研究问题

• RQ1 为何现有OCBA类算法在采用恒定初始样本量时，PFS呈现次指数收敛？
• RQ2 通过修改初始样本分配策略，能否将OCBA的收敛速率提升至指数级？
• RQ3 在两设计情形下，简化R&S算法的PFS大偏差速率为何？
• RQ4 初始样本量的选择如何影响固定预算R&S算法的有限样本性能？
• RQ5 能否为改进的OCBA变体在固定预算下推导出PFS的有限样本界？

主要发现

• OCBA及其变体中采用恒定初始样本量，会导致错误选择概率（PFS）的收敛速率为次指数甚至多项式。
• 通过将初始样本量随总预算线性增加，PFS可实现指数级快速收敛，该结论已通过有限样本界得到证明。
• 所提出的改进方法实现了指数收敛，显著优于原始OCBA在PFS衰减速率方面的表现。
• 在两设计情形下，PFS的大偏差速率被明确刻画，表明最优分配策略与理论极限一致。
• 数值实验验证了理论改进，表明改进算法能更快速地降低PFS。
• 分析表明，对数PFS密度的一致收敛性在推导大偏差速率时至关重要，尤其是在边界点附近。