[論文レビュー] Analyzing and provably improving fixed budget ranking and selection algorithms

Di Wu, Enlu Zhou|arXiv (Cornell University)|Nov 26, 2018

Simulation Techniques and Applications参考文献 21被引用数 5

ひとこと要約

本稿は、固定予算ランキング・アンド・セレクション（R&S）アルゴリズムの収束速度を分析し、特に最適計算予算配分（OCBA）およびその変種に焦点を当てる。定数の初期サンプルサイズでは指数的でない収束が生じることを証明し、全予算に比例して初期サンプルサイズを増加させることで指数的収束を達成する手法を提案。有限サンプルバウンドと数値実験により検証された。

ABSTRACT

This paper studies the fixed budget formulation of the Ranking and Selection (R&S) problem with independent normal samples, where the goal is to investigate different algorithms' convergence rate in terms of their resulting probability of false selection (PFS). First, we reveal that for the well-known Optimal Computing Budget Allocation (OCBA) algorithm and its two variants, a constant initial sample size (independent of the total budget) only amounts to a sub-exponential (or even polynomial) convergence rate. After that, a modification is proposed to achieve an exponential convergence rate, where the improvement is shown by a finite-sample bound on the PFS as well as numerical results. Finally, we focus on a more tractable two-design case and explicitly characterize the large deviations rate of PFS for some simplified algorithms. Our analysis not only develops insights into the algorithms' properties, but also highlights several useful techniques for analyzing the convergence rate of fixed budget R\&S algorithms.

研究の動機と目的

• 固定予算R&Sアルゴリズム、特にOCBAおよびその変種の収束速度を厳密に分析すること。
• 既存のOCBA型アルゴリズムにおける収束の悪さの根本的原因を特定すること、特に定数の初期サンプルサイズの影響を特定すること。
• 初期サンプルサイズを全予算に比例して線形に増加させるように変更したOCBAアルゴリズムを提案し、誤検出確率（PFS）における指数的収束を達成すること。
• 改善されたアルゴリズムのPFSに対する有限サンプルバウンドを導出し、数値的に性能を検証すること。
• 単純化された2設計設定におけるPFSの大偏差レートを特徴づけ、アルゴリズムの挙動に関する理論的洞察を提供すること。

提案手法

• 大偏差理論を用いて、固定予算R&Sにおける誤検出確率（PFS）の漸近的減少率を分析する。
• 初期サンプルサイズが全予算に比例して線形に増加するように変更されたOCBAアルゴリズムのPFSに対する有限サンプル上界を導出する。
• ガウス分布の尾部バウンドと一様収束の議論を用いて、2設計ケースにおけるPFSの大偏差レートを確立する。
• 2段階のサンプリング戦略を採用：最初に全予算の割合に応じて初期サンプルを割り当て、その後に逐次的割り当てを実施。
• 設計間の推定性能差のサンプリング分布を非心t分布でモデル化する。
• ラプラース法と極値理論を用いて、大偏差下でのPFS積分の漸近的挙動を分析する。

実験結果

リサーチクエスチョン

• RQ1 定数の初期サンプルサイズを用いる既存のOCBA型アルゴリズムが、PFSにおいて指数的でない収束を示すのはなぜか？
• RQ2 初期サンプル割り当て戦略を変更することで、OCBAの収束速度を指数的なものに改善できるか？
• RQ3 2設計ケースにおける単純化されたR&SアルゴリズムのPFSの大偏差レートは何か？
• RQ4 初期サンプルサイズの選択が、固定予算R&Sアルゴリズムの有限サンプル性能に与える影響は何か？
• RQ5 固定予算下で改善されたOCBA変種のPFSに対して、有限サンプルバウンドを導出できるか？

主な発見

• OCBAおよびその変種における定数の初期サンプルサイズは、誤検出確率（PFS）に対して指数的でない、あるいは多項式の収束速度をもたらす。
• 全予算に比例して初期サンプルサイズを増加させることで、PFSは指数的に高速に収束することが、有限サンプルバウンドにより証明された。
• 提案された修正により指数的収束が達成され、PFSの減少レートにおいて、元のOCBAを著しく上回った。
• 2設計ケースでは、PFSの大偏差レートが明示的に特徴づけられ、最適割り当て戦略が理論的限界と一致することが示された。
• 数値実験により理論的改善が確認され、修正されたアルゴリズムではPFSの減少が著しく速くなった。
• 分析により、特に境界点付近でのlog-PFS密度の一様収束が、大偏差レートを導出する上で極めて重要であることが明らかになった。